Техники инженерии подсказок

В этом руководстве не подробно описана структура сообщений для завершения чата. Если вы не знакомы с моделями завершения чата программными средствами, рекомендуем сначала ознакомиться с нашим руководством по API завершения чата.

Обучение с малым числом примеров

Распространенный способ адаптации языковых моделей к новым задачам — использование обучения с малым количеством примеров. В обучении с несколькими примерами набор обучающих примеров предоставляется в качестве подсказки, чтобы предоставить модели дополнительный контекст.

При использовании API завершения чата ряд сообщений между пользователем и помощником (написанным в новом формате запроса), может служить примерами для обучения с несколькими выстрелами. Эти примеры можно использовать для создания модели для реагирования определенным образом, эмуляции конкретных действий и начальных ответов на распространенные вопросы.

В приведенной выше таблице описана базовая структура запроса, но для подробного объяснения точного формата запроса вам следует обратиться к Руководству по завершению чата.

Сценарии без чата

Хотя API завершения чата оптимизирован для работы с несколькими беседами, он также можно использовать для сценариев, отличных от чата. Например, для задачи анализа тональности можно использовать следующую подсказку:

Начните с четких инструкций

Сведения о последовательности отображаются в вопросах запроса. Это связано с тем, что модели стиля GPT создаются определенным образом, определяющим способ обработки входных данных. Наше исследование предполагает, что предоставление модели задачи, которую вы хотите сделать в начале запроса, прежде чем предоставлять дополнительные контекстные сведения или примеры, могут помочь получить более качественные выходные данные.

Повторите инструкции в конце

Модели могут быть подвержены предвзятости, что в этом контексте означает, что информация в конце запроса может иметь более значительное влияние на выходные данные, чем сведения в начале запроса. Поэтому стоит поэкспериментировать с повтором инструкций в конце запроса и оценкой влияния на созданный ответ.

Премьера выходных данных

Это относится к добавлению нескольких слов или фраз в конце запроса, чтобы получить ответ модели, следующий за требуемой формой. Например, с помощью подсказки, например “Here’s a bulleted list of key points:\n- ” , можно убедиться, что выходные данные форматируются в виде списка маркеров.

В приведенном выше вопросе текст Один из возможных поисковых запросов: подготавливает модель для создания одного результата. Без этого подсказки модель создает несколько поисковых запросов в качестве выходных данных.

Добавление четкого синтаксиса

Использование четкого синтаксиса для запроса, включая знаки препинания, заголовки и маркеры разделов, помогает донести намерение и часто делает анализ выходных данных проще.

В приведенном ниже примере разделители (--- в данном случае) были добавлены между различными источниками информации или этапами. Это позволяет использовать --- в качестве условия остановки для создания. Кроме того, заголовки разделов или специальные переменные представлены в верхнем регистре для их отличия.

Если вы не уверены, какой синтаксис следует использовать, рекомендуется использовать Markdown или XML. Модели были обучены на большом количестве веб-содержимого в XML и Markdown, что может обеспечить лучшие результаты.

Разорвать задачу вниз

Крупные языковые модели (LLM) часто выполняются лучше, если задача разбита на меньшие шаги. Например, в запросе поиска, на который ссылается ранее, запрос может быть переструктурирован таким образом, чтобы модель сначала была указана для извлечения соответствующих фактов, а затем показано, как создать поисковые запросы, которые можно использовать для проверки этих фактов.

Обратите внимание на использование четкого синтаксиса для различения разделов и выделения выходных данных. В этом простом примере разбиение задачи от одного до двух шагов не очень драматично, но при попытке сделать это для большего фрагмента текста со многими фактическими утверждениями, нарушение задачи может существенно измениться.

Использование возможностей

Иногда можно получить модель, чтобы использовать доступность вместо того, чтобы полагаться на свои собственные параметры для информации и ответов. Поиск, например, может быть доступностью, чтобы помочь устранить проблемы с сфабрикованными ответами, а также получить актуальные сведения.

Одним из простых способов использования аффорданса является остановка генерации, как только модель создает вызовы аффорданса, а затем результаты вставляются обратно в запрос. Ниже приведен пример того, каким может быть последующий вызов после совершения вышеупомянутых вызовов SEARCH. Заметьте, как мы вставили результаты поиска в запрос и заменили предыдущие запросы SEARCH.

Стимуляция цепочки рассуждений

Это вариант разбиения задачи на этапы. Вместо того чтобы разбивать задачу на более мелкие шаги, в этом подходе предполагается, что ответ модели будет выполняться поэтапно и представлены все необходимые действия. Это снижает вероятность неточности результатов и упрощает оценку ответа на модель.

Указание выходной структуры

Задавая запрос для указания структуры выходных данных, можно значительно повлиять на характер и качество результатов. Иногда входные данные системного сообщения как "только запись истинных фактов" или "не выстраивать информацию" могут оказаться недостаточной. Вместо этого, запрос ответа модели, который также включает ссылки, может помочь уменьшить частоту неправильных ответов.

Если вы указываете модели ссылаться на исходный материал, когда оно делает заявления, эти заявления гораздо чаще будут обоснованы. Запрос ссылок делает это так, чтобы модель должна делать две ошибки каждый раз, когда она создает ответ: первая ошибка — это сгенерированный ответ, а второй — плохая ссылка. Обратите внимание, что чем ближе ссылка к тексту, который она поддерживает, тем меньше расстояние, которое модель должна предвосхитить, что предполагает, что встроенные ссылки лучше предотвращают создание ложного контента, чем ссылки в конце контента.

Аналогичным образом, если вы попросите модель извлечь фактические инструкции из абзаца, это может извлечь составные инструкции, такие как "X выполняет Y AND Z" (что может быть труднее проверить). Это можно избежать, указав выходную структуру, например (entity1, relationship, entity2).

В приведенных ниже примерах показано использование ссылок и направление ответа модели в соответствии с определенной структурой.

Параметры температуры и Top_p

Изменение параметра температуры изменяет выходные данные модели. Параметр температуры можно задать от 0 до 2. Более высокое значение, например 0.7, делает выходные данные более случайными и создает более дивергентные ответы, в то время как меньшее значение, например 0.3, делает их менее случайными. 0.2 делает выходные данные более ориентированными и конкретными. Вымышленная история может быть создана с помощью более высокой температуры. В то время как для создания юридического документа рекомендуется использовать гораздо более низкую температуру. Top_probability является другим параметром и похож на температуру в том, что он также управляет случайностью ответа модели, но это делает это другим способом. Общая рекомендация заключается в изменении одного из этих двух параметров одновременно, а не обоих.

Предоставление контекста заземления

Одним из наиболее эффективных способов предоставления надежных ответов является предоставление данных модели для получения ответов от (заземления данных). Если ваш вариант использования опирается на свежую и достоверную информацию и не является исключительно творческим сценарием, мы настоятельно рекомендуем предоставлять обоснованные данные. Как правило, чем ближе вы можете получить исходный материал к окончательной форме нужного ответа, тем меньше работы модели необходимо сделать, что означает, что существует меньше возможностей для ошибки. Вот пример, в котором системе представлен недавний блог, описывающий запуск GPT-4 в Azure OpenAI в Azure AI Foundry Models, и его просят назвать некоторых из своих ранних клиентов.

¹ Текст из блога о запуске Azure OpenAI GPT-4.

Начните с четких инструкций

Сведения о последовательности добавляются в вопросы запроса. Наше исследование предполагает, что предоставление модели задачи, которую вы хотите сделать в начале запроса, прежде чем предоставлять дополнительные контекстные сведения или примеры, могут помочь получить более качественные выходные данные.

В первом примере ниже ключевая часть инструкций предоставляется только в конце, а результирующее завершение неверно.

В следующем примере мы дадим точное утверждение, которое мы хотим проверить ("Несколько источников упоминают возможность еще одного извержения"), прежде чем дать контекст фрагмента. Это позволяет представлениям токенов, извлеченным из фрагментов, быть настроенными на проверяемое заявление. Теперь результирующий ответ модели является точным:

Повторите инструкции в конце

Модели могут быть подвержены предвзятости, что означает, что информация в конце запроса может иметь более значительное влияние на выходные данные, чем сведения в начале запроса. Поэтому следует экспериментировать с повтором инструкций в конце запроса и оценкой влияния для вашего варианта использования.

В предыдущем примере мы видели, как повторение инструкции в начале и конце запроса приводит к более высокой вероятности получения точного ответа модели.

Премьера выходных данных

Это относится к добавлению нескольких слов или фраз в конце запроса, чтобы получить ответ модели, следующий за требуемой формой. Например, с помощью подсказки, например “Here’s a bulleted list of key points:\n- ” , можно убедиться, что выходные данные форматируются в виде списка маркеров.

В приведенном выше запросе текст "Один из возможных поисковых запросов: " настраивает модель на создание результата в виде поискового запроса. Этот метод может помочь удалить оговорки, которые модель обычно добавляет, например "Одна возможность..."

Добавление четкого синтаксиса

Использование четкого синтаксиса для запроса, включая знаки препинания, заголовки и маркеры разделов, помогает донести намерение и часто делает анализ выходных данных проще.

В приведенном ниже примере разделители (--- в данном случае) были добавлены между различными источниками информации или этапами. Это позволяет использовать --- в качестве условия остановки для создания. Кроме того, заголовки разделов или специальные переменные представлены в верхнем регистре для их отличия.

Если вы не уверены, какой синтаксис использовать, рассмотрите возможность использования маркдауна или XML, поскольку большие языковые модели обучались на большом объеме веб-контента в XML или маркдауне.

Разорвать задачу вниз

Модели часто выполняются лучше, если задача разбита на меньшие шаги. Например, в запросе поиска, на который ссылается ранее, запрос может быть переструктурирован таким образом, чтобы модель сначала была указана для извлечения соответствующих фактов, а затем показано, как создать поисковые запросы, которые можно использовать для проверки этих фактов.

Обратите внимание на использование четкого синтаксиса для различения разделов и выделения выходных данных. В этом простом примере разбиение задачи от одного до двух шагов не очень драматично, но при попытке сделать это для большего фрагмента текста с множеством фактических утверждений, нарушение задачи может существенно измениться.

Использование возможностей

Иногда можно получить модель, чтобы использовать доступность вместо того, чтобы полагаться на свои собственные параметры для информации и ответов. Поиск, например, может быть доступностью, чтобы помочь устранить проблемы с сфабрикованными ответами, а также получить актуальные сведения.

Одним из простых способов использования аффорданса является остановка генерации, как только модель создает вызовы аффорданса, а затем результаты вставляются обратно в запрос. Ниже приведен пример того, каким может быть последующий вызов после совершения вышеупомянутых вызовов SEARCH. Заметьте, как мы вставили результаты поиска в запрос и заменили предыдущие запросы SEARCH.

Стимуляция цепочки рассуждений

Это вариант разбиения задачи на этапы. Вместо того чтобы разбивать задачу на более мелкие шаги, в этом подходе предполагается, что ответ модели будет выполняться поэтапно и представлены все необходимые действия. Это снижает вероятность неточности результатов и упрощает оценку ответа на модель.

Мета-запросы

Если вы обнаружите, что ответ модели не так необходим, это может быть полезно, чтобы добавить мета-запрос , который напрямую исправляет поведение. Это директива, добавленная перед частью инструкции в запросе. Рассмотрим этот пример, где компьютер, кажется, слишком агрессивным:

Хотя мета-запросы часто могут помочь свести к минимуму непреднамеренные плохие выходные данные, имейте в виду, что они не являются надежными для противодействия атакам, так как они уязвимы для инъекции запросов.

Кроме того, условные инструкции, объясняющие, что модель должна делать, если она сталкивается с конкретным обстоятельством, часто эффективнее, чем просто говорить модели не делать что-то.

Обучение с малым числом примеров

Очень распространенный способ адаптации языковых моделей к новым задачам — использовать обучение с небольшим количеством примеров. В обучении с ограниченным количеством примеров в подсказке предоставляется набор примеров обучения, а затем просят модель завершить один или несколько незавершенных примеров. В следующем примере мы используем инструкцию в сочетании с обучением на малом числе примеров для создания каламбуров.

Тщательно выберите несколько примеров и убедитесь, что они охватывают различные обстоятельства, относящиеся к вашему сценарию, включая пограничные случаи.

Кроме того, как упоминалось ранее, большие языковые модели могут проявлять предвзятость к актуальным событиям. Это означает, что порядок, в котором приведены примеры "несколько выстрелов" модели, имеет значение. Если вы не хотите, чтобы это имело значение, рассмотрите возможность выборки нескольких завершений из запросов на основе случайных упорядочений примеров или элементов списка.

Используйте кавычки для создания одного предложения

Если нужный ответ модели является только одним простым предложением или строкой, мы можем завершить выполнение символом кавычки "и задать " в качестве последовательности остановки.

Указание выходной структуры

Указание структуры выходных данных с помощью вашего запроса может значительно повлиять на характер и качество результатов. Иногда мета-запросы, такие как "только запись истинных фактов" или "не создавайте информацию", могут оказаться недостаточной. Вместо этого, запрос ответа модели, который также включает ссылки, может помочь уменьшить частоту неправильных ответов.

Например, если вы заставите LLM ссылаться на исходный материал во время высказывания утверждений, эти утверждения гораздо чаще будут обоснованными. Запрос ссылок делает это так, чтобы модель должна делать две ошибки каждый раз, когда она создает ответ: первая ошибка — это сфабриковатый ответ, а второй — плохая ссылка. Обратите внимание, что чем ближе ссылка к тексту, который она поддерживает, тем меньше расстояние вперед, которое LLM необходимо учитывать, чтобы предвидеть эту ссылку. Это предполагает, что встроенные ссылки лучше предотвращают генерацию ложного контента, чем ссылки, размещенные в конце содержимого.

Аналогичным образом, если вы попросите модель извлечь фактические инструкции из абзаца, это может извлечь составные инструкции, такие как "X выполняет Y AND Z" (что может быть труднее проверить), что может быть избежать, указав выходную структуру, например (entity1, relationship, entity2).

Настройка параметров температуры и Top_P

Изменение параметра температуры позволяет моделям иметь разные уровни риска. Более высокое значение, например 0.7, приведет к тому, что выходные данные будут более случайными и создают более разные ответы. Хотя меньшее значение, например 0.2, сделает выходные данные более ориентированными и конкретными. Например, вымышленная история может быть создана с помощью более высокой температуры. В то время как для создания юридического документа рекомендуется использовать гораздо более низкую температуру.

В следующем примере мы тестируем два ответа модели с разными параметрами температуры 0,1 и 0,9 соответственно. Хотя оценка творческого содержимого, например ниже приведённых фрагментов текста, является субъективным упражнением и мнения могут отличаться, разница в ответе модели на тот же запрос, исключительно из-за изменения параметра температуры, очевидна.

Top_probability является другим параметром и похож на температуру в том, что он также управляет случайностью отклика модели, но это делает это по-другому. Экспериментируйте с различными ответами модели, изменяя температуру и Top_P, но не одновременно.