Azure OpenAI

Идентификатор развертывания развернутой модели

Подтверждение идентификатора развертывания развернутой модели

Версия API

Индекс сообщения в беседе.

Роль автора этого сообщения.

Получатель сообщения в формате <пространства> имен.<операция>. При наличии и только в том случае, если получатель является инструментом.

Содержимое сообщения

Заканчивается ли сообщение поворотом.

Тип источника данных.

Параметры, используемые для источника данных во время выполнения.

Какая температура выборки используется в диапазоне от 0 до 2. Более высокие значения, такие как 0,8, делают выходные данные более случайными, а более низкие значения, такие как 0,2, делают его более ориентированным и детерминированным. Как правило, мы рекомендуем изменить это или top_p не оба.

Альтернативой выборке с температурой является так называемая выборка ядра, где модель рассматривает результаты маркеров с top_p всего массива значений вероятности. Таким образом, 0,1 означает, что учитываются только маркеры, входящие в верхние 10% массива значений вероятности. Как правило, мы рекомендуем изменить это или temperature не оба.

Если задано, будут отправляться частичные разностные сообщения, например в ChatGPT. Маркеры будут отправляться как события, отправленные сервером только для данных, как они становятся доступными, при этом поток завершается сообщением data: [DONE] .

Минимальный размер массива 1 и максимум 4

Максимальное количество маркеров, разрешенных для созданного ответа. По умолчанию число маркеров, возвращаемых моделью, будет (4096 — маркеры запроса).

Число от -2.0 до 2.0. Положительные значения наказывают новые маркеры в зависимости от того, появляются ли они в тексте до сих пор, что повышает вероятность того, что модель будет говорить о новых темах.

Число от -2.0 до 2.0. Положительные значения наказывают новые маркеры на основе их существующей частоты в тексте до сих пор, уменьшая вероятность повторения модели той же строки дословно.

Изменяет вероятность появления указанных маркеров в завершении. Принимает объект JSON, который сопоставляет маркеры (указанные идентификатором маркера в токенизаторе) со связанным значением предвзятости от -100 до 100. С математической точки зрения смещение добавляется к логитам, созданным моделью до выборки. Точный эффект зависит от модели, но значения от –1 до 1 должны уменьшать или увеличивать вероятность выбора; такие значения, как –100 или 100, должны приводить к запрету или эксклюзивному выбору соответствующего маркера.

Уникальный идентификатор, представляющий пользователя, который может помочь Azure OpenAI для мониторинга и обнаружения злоупотреблений.

Идентификатор развертывания развернутой модели

Версия API

Входной текст для получения внедренных значений, закодированных в виде строки. Входная строка не должна превышать 2048 маркеров длиной

Уникальный идентификатор, представляющий пользователя, который может помочь Azure OpenAI для мониторинга и обнаружения злоупотреблений.

Тип входных данных для использования поиска внедрения.

Идентификатор развертывания развернутой модели

Версия API

Массив входных текстов для получения внедренных значений, закодированных в виде строки. Длина каждой входной строки не должна превышать 2048 токенов

Уникальный идентификатор, представляющий пользователя, который может помочь Azure OpenAI для мониторинга и обнаружения злоупотреблений.

Тип входных данных для использования поиска внедрения.

Идентификатор развертывания развернутой модели

Версия API

Какая температура выборки используется в диапазоне от 0 до 2. Более высокие значения, такие как 0,8, делают выходные данные более случайными, а более низкие значения, такие как 0,2, делают его более ориентированным и детерминированным. Как правило, мы рекомендуем изменить это или top_p не оба.

Альтернативой выборке с температурой является так называемая выборка ядра, где модель рассматривает результаты маркеров с top_p всего массива значений вероятности. Таким образом, 0,1 означает, что учитываются только маркеры, входящие в верхние 10% массива значений вероятности. Как правило, мы рекомендуем изменить это или temperature не оба.

Если задано, будут отправляться частичные разностные сообщения, например в ChatGPT. Маркеры будут отправляться как события, отправленные сервером только для данных, как они становятся доступными, при этом поток завершается сообщением data: [DONE] .

До 4 последовательностей, в которых API перестанет создавать дополнительные маркеры. Возвращенный текст не будет содержать последовательность остановки.

Максимальное количество маркеров, разрешенных для созданного ответа. По умолчанию число маркеров, возвращаемых моделью, будет (4096 — маркеры запроса).

Число от -2.0 до 2.0. Положительные значения наказывают новые маркеры в зависимости от того, появляются ли они в тексте до сих пор, что повышает вероятность того, что модель будет говорить о новых темах.

Число от -2.0 до 2.0. Положительные значения наказывают новые маркеры на основе их существующей частоты в тексте до сих пор, уменьшая вероятность повторения модели той же строки дословно.

Изменяет вероятность появления указанных маркеров в завершении. Принимает объект JSON, который сопоставляет маркеры (указанные идентификатором маркера в токенизаторе) со связанным значением предвзятости от -100 до 100. С математической точки зрения смещение добавляется к логитам, созданным моделью до выборки. Точный эффект зависит от модели, но значения от –1 до 1 должны уменьшать или увеличивать вероятность выбора; такие значения, как –100 или 100, должны приводить к запрету или эксклюзивному выбору соответствующего маркера.

Уникальный идентификатор, представляющий пользователя, который может помочь Azure OpenAI для мониторинга и обнаружения злоупотреблений.

Роль автора сообщений.

Массив частей контента с определенным типом, каждый из них может быть типом text.

Представление данных конфигурации для одного расширения чата OpenAI Azure. Это будет использоваться запросом завершения чата, который должен использовать Azure расширения чата OpenAI для расширения поведения ответа. Использование этой конфигурации совместимо только с Azure OpenAI.

Настроено первое число документов для функции настроенного запроса.

Следует ли ограничить запросы использованием индексированных данных.

Настроенная строгость фильтрации релевантности поиска. Чем выше строгость, тем выше точность, но более низкий отзыв ответа.

Дайте модели инструкции о том, как он должен вести себя и какой-либо контекст, на который он должен ссылаться при создании ответа. Вы можете описать личность помощника и рассказать о том, как отформатировать ответы. Существует ограничение на 100 маркеров, и он учитывается в отношении общего ограничения маркера.

Имя индекса, используемого как доступное в ресурсе поиска Azure.

Имя поля индекса, используемого в качестве заголовка.

Имя поля индекса, используемого в качестве URL-адреса.

Имя поля индекса, используемого в качестве файлового пути.

Имена полей индекса, которые следует рассматривать как содержимое.

Шаблон разделителя, который должны использовать поля содержимого.

Имена полей, представляющих векторные данные.

Тип запроса Azure поиска, который должен выполняться при использовании в Azure качестве расширения чата OpenAI.

Дополнительная семантическая конфигурация для запроса.

Фильтр поиска.

Представляет доступные источники, Azure OpenAI On Your Data можно использовать для настройки векторизации данных для использования с векторным поиском.

Указывает имя развертывания модели, используемого для векторизации. Это развертывание модели должно находиться в том же Azure ресурсе OpenAI, но при использовании этого развертывания модели с помощью внутреннего вызова, а не общедоступного, что позволяет выполнять поиск векторов даже в частных сетях.

Сколько вариантов завершения чата для каждого входного сообщения.

Если задано, наша система будет предпринять лучшие усилия для выборки детерминированного, таким образом, что повторяющиеся запросы с одинаковыми и теми же параметрами должны возвращать тот же seed результат. Детерминированность не гарантируется, и вы должны ссылаться на system_fingerprint параметр ответа для отслеживания изменений в серверной части.

Следует ли возвращать вероятности журналов выходных маркеров или нет. Если значение true, возвращает вероятности журнала каждого выходного маркера, возвращаемого в параметре contentmessage. Этот параметр в настоящее время недоступен в gpt-4-vision-preview модели.

Целое число от 0 до 5, указывающее число наиболее вероятных маркеров, возвращаемых по каждой позиции маркера, каждый из которых имеет связанную вероятность журнала. logprobs Необходимо задать значение true , если этот параметр используется.

Параметр включения json_object режима JSON. Это гарантирует, что сообщение, которое создает модель, является допустимым JSON.