Get Chat Completions - Get Chat Completions
Возвращает завершения чата для предоставленных сообщений чата.
Завершение поддерживает широкий спектр задач и создает текст, который продолжается или завершается с предоставленными данными запроса. Метод выполняет вызов REST API к маршруту /chat/completions
на заданной конечной точке.
POST https:///chat/completions?api-version=2024-05-01-preview
Параметры URI
Имя | В | Обязательно | Тип | Описание |
---|---|---|---|---|
api-version
|
query | True |
string minLength: 1 |
Версия API, используемая для этой операции. |
Заголовок запроса
Имя | Обязательно | Тип | Описание |
---|---|---|---|
extra-parameters |
Управляет тем, что происходит, если дополнительные параметры, неопределенные REST API, передаются в полезные данные запроса JSON.
Это задает заголовок HTTP-запроса |
Текст запроса
Имя | Обязательно | Тип | Описание |
---|---|---|---|
messages | True | ChatRequestMessage[]: |
Коллекция контекстных сообщений, связанных с запросом завершения чата. Обычное использование начинается с сообщения чата для роли системы, которая содержит инструкции по поведению помощника, за которым следует чередование сообщений между ролями пользователя и помощника. |
frequency_penalty |
number (float) minimum: -2maximum: 2 |
Значение, влияющее на вероятность появления созданных маркеров на основе их совокупной частоты в созданном тексте. Положительные значения делают маркеры менее вероятными при увеличении частоты и уменьшении вероятности повторения одной и той же инструкции модели. Поддерживаемый диапазон — [-2, 2]. |
|
max_tokens |
integer (int32) minimum: 0 |
Максимальное количество генерируемых маркеров. |
|
modalities |
Модальности, которые модель может использовать для ответа на завершение чата. Модальность по умолчанию — |
||
model |
string |
Идентификатор используемой модели ИИ, если на конечной точке доступно несколько моделей. |
|
presence_penalty |
number (float) minimum: -2maximum: 2 |
Значение, влияющее на вероятность появления созданных маркеров на основе существующего присутствия в созданном тексте. Положительные значения делают маркеры менее вероятными, когда они уже существуют и повышают вероятность вывода новых разделов модели. Поддерживаемый диапазон — [-2, 2]. |
|
response_format | ChatCompletionsResponseFormat: |
Объект, указывающий формат, который должен выводить модель. Параметр Параметр
Важно: при использовании режима JSON также необходимо указать модели создавать JSON самостоятельно с помощью системного или пользовательского сообщения. Без этого модель может создать неуправляемый поток пробелов до тех пор, пока поколение не достигнет предела маркера, в результате чего длительный и, казалось бы, "застрявший" запрос. Кроме того, обратите внимание, что содержимое сообщения может быть частично отрезано, если |
|
seed |
integer (int64) |
Если задано, система будет предпринять наилучшие усилия для выборки детерминированного типа, чтобы повторяющиеся запросы с одинаковым начальным значением и параметрами возвращали тот же результат. Детерминированность не гарантируется. |
|
stop |
string[] |
Коллекция текстовых последовательностей, которая завершит создание завершений. |
|
stream |
boolean |
Значение, указывающее, следует ли выполнять потоковую передачу завершения чата для этого запроса. |
|
temperature |
number (float) minimum: 0maximum: 1 |
Температура выборки, используемая для управления очевидным творчеством созданных завершений. Более высокие значения делают выходные данные более случайными, а более низкие значения делают результаты более ориентированными и детерминированными. Не рекомендуется изменять температуру и top_p для того же запроса завершения, так как взаимодействие этих двух параметров трудно прогнозировать. Поддерживаемый диапазон — [0, 1]. |
|
tool_choice |
Если задано, модель настроит, какие из предоставленных средств он может использовать для ответа на завершение чата. |
||
tools |
Список инструментов, которые модель может запрашивать для вызова. В настоящее время в качестве инструмента поддерживаются только функции. Модель может ответить запросом вызова функции и предоставить входные аргументы в формате JSON для этой функции. |
||
top_p |
number (float) minimum: 0maximum: 1 |
Альтернатива выборке с температурой, называемой выборкой ядра. Это значение приводит к тому, что модель рассматривает результаты маркеров с предоставленной массой вероятности. Например, значение 0,15 приведет только к тому, что маркеры, состоящие из первых 15% массы вероятностей, будут считаться. Не рекомендуется изменять температуру и top_p для того же запроса завершения, так как взаимодействие этих двух параметров трудно прогнозировать. Поддерживаемый диапазон — [0, 1]. |
Ответы
Имя | Тип | Описание |
---|---|---|
200 OK |
Запрос выполнен успешно. |
|
Other Status Codes |
Непредвиденное сообщение об ошибке. Заголовки x-ms-error-code: string |
Безопасность
api-key
Тип:
apiKey
В:
header
OAuth2Auth
Тип:
oauth2
Flow:
implicit
URL-адрес авторизации:
https://login.microsoftonline.com/common/oauth2/v2.0/authorize
Области
Имя | Описание |
---|---|
https://ml.azure.com/.default |
Примеры
Audio modality chat completion |
maximum set chat completion |
minimum set chat completion |
Audio modality chat completion
Образец запроса
POST https:///chat/completions?api-version=2024-05-01-preview
{
"modalities": [
"text",
"audio"
],
"messages": [
{
"role": "system",
"content": "You are a helpful assistant"
},
{
"role": "user",
"content": [
{
"type": "input_audio",
"input_audio": {
"data": "<base64 encoded audio data>",
"format": "wav"
}
}
]
},
{
"role": "assistant",
"content": null,
"audio": {
"id": "abcdef1234"
}
},
{
"role": "user",
"content": [
{
"type": "input_audio",
"input_audio": {
"data": "<base64 encoded audio data>",
"format": "wav"
}
}
]
}
],
"frequency_penalty": 0,
"presence_penalty": 0,
"temperature": 0,
"top_p": 0,
"seed": 21,
"model": "my-model-name"
}
Пример ответа
{
"id": "kgousajxgzyhugvqekuswuqbk",
"object": "chat.completion",
"created": 1696522361,
"model": "my-model-name",
"usage": {
"completion_tokens": 19,
"prompt_tokens": 28,
"total_tokens": 16,
"completion_tokens_details": {
"audio_tokens": 5,
"total_tokens": 5
},
"prompt_tokens_details": {
"audio_tokens": 10,
"cached_tokens": 0
}
},
"choices": [
{
"index": 0,
"finish_reason": "stop",
"message": {
"role": "assistant",
"content": null,
"tool_calls": null,
"audio": {
"id": "abcdef1234",
"format": "wav",
"data": "<base64 encoded audio data>",
"expires_at": 1896522361,
"transcript": "This is a sample transcript"
}
}
}
]
}
maximum set chat completion
Образец запроса
POST https:///chat/completions?api-version=2024-05-01-preview
{
"modalities": [
"text"
],
"messages": [
{
"role": "system",
"content": "You are a helpful assistant"
},
{
"role": "user",
"content": "Explain Riemann's conjecture"
},
{
"role": "assistant",
"content": "The Riemann Conjecture is a deep mathematical conjecture around prime numbers and how they can be predicted. It was first published in Riemann's groundbreaking 1859 paper. The conjecture states that the Riemann zeta function has its zeros only at the negative even integers and complex numbers with real part 1/21. Many consider it to be the most important unsolved problem in pure mathematics. The Riemann hypothesis is a way to predict the probability that numbers in a certain range are prime that was also devised by German mathematician Bernhard Riemann in 18594."
},
{
"role": "user",
"content": "Ist it proved?"
}
],
"frequency_penalty": 0,
"stream": true,
"presence_penalty": 0,
"temperature": 0,
"top_p": 0,
"max_tokens": 255,
"response_format": {
"type": "text"
},
"stop": [
"<|endoftext|>"
],
"tools": [
{
"type": "function",
"function": {
"name": "my-function-name",
"description": "A function useful to know if a theroem is proved or not"
}
}
],
"seed": 21,
"model": "my-model-name"
}
Пример ответа
{
"id": "kgousajxgzyhugvqekuswuqbk",
"object": "chat.completion",
"created": 18,
"model": "my-model-name",
"usage": {
"completion_tokens": 19,
"prompt_tokens": 28,
"total_tokens": 16
},
"choices": [
{
"index": 7,
"finish_reason": "stop",
"message": {
"role": "assistant",
"content": null,
"tool_calls": [
{
"id": "yrobmilsrugmbwukmzo",
"type": "function",
"function": {
"name": "my-function-name",
"arguments": "{ \"arg1\": \"value1\", \"arg2\": \"value2\" }"
}
}
]
}
}
]
}
minimum set chat completion
Образец запроса
POST https:///chat/completions?api-version=2024-05-01-preview
{
"messages": [
{
"role": "user",
"content": "Explain Riemann's conjecture"
}
]
}
Пример ответа
{
"id": "kgousajxgzyhugvqekuswuqbk",
"object": "chat.completion",
"created": 1234567890,
"model": "my-model-name",
"usage": {
"prompt_tokens": 205,
"completion_tokens": 5,
"total_tokens": 210
},
"choices": [
{
"index": 0,
"finish_reason": "stop",
"message": {
"role": "assistant",
"content": "The Riemann Conjecture is a deep mathematical conjecture around prime numbers and how they can be predicted. It was first published in Riemann's groundbreaking 1859 paper. The conjecture states that the Riemann zeta function has its zeros only at the negative even integers and complex numbers with real part 1/21. Many consider it to be the most important unsolved problem in pure mathematics. The Riemann hypothesis is a way to predict the probability that numbers in a certain range are prime that was also devised by German mathematician Bernhard Riemann in 18594"
}
}
]
}
Определения
Имя | Описание |
---|---|
Audio |
Представление возможных форматов звука для звука. |
Azure. |
Объект ошибки. |
Azure. |
Ответ, содержащий сведения об ошибке. |
Azure. |
Объект, содержащий более конкретные сведения об ошибке. В соответствии с рекомендациями по API Microsoft One — https://github.com/Microsoft/api-guidelines/blob/vNext/Guidelines.md#7102-error-condition-responses. |
Chat |
Представление единого запроса запроса на завершение чата в рамках общего запроса на завершение чата.
Как правило, |
Chat |
Представление данных ответа из запроса завершения чата. Завершение поддерживает широкий спектр задач и создает текст, который продолжается или завершается с предоставленными данными запроса. |
Chat |
Представление звука, созданного моделью. |
Chat |
Модальности, которые модель может использовать для ответа на завершение чата. |
Chat |
Сведения о конфигурации запроса завершения чата. Завершение поддерживает широкий спектр задач и создает текст, который продолжается или завершается с предоставленными данными запроса. |
Chat |
Формат ответа для завершения чата, ограничивающий ответы на создание допустимых объектов JSON. Обратите внимание, что для включения режима JSON некоторые модели ИИ также могут потребовать указать модели создавать JSON через системное или пользовательское сообщение. |
Chat |
Формат ответа для завершения чата, который ограничивает ответы на создание допустимых объектов JSON с схемой JSON, указанной вызывающим оператором. |
Chat |
Определение требуемой схемы JSON в ответе и связанных метаданных. |
Chat |
Формат ответа для завершения чата, который выдает текстовые ответы. Это формат ответа по умолчанию. |
Chat |
Вызов средства функции, запрошенный моделью ИИ. |
Chat |
Определение средства завершения чата, которое может вызывать функцию. |
Chat |
Сообщение чата запроса, представляющее ответ или действие от помощника. |
Chat |
Ссылка на звуковой ответ, созданный моделью. |
Chat |
Сообщение чата запроса, содержащее системные инструкции, влияющие на то, как модель создаст ответ на завершение чата. |
Chat |
Сообщение чата запроса, представляющее запрошенные выходные данные из настроенного средства. |
Chat |
Сообщение чата запроса, представляющее входные данные пользователя помощнику. |
Chat |
Представление сообщения чата, полученного в ответе. |
Chat |
Описание целевой цели сообщения в взаимодействии с завершением чата. |
Completions |
Представление способа завершения ответа. |
Completions |
Представление количества маркеров, обработанных для запроса завершения. Счетчики учитывают все маркеры в запросах, вариантах выбора, альтернативных вариантах, best_of поколениях и других потребителях. |
Completions |
Разбивка маркеров, используемых в завершении. |
Extra |
Управляет тем, что происходит, если дополнительные параметры, неопределенные REST API, передаются в полезные данные запроса JSON. |
Function |
Имя и аргументы вызываемой функции, созданной моделью. |
Function |
Определение указанной вызывающим функцией, которая завершает чат, может вызываться в ответ на соответствующие входные данные пользователя. |
Prompt |
Разбивка маркеров, используемых в журнале запросов и чата. |
AudioContentFormat
Представление возможных форматов звука для звука.
Значение | Описание |
---|---|
mp3 |
Задает звук в формате MP3. |
wav |
Задает звук в формате WAV. |
Azure.Core.Foundations.Error
Объект ошибки.
Имя | Тип | Описание |
---|---|---|
code |
string |
Один из определяемых сервером кодов ошибок. |
details |
Массив сведений об определенных ошибках, которые привели к этой сообщаемой ошибке. |
|
innererror |
Объект, содержащий более конкретные сведения, чем текущий объект об ошибке. |
|
message |
string |
Читаемое пользователем представление ошибки. |
target |
string |
Целевой объект ошибки. |
Azure.Core.Foundations.ErrorResponse
Ответ, содержащий сведения об ошибке.
Имя | Тип | Описание |
---|---|---|
error |
Объект ошибки. |
Azure.Core.Foundations.InnerError
Объект, содержащий более конкретные сведения об ошибке. В соответствии с рекомендациями по API Microsoft One — https://github.com/Microsoft/api-guidelines/blob/vNext/Guidelines.md#7102-error-condition-responses.
Имя | Тип | Описание |
---|---|---|
code |
string |
Один из определяемых сервером кодов ошибок. |
innererror |
Внутренняя ошибка. |
ChatChoice
Представление единого запроса запроса на завершение чата в рамках общего запроса на завершение чата.
Как правило, n
варианты создаются для каждого предоставленного запроса со значением по умолчанию 1.
Ограничения маркеров и другие параметры могут ограничить количество созданных вариантов.
Имя | Тип | Описание |
---|---|---|
finish_reason |
Причина того, что этот выбор завершения чата завершился его созданным. |
|
index |
integer (int32) |
Упорядоченный индекс, связанный с этим выбором завершения чата. |
message |
Сообщение чата для заданного запроса завершения чата. |
ChatCompletions
Представление данных ответа из запроса завершения чата. Завершение поддерживает широкий спектр задач и создает текст, который продолжается или завершается с предоставленными данными запроса.
Имя | Тип | Описание |
---|---|---|
choices |
Коллекция вариантов завершения, связанных с ответом завершения.
Как правило, |
|
created |
integer (unixtime) |
Первая метка времени, связанная с действием создания для этого ответа завершения, представленная как секунды с начала эпохи Unix 00:00 1 января 1970 года. |
id |
string |
Уникальный идентификатор, связанный с ответом завершения чата. |
model |
string |
Модель, используемая для завершения чата. |
object |
enum:
chat. |
Тип объекта ответа, который всегда |
usage |
Сведения об использовании маркеров, обработанных и созданных в рамках этой операции завершения. |
ChatCompletionsAudio
Представление звука, созданного моделью.
Имя | Тип | Описание |
---|---|---|
data |
string |
Звуковые данные в кодировке Base64 |
expires_at |
integer (unixtime) |
Метка времени Unix (в секундах), в которой истекает срок действия звукового элемента и не может быть больше ссылаться на его идентификатор в многоэтапных беседах. |
format |
Формат звукового содержимого. Если формат не указан, он будет соответствовать формату, используемому в входном звуковом запросе. |
|
id |
string |
Уникальный идентификатор для звукового ответа. Это значение можно использовать в сообщениях журнала чата вместо передачи полного звукового объекта. |
transcript |
string |
Расшифровка звукового файла. |
ChatCompletionsModality
Модальности, которые модель может использовать для ответа на завершение чата.
Значение | Описание |
---|---|
audio |
Модель может создавать звук. |
text |
Модель разрешена только для создания текста. |
ChatCompletionsOptions
Сведения о конфигурации запроса завершения чата. Завершение поддерживает широкий спектр задач и создает текст, который продолжается или завершается с предоставленными данными запроса.
Имя | Тип | Default value | Описание |
---|---|---|---|
frequency_penalty |
number (float) minimum: -2maximum: 2 |
0 |
Значение, влияющее на вероятность появления созданных маркеров на основе их совокупной частоты в созданном тексте. Положительные значения делают маркеры менее вероятными при увеличении частоты и уменьшении вероятности повторения одной и той же инструкции модели. Поддерживаемый диапазон — [-2, 2]. |
max_tokens |
integer (int32) minimum: 0 |
Максимальное количество генерируемых маркеров. |
|
messages | ChatRequestMessage[]: |
Коллекция контекстных сообщений, связанных с запросом завершения чата. Обычное использование начинается с сообщения чата для роли системы, которая содержит инструкции по поведению помощника, за которым следует чередование сообщений между ролями пользователя и помощника. |
|
modalities |
Модальности, которые модель может использовать для ответа на завершение чата. Модальность по умолчанию — |
||
model |
string |
Идентификатор используемой модели ИИ, если на конечной точке доступно несколько моделей. |
|
presence_penalty |
number (float) minimum: -2maximum: 2 |
0 |
Значение, влияющее на вероятность появления созданных маркеров на основе существующего присутствия в созданном тексте. Положительные значения делают маркеры менее вероятными, когда они уже существуют и повышают вероятность вывода новых разделов модели. Поддерживаемый диапазон — [-2, 2]. |
response_format | ChatCompletionsResponseFormat: |
Объект, указывающий формат, который должен выводить модель. Параметр Параметр
Важно: при использовании режима JSON также необходимо указать модели создавать JSON самостоятельно с помощью системного или пользовательского сообщения. Без этого модель может создать неуправляемый поток пробелов до тех пор, пока поколение не достигнет предела маркера, в результате чего длительный и, казалось бы, "застрявший" запрос. Кроме того, обратите внимание, что содержимое сообщения может быть частично отрезано, если |
|
seed |
integer (int64) |
Если задано, система будет предпринять наилучшие усилия для выборки детерминированного типа, чтобы повторяющиеся запросы с одинаковым начальным значением и параметрами возвращали тот же результат. Детерминированность не гарантируется. |
|
stop |
string[] |
Коллекция текстовых последовательностей, которая завершит создание завершений. |
|
stream |
boolean |
Значение, указывающее, следует ли выполнять потоковую передачу завершения чата для этого запроса. |
|
temperature |
number (float) minimum: 0maximum: 1 |
0.7 |
Температура выборки, используемая для управления очевидным творчеством созданных завершений. Более высокие значения делают выходные данные более случайными, а более низкие значения делают результаты более ориентированными и детерминированными. Не рекомендуется изменять температуру и top_p для того же запроса завершения, так как взаимодействие этих двух параметров трудно прогнозировать. Поддерживаемый диапазон — [0, 1]. |
tool_choice |
Если задано, модель настроит, какие из предоставленных средств он может использовать для ответа на завершение чата. |
||
tools |
Список инструментов, которые модель может запрашивать для вызова. В настоящее время в качестве инструмента поддерживаются только функции. Модель может ответить запросом вызова функции и предоставить входные аргументы в формате JSON для этой функции. |
||
top_p |
number (float) minimum: 0maximum: 1 |
1 |
Альтернатива выборке с температурой, называемой выборкой ядра. Это значение приводит к тому, что модель рассматривает результаты маркеров с предоставленной массой вероятности. Например, значение 0,15 приведет только к тому, что маркеры, состоящие из первых 15% массы вероятностей, будут считаться. Не рекомендуется изменять температуру и top_p для того же запроса завершения, так как взаимодействие этих двух параметров трудно прогнозировать. Поддерживаемый диапазон — [0, 1]. |
ChatCompletionsResponseFormatJsonObject
Формат ответа для завершения чата, ограничивающий ответы на создание допустимых объектов JSON. Обратите внимание, что для включения режима JSON некоторые модели ИИ также могут потребовать указать модели создавать JSON через системное или пользовательское сообщение.
Имя | Тип | Описание |
---|---|---|
type |
string:
json_object |
Тип формата ответа, используемый для завершения чата. |
ChatCompletionsResponseFormatJsonSchema
Формат ответа для завершения чата, который ограничивает ответы на создание допустимых объектов JSON с схемой JSON, указанной вызывающим оператором.
Имя | Тип | Описание |
---|---|---|
json_schema |
Определение требуемой схемы JSON в ответе и связанных метаданных. |
|
type |
string:
json_schema |
Тип формата ответа, используемый для завершения чата. |
ChatCompletionsResponseFormatJsonSchemaDefinition
Определение требуемой схемы JSON в ответе и связанных метаданных.
Имя | Тип | Default value | Описание |
---|---|---|---|
description |
string |
Описание формата ответа, используемого моделью ИИ для определения способа создания ответов в этом формате. |
|
name |
string |
Имя формата ответа. Должен быть a-z, A-Z, 0-9 или содержать символы подчеркивания и дефисы с максимальной длиной 64. |
|
schema |
Определение схемы JSON |
||
strict |
boolean |
False |
Следует ли включить строгое соблюдение схемы при создании выходных данных.
Если задано значение true, модель всегда будет соответствовать точной схеме, определенной в поле |
ChatCompletionsResponseFormatText
Формат ответа для завершения чата, который выдает текстовые ответы. Это формат ответа по умолчанию.
Имя | Тип | Описание |
---|---|---|
type |
string:
text |
Тип формата ответа, используемый для завершения чата. |
ChatCompletionsToolCall
Вызов средства функции, запрошенный моделью ИИ.
Имя | Тип | Описание |
---|---|---|
function |
Сведения о вызове функции, запрашиваемом моделью ИИ. |
|
id |
string |
Идентификатор вызова средства. |
type |
enum:
function |
Тип вызова средства. В настоящее время поддерживается только |
ChatCompletionsToolDefinition
Определение средства завершения чата, которое может вызывать функцию.
Имя | Тип | Описание |
---|---|---|
function |
Сведения о определении функции для средства функции. |
|
type |
enum:
function |
Тип средства. В настоящее время поддерживается только |
ChatRequestAssistantMessage
Сообщение чата запроса, представляющее ответ или действие от помощника.
Имя | Тип | Описание |
---|---|---|
audio |
Звук, созданный предыдущим ответом в многоэтапной беседе. |
|
content |
string |
Содержимое сообщения. |
role |
string:
assistant |
Роль чата, связанная с этим сообщением. |
tool_calls |
Вызовы средства, которые должны быть разрешены, и их выходные данные добавлены к последующим входным сообщениям для запроса завершения чата, чтобы разрешить как настроенное. |
ChatRequestAudioReference
Ссылка на звуковой ответ, созданный моделью.
Имя | Тип | Описание |
---|---|---|
id |
string |
Уникальный идентификатор для звукового ответа. Это значение соответствует идентификатору предыдущего завершения звука. |
ChatRequestSystemMessage
Сообщение чата запроса, содержащее системные инструкции, влияющие на то, как модель создаст ответ на завершение чата.
Имя | Тип | Описание |
---|---|---|
content |
string |
Содержимое системного сообщения. |
role |
string:
system |
Роль чата, связанная с этим сообщением. |
ChatRequestToolMessage
Сообщение чата запроса, представляющее запрошенные выходные данные из настроенного средства.
Имя | Тип | Описание |
---|---|---|
content |
string |
Содержимое сообщения. |
role |
string:
tool |
Роль чата, связанная с этим сообщением. |
tool_call_id |
string |
Идентификатор вызова средства, разрешенного предоставленным содержимым. |
ChatRequestUserMessage
Сообщение чата запроса, представляющее входные данные пользователя помощнику.
Имя | Тип | Описание |
---|---|---|
content |
Содержимое сообщения пользователя с доступными типами входных данных, разными по выбранной модели. |
|
role |
string:
user |
Роль чата, связанная с этим сообщением. |
ChatResponseMessage
Представление сообщения чата, полученного в ответе.
Имя | Тип | Описание |
---|---|---|
audio |
Звук, созданный моделью в качестве ответа на сообщения, если модель настроена для создания звука. |
|
content |
string |
Содержимое сообщения. |
role |
Роль чата, связанная с сообщением. |
|
tool_calls |
Вызовы средства, которые должны быть разрешены, и их выходные данные добавлены к последующим входным сообщениям для запроса завершения чата, чтобы разрешить как настроенное. |
ChatRole
Описание целевой цели сообщения в взаимодействии с завершением чата.
Значение | Описание |
---|---|
assistant |
Роль, которая предоставляет ответы на системные, запрашиваемые пользователем входные данные. |
developer |
Роль, которая предоставляет инструкции для модели, приоритетом в преддверии сообщений пользователей. |
system |
Роль, которая указывает или задает поведение помощника. |
tool |
Роль, представляющая действие средства расширения в ходе операции завершения чата. |
user |
Роль, которая предоставляет входные данные для завершения чата. |
CompletionsFinishReason
Представление способа завершения ответа.
Значение | Описание |
---|---|
content_filter |
Завершение создало ответ, который был определен как потенциально конфиденциальный для политик модерации контента. |
length |
Завершения исчерпаны доступными ограничениями маркеров до завершения создания. |
stop |
Завершение завершилось обычно и достигло конца создания токенов. |
tool_calls |
Завершение завершилось с помощью модели, вызывающей предоставленное средство для вывода. |
CompletionsUsage
Представление количества маркеров, обработанных для запроса завершения. Счетчики учитывают все маркеры в запросах, вариантах выбора, альтернативных вариантах, best_of поколениях и других потребителях.
Имя | Тип | Описание |
---|---|---|
completion_tokens |
integer (int32) |
Количество маркеров, созданных во всех выбросов завершения. |
completion_tokens_details |
Разбивка маркеров, используемых в завершении. |
|
prompt_tokens |
integer (int32) |
Количество маркеров в предоставленных запросах на завершение. |
prompt_tokens_details |
Разбивка маркеров, используемых в журнале запросов или чата. |
|
total_tokens |
integer (int32) |
Общее количество маркеров, обработанных для запроса завершения и ответа. |
CompletionsUsageDetails
Разбивка маркеров, используемых в завершении.
Имя | Тип | Описание |
---|---|---|
audio_tokens |
integer (int32) |
Количество маркеров, соответствующих звуковому входу. |
total_tokens |
integer (int32) |
Общее количество маркеров, обработанных для запроса завершения и ответа. |
ExtraParameters
Управляет тем, что происходит, если дополнительные параметры, неопределенные REST API, передаются в полезные данные запроса JSON.
Значение | Описание |
---|---|
drop |
Служба будет игнорировать дополнительные параметры (удалить) в полезных данных запроса. Он передает только известные параметры в модель внутреннего ИИ. |
error |
Служба будет ошибаться, если она обнаружила дополнительные параметры в полезных данных запроса. Это служба по умолчанию. |
pass-through |
Служба передает дополнительные параметры в модель внутреннего ИИ. |
FunctionCall
Имя и аргументы вызываемой функции, созданной моделью.
Имя | Тип | Описание |
---|---|---|
arguments |
string |
Аргументы, с которыми вызывается функция, как создается моделью в формате JSON. Обратите внимание, что модель не всегда создает допустимые json и может галлюцинировать параметры, не определенные схемой функции. Перед вызовом функции проверьте аргументы в коде. |
name |
string |
Имя вызываемой функции. |
FunctionDefinition
Определение указанной вызывающим функцией, которая завершает чат, может вызываться в ответ на соответствующие входные данные пользователя.
Имя | Тип | Описание |
---|---|---|
description |
string |
Описание того, что делает функция. Модель будет использовать это описание при выборе функции и интерпретации его параметров. |
name |
string |
Имя вызываемой функции. |
parameters |
Параметры, которые принимает функция, описанную как объект схемы JSON. |
PromptUsageDetails
Разбивка маркеров, используемых в журнале запросов и чата.
Имя | Тип | Описание |
---|---|---|
audio_tokens |
integer (int32) |
Количество маркеров, соответствующих звуковому входу. |
cached_tokens |
integer (int32) |
Общее количество кэшированных маркеров. |