Поделиться через

Модели, поддерживаемые службой агента ИИ Azure

  • Статья

Агенты работают на различных моделях с разными возможностями и ценовыми точками. Доступность модели зависит от региона и облака. Для некоторых инструментов и возможностей требуются последние модели. Следующие модели доступны в REST API и пакетах SDK.

Модели Azure OpenAI

Azure OpenAI предоставляет клиентам выбор в структуре размещения, которая соответствует своим бизнес-шаблонам и шаблонам использования. Служба предлагает два основных типа развертывания:

  • Стандарт предлагается с глобальным вариантом развертывания, маршрутизация трафика глобально для обеспечения более высокой пропускной способности.
  • Provisioned также предлагается с возможностью глобального развертывания, что позволяет клиентам приобретать и развертывать единицы выделенной пропускной способности в глобальной инфраструктуре Azure.

Все развертывания могут выполнять одинаковые операции вывода данных, однако существенно различаются стоимость, масштабирование и производительность. Дополнительные сведения о типах развертывания Azure OpenAI см. в руководстве по типам развертывания.

Служба агента ИИ Azure поддерживает следующие модели Azure OpenAI в перечисленных регионах.

Примечание.

Следующая таблица предназначена для оплаты по мере использования. Сведения о доступности подготовленной пропускной способности (PTU) см. в разделе документации по Azure OpenAI. GlobalStandard клиенты также имеют доступ к глобальным стандартным моделям.

Регион gpt-4o, 2024-11-20 gpt-4o, 2024-05-13 gpt-4o, 2024-08-06 gpt-4o-mini, 2024-07-18 gpt-4, 0613 gpt-4, 1106-Preview gpt-4, 0125-Preview gpt-4, turbo-2024-04-09 gpt-4-32k, 0613 gpt-35-turbo, 0613 gpt-35-turbo, 1106 gpt-35-turbo, 0125 gpt-35-turbo-16k, 0613
australiaeast - - - ✅ ✅ - - ✅ ✅ ✅ ✅ ✅
eastus ✅ ✅ ✅ - - ✅ ✅ - ✅ - ✅ ✅
eastus2 ✅ ✅ ✅ - ✅ - ✅ - ✅ - ✅ ✅
francecentral - - - ✅ ✅ - - ✅ ✅ ✅ - ✅
japaneast ✅ - - - - - - - - ✅ - ✅ ✅
norwayeast - - - - ✅ - - - - - - -
Южная Индия - - - - ✅ - - - - ✅ ✅ -
swedencentral ✅ ✅ ✅ ✅ ✅ ✅ - ✅ ✅ ✅ ✅ - ✅
uaenorth - - - - - - - - - - - -
uksouth - - - - ✅ ✅ - - ✅ ✅ ✅ ✅
westus ✅ ✅ ✅ - ✅ - ✅ - - ✅ ✅ -
westus3 ✅ ✅ ✅ - ✅ - ✅ - - - ✅ -

Модели, отличные от Майкрософт

Служба агента ИИ Azure также поддерживает следующие модели из каталога моделей Azure AI Foundry.

  • Мета-Лама-405B-Instruct
  • Cohere-command-r-plus
  • Cohere-command-r

Чтобы использовать эти модели, воспользуйтесь порталом Azure AI Foundry для развертывания, а затем укажите имя развертывания в своём агенте. Например:

agent = project_client.agents.create_agent( model="llama-3", name="my-agent", instructions="You are a helpful agent" )

Следующие шаги

Создайте новый проект агента