Создание и развертывание Azure OpenAI в ресурсе Microsoft Foundry Models (классическая модель)

Необходимые условия

• Подписка Azure. Создайте его бесплатно.
• Разрешения на доступ для создания ресурсов Azure OpenAI и развертывания моделей.

Создание ресурса

Ниже показано, как создать ресурс OpenAI Azure на портале Azure.

Определение ресурса

1. Войдите с помощью подписки Azure на портале Azure.

2. Выберите Create a resource и найдите Azure OpenAI. При поиске службы нажмите кнопку "Создать".

   

3. На странице Create Azure OpenAI укажите следующие сведения для полей на вкладке Basics:

   Поле	Описание
   Подписки	Подписка Azure, используемая в процессе регистрации Azure OpenAI.
   Группа ресурсов	Группа ресурсов Azure, в которую входит ваш ресурс Azure OpenAI. Вы можете создать новую группу или использовать существующую группу.
   Регион	Расположение экземпляра системы. Различные расположения могут привести к задержке, но они не влияют на доступность ресурса во время выполнения.
   Имя	Описательное имя ресурса OpenAI Azure, например MyOpenAIResource.
   Ценовая категория	Ценовая категория ресурса. В настоящее время только уровень "Стандартный" доступен для Azure OpenAI. Сведения о ценах можно найти на странице Azure OpenAI.

   

4. Нажмите кнопку "Далее".

Настройка сетевой безопасности

На вкладке "Сеть" представлены три параметра типа безопасности:

• Вариант 1. Все сети, включая Интернет, могут получить доступ к этому ресурсу.
• Вариант 2. Выбранные сети, настройка сетевой безопасности для ресурса Foundry Tools.
• Вариант 3. Отключен, сети не могут получить доступ к этому ресурсу. Можно настроить подключения к частной конечной точке, которые будут эксклюзивным способом доступа к этому ресурсу.

В зависимости от выбранного параметра может потребоваться предоставить дополнительные сведения.

Вариант 1. Разрешить все сети

Первый вариант позволяет всем сетям, включая Интернет, получить доступ к ресурсу. Этот параметр является параметром по умолчанию. Для этого параметра не требуются дополнительные параметры.

Вариант 2. Разрешить только определенные сети

Второй вариант позволяет определить определенные сети, которые могут получить доступ к ресурсу. При выборе этого параметра страница обновляется и включает следующие обязательные поля:

В разделе брандмауэра представлено необязательное поле диапазона адресов , которое можно использовать для настройки параметров брандмауэра для ресурса.

Вариант 3. Отключение сетевого доступа

Третий вариант позволяет отключить сетевой доступ к ресурсу. При выборе этого параметра страница обновляется, и добавляется таблица Private endpoint.

В качестве параметра можно добавить частную конечную точку для доступа к ресурсу. Выберите "Добавить частную конечную точку" и завершите настройку конечной точки.

Подтверждение конфигурации и создание ресурса

1. Нажмите кнопку "Далее " и настройте все теги для ресурса по мере необходимости.

2. Нажмите кнопку "Далее ", чтобы перейти к последнему этапу процесса: просмотр и отправка.

3. Подтвердите параметры конфигурации и нажмите кнопку "Создать".

4. На портале Azure отображается уведомление о доступности нового ресурса. Выберите "Перейти к ресурсу".

   

Развертывание модели

Прежде чем создавать текст или вывод, необходимо развернуть модель. Вы можете выбрать одну из нескольких доступных моделей на портале Foundry.

Чтобы развернуть модель, выполните следующие действия.

1. Войдите в Microsoft Foundry. Убедитесь, что переключатель New Foundry отключен. Эти действия относятся к Foundry (классическая версия).

   

2. В разделе "Keep building with Foundry" выберите "Просмотреть все ресурсы".

3. Найдите и выберите ресурс.

   Важно

   На этом шаге вам может быть предложено обновить ваш ресурс Azure OpenAI до Foundry. Ознакомьтесь с сравнением двух типов ресурсов и подробной информацией об обновлении и откате ресурсов на этой странице. Нажмите кнопку "Отмена ", чтобы продолжить без обновления типа ресурса. Кроме того, нажмите кнопку "Далее".

   Дополнительные сведения о ресурсе Foundry см. в этой статье.

4. Выберите Развертывания из раздела "Общие ресурсы" в левой области. (При обновлении до Foundry на предыдущем шаге выберите модели и конечные точки из раздела "Мои ресурсы " в левой области.)

5. Выберите + Развернуть модель>Развернуть базовую модель, чтобы открыть окно развертывания.

6. Выберите нужную модель и нажмите кнопку "Подтвердить". Список доступных моделей для каждого региона см. в сводной таблице модели и доступности регионов.

7. В следующем окне настройте следующие поля:

   Поле	Описание
   Имя развертывания	Тщательно выберите имя. Имя развертывания используется в коде для вызова модели с помощью клиентских библиотек и REST API.
   Тип развертывания	Standard, Global-Batch, Global-Standard, Provisioned-Managed. Дополнительные сведения о параметрах типа развертывания.
   Сведения о развертывании (необязательно)	При необходимости можно задать дополнительные параметры, необходимые для ресурса. — Для фильтра содержимого назначьте фильтр содержимого развертыванию. — Для лимита скорости токенов в минуту настройте параметр "токены в минуту" (TPM), чтобы задать эффективное ограничение скорости для развертывания. Это значение можно изменить в любое время с помощью меню "Квоты ". Динамическая квота позволяет воспользоваться дополнительными квотами при наличии дополнительной емкости.

   Важно

   При доступе к модели через API необходимо ссылаться на имя развертывания, а не имя базовой модели в вызовах API, которое является одним из различий key между OpenAI и Azure OpenAI. Для OpenAI требуется только имя модели. Azure OpenAI всегда требует имени развертывания, даже если используется параметр модели. В нашей документации часто используются примеры, в которых имена развертываний представлены как идентичные именам моделей, чтобы указать, какая модель работает с определенной конечной точкой API. В конечном счете, имена развертываний могут соответствовать любым соглашениям об именовании, подходящим для вашего случая.

8. Выберите Развернуть.

9. Сведения о развертывании отображают всю информацию о новом развертывании. После завершения развертывания состояние подготовки модели изменится на "Успешно".

Необходимые условия

• Подписка Azure. Создайте его бесплатно.
• Разрешения на доступ для создания ресурсов Azure OpenAI и развертывания моделей.
• Azure CLI. Дополнительные сведения см. в разделе Установка Azure CLI.

Войдите в Azure CLI

Войдите в Azure CLI или выберите Открыть Cloudshell на следующих шагах.

Создание группы ресурсов Azure

Чтобы создать ресурс OpenAI Azure, вам потребуется группа ресурсов Azure. При создании нового ресурса с помощью Azure CLI можно также создать новую группу ресурсов или указать Azure использовать существующую группу. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды az group create . Группа ресурсов создана в регионе Восток США.

az group create \
--name OAIResourceGroup \
--location eastus

Создание ресурса

Используйте команду az cognitiveservices account create, чтобы создать ресурс Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . При попытке примера обновите код, чтобы использовать нужные значения для группы ресурсов и имени ресурса Azure, а также идентификатор подписки <subscriptionID>.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о Azure OpenAI в экземпляре Microsoft Foundry Models. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи доступа для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду az cognitiveservices account show , чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды через JSON-обработчик jq, чтобы найти значение .properties.endpoint.

При выполнении примера обновите код, чтобы использовать свои значения для группы ресурсов <myResourceGroupName> и ресурса <myResourceName>.

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду az cognitiveservices account key list . В этом примере мы перенаправляем выходные данные команды через JSON-обработчик jq, чтобы найти значение .key1.

Когда вы пробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов и самого ресурса.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Развертывание модели

Чтобы развернуть модель, используйте команду az cognitiveservices account deployment create. В следующем примере вы развернете экземпляр gpt-4o модели и присвойте ему имя MyModel. Когда вы пробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов и самого ресурса. Нет необходимости изменять значения model-version, model-format или sku-capacity, и sku-name.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name принимает следующие типы развертывания: Standard, GlobalBatch, GlobalStandardи ProvisionedManaged. Дополнительные сведения о параметрах типа развертывания.

Удаление модели из ресурса

Вы можете удалить любую модель, развернутую из ресурса, с помощью команды az cognitiveservices account deployment delete. В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Удаление ресурса

Если вы хотите навести порядок после выполнения этих упражнений, вы можете удалить ресурс OpenAI Azure через Azure CLI. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду az cognitiveservices account delete .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Необходимые условия

• Подписка Azure. Создайте его бесплатно.
• Azure PowerShell. Дополнительные сведения см. в разделе Как установить Azure PowerShell.
• Разрешения на доступ для создания ресурсов Azure OpenAI и развертывания моделей.

Войдите в Azure PowerShell

Sign in to Azure PowerShell или выберите Open Cloudshell на следующих шагах.

Создание группы ресурсов Azure

Чтобы создать ресурс OpenAI Azure, вам потребуется группа ресурсов Azure. При создании нового ресурса с помощью Azure PowerShell можно также создать новую группу ресурсов или указать Azure использовать существующую группу. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды New-AzResourceGroup . Группа ресурсов создана в регионе Восток США.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Создание ресурса

Используйте команду New-AzCognitiveServicesAccount для создания ресурса Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . При попытке примера обновите код, чтобы использовать нужные значения для группы ресурсов и имени ресурса Azure, а также идентификатор подписки <subscriptionID>.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о Azure OpenAI в экземпляре Microsoft Foundry Models. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи доступа для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду Get-AzCognitiveServicesAccount , чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object, чтобы найти endpoint значение.

Когда вы пробуете пример, обновите код, чтобы использовать ваши значения для ресурсной группы <myResourceGroupName> и ресурса <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду Get-AzCognitiveServicesAccountKey . В этом примере мы пропускаем результаты команды через командлет Select-Object, чтобы найти значение Key1.

Когда вы пробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов и самого ресурса.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Развертывание модели

Чтобы развернуть модель, используйте команду New-AzCognitiveServicesAccountDeployment. В следующем примере вы развернете экземпляр gpt-4o модели и присвойте ему имя MyModel. Когда вы пробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов и самого ресурса. Нет необходимости изменять значения model-version, model-format или sku-capacity, и sku-name.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Свойство Name переменной $sku принимает следующие типы развертывания: Standard, GlobalBatch, GlobalStandardи ProvisionedManaged. Дополнительные сведения о параметрах типа развертывания.

Удаление модели из ресурса

Вы можете удалить любую развернутую в вашем ресурсе модель с помощью команды Remove-AzCognitiveServicesAccountDeployment. В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Удаление ресурса

Если вы хотите навести порядок после этих упражнений, вы можете удалить ресурс Azure OpenAI, удалив его через Azure PowerShell. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду Remove-AzCognitiveServicesAccount .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup