Создание и развертывание Azure OpenAI в ресурсе Microsoft Foundry Models (классическая модель)

Необходимые условия

• Подписка Azure. Создайте его бесплатно.
• Доступ к разрешениям создать ресурсы Azure OpenAI и развертывать модели.

Создание ресурса

Ниже показано, как создать ресурс OpenAI Azure на портале Azure.

Определение ресурса

1. Войдите с помощью подписки Azure на портале Azure.

2. Выберите Create a resource и найдите Azure OpenAI. При поиске службы нажмите кнопку "Создать".

   

3. На странице Create Azure OpenAI укажите следующие сведения для полей на вкладке Basics:

   Поле	Описание
   Подписки	Подписка Azure, используемая в заявке на регистрацию Azure OpenAI.
   Группа ресурсов	Группа ресурсов Azure для размещения вашего ресурса Azure OpenAI. Вы можете создать новую группу или использовать существующую группу.
   Регион	Расположение экземпляра. Различные расположения могут привести к задержке, но они не влияют на доступность ресурса во время выполнения.
   Имя	Описательное имя ресурса OpenAI Azure, например MyOpenAIResource.
   Ценовая категория	Ценовая категория ресурса. В настоящее время только уровень "Стандартный" доступен для Azure OpenAI. Дополнительные сведения о ценах см. на странице цен Azure OpenAI

   

4. Нажмите кнопку "Далее".

Настройка сетевой безопасности

На вкладке "Сеть" представлены три параметра типа безопасности:

• Вариант 1. Все сети, включая Интернет, могут получить доступ к этому ресурсу.
• Вариант 2. Выбранные сети, настройка сетевой безопасности для ресурса Foundry Tools.
• Вариант 3. Отключен, сети не могут получить доступ к этому ресурсу. Можно настроить подключения к частной конечной точке, которые будут эксклюзивным способом доступа к этому ресурсу.

В зависимости от выбранного параметра может потребоваться предоставить дополнительные сведения.

Вариант 1. Разрешить все сети

Первый вариант позволяет всем сетям, включая Интернет, получить доступ к ресурсу. Этот параметр является параметром по умолчанию. Для этого параметра не требуются дополнительные параметры.

Вариант 2. Разрешить только определенные сети

Второй вариант позволяет определить определенные сети, которые могут получить доступ к ресурсу. При выборе этого параметра страница обновляется, чтобы включить следующие требуемые поля:

В разделе брандмауэра представлено необязательное поле диапазона адресов , которое можно использовать для настройки параметров брандмауэра для ресурса.

Вариант 3. Отключение сетевого доступа

Третий вариант позволяет отключить сетевой доступ к ресурсу. При выборе этого параметра страница обновляется для включения таблицы Приватной конечной точки.

В качестве параметра можно добавить частную конечную точку для доступа к ресурсу. Выберите "Добавить частную конечную точку" и завершите настройку конечной точки.

Подтверждение конфигурации и создание ресурса

1. Нажмите кнопку "Далее " и настройте все теги для ресурса по мере необходимости.

2. Нажмите кнопку "Далее ", чтобы перейти к последнему этапу процесса: просмотр и отправка.

3. Подтвердите параметры конфигурации и нажмите кнопку "Создать".

4. На портале Azure отображается уведомление о доступности нового ресурса. Выберите "Перейти к ресурсу".

   

Развертывание модели

Прежде чем создавать текст или вывод, необходимо развернуть модель. Вы можете выбрать одну из нескольких доступных моделей на портале Foundry.

Чтобы развернуть модель, выполните следующие действия.

1. Войдите в Microsoft Foundry. Убедитесь, что переключатель New Foundry отключен. Эти шаги относятся к Foundry (классическая).

   

2. В разделе Продолжать строить с помощью Foundry выберите Просмотреть все ресурсы.

3. Найдите и выберите ресурс.

   Важно

   На этом шаге вам может быть предложено обновить ресурс Azure OpenAI до Foundry. Ознакомьтесь с сравнением двух типов ресурсов и подробной информацией об обновлении и откате ресурсов на этой странице. Нажмите кнопку "Отмена ", чтобы продолжить без обновления типа ресурса. Кроме того, нажмите кнопку "Далее".

   Дополнительные сведения о ресурсе Foundry см. в этой статье.

4. Выберите Развертывания из раздела Общие ресурсы в левой области. (При обновлении до Foundry на предыдущем шаге выберите модели и конечные точки из раздела "Мои ресурсы " в левой области.)

5. Выберите + развернуть модель>Развернуть базовую модель, чтобы открыть окно развертывания.

6. Выберите нужную модель и нажмите кнопку "Подтвердить". Список доступных моделей для каждого региона см. в разделе Регион доступности для моделей Foundry, проданных Azure.

7. В следующем окне настройте следующие поля:

   Поле	Описание
   Имя развертывания	Тщательно выберите имя. Имя развертывания используется в коде для вызова модели с помощью клиентских библиотек и REST API.
   Тип развертывания	Standard, Global-Batch, Global-Standard, Provisioned-Managed. Дополнительные сведения о параметрах типа развертывания.
   Сведения о развертывании (необязательно)	При необходимости можно задать дополнительные параметры, необходимые для ресурса. — Для фильтра содержимого назначьте фильтр содержимого развертыванию. — Для ограничения маркеров в минуту настройте маркеры в минуту (TPM), чтобы установить эффективное ограничение для вашего развертывания. Это значение можно изменить в любое время с помощью меню "Квоты ". Динамическая квота позволяет воспользоваться дополнительными квотами при наличии дополнительной емкости.

   Важно

   При доступе к модели через API необходимо ссылаться на имя развертывания, а не имя базовой модели в вызовах API, которое является одним из различий key между OpenAI и Azure OpenAI. Для OpenAI требуется только имя модели. Azure OpenAI всегда требует имени развертывания, даже если используется параметр модели. В нашей документации часто используются примеры, в которых имена развертываний представлены как идентичные именам моделей, чтобы указать, какая модель работает с определенной конечной точкой API. В конечном счете, вы можете выбирать имена развертываний в соответствии с любыми соглашениями об именовании, которые лучше всего подходят для вашего сценария использования.

8. Выберите Развернуть.

9. Сведения о развертывании отображают все сведения о новом развертывании. После завершения развертывания состояние подготовки модели изменится на "Успешно".

Необходимые условия

• Подписка Azure. Создайте его бесплатно.
• Доступ к разрешениям создать ресурсы Azure OpenAI и развертывать модели.
• Azure CLI. Для получения дополнительной информации см. как установить Azure CLI.

Войдите в Azure CLI

Войдите в Azure CLI или выберите Открыть Cloudshell в следующих шагах.

Создание группы ресурсов Azure

Чтобы создать ресурс OpenAI Azure, вам потребуется группа ресурсов Azure. При создании нового ресурса с помощью Azure CLI можно также создать новую группу ресурсов или указать Azure использовать существующую группу. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды az group create . Группа ресурсов создана в регионе Восток США.

az group create \
--name OAIResourceGroup \
--location eastus

Создание ресурса

Используйте команду az cognitiveservices account create, чтобы создать ресурс Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . Когда вы пробуете пример, обновите код, чтобы использовать нужные значения для группы ресурсов и имени ресурса, а также ваш идентификатор подписки Azure <subscriptionID>.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о Azure OpenAI в экземпляре Microsoft Foundry Models. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи доступа для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду az cognitiveservices account show , чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды через JSON-программу jq, чтобы найти значение .properties.endpoint.

При тестировании примера обновите код, чтобы использовать свои значения для группы ресурсов <myResourceGroupName> и ресурса <myResourceName>.

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду az cognitiveservices account key list . В этом примере мы перенаправляем выходные данные команды через JSON-программу jq, чтобы найти значение .key1.

Когда вы попробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов и ресурса.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Развертывание модели

Чтобы развернуть модель, используйте команду az cognitiveservices account deployment create. В следующем примере вы развернете экземпляр gpt-4o модели и присвойте ему имя MyModel. Когда вы попробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов и ресурса. Вам не нужно изменять значения model-version, model-format, sku-capacity или sku-name.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name принимает следующие типы развертывания: Standard, GlobalBatch, GlobalStandardи ProvisionedManaged. Дополнительные сведения о параметрах типа развертывания.

Удаление модели из ресурса

Вы можете удалить любую модель, развернутую из вашего ресурса, с помощью команды az cognitiveservices account deployment delete. В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Удаление ресурса

Если вы хотите очистить после этих упражнений, вы можете удалить ресурс OpenAI Azure, удалив ресурс через Azure CLI. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду az cognitiveservices account delete .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Необходимые условия

• Подписка Azure. Создайте его бесплатно.
• Azure PowerShell. Дополнительные сведения см. в разделе Как установить Azure PowerShell.
• Доступ к разрешениям создать ресурсы Azure OpenAI и развертывать модели.

Войдите в Azure PowerShell

Войдите в Azure PowerShell или выберите Открыть Cloudshell в следующих действиях.

Создание группы ресурсов Azure

Чтобы создать ресурс OpenAI Azure, вам потребуется группа ресурсов Azure. При создании нового ресурса с помощью Azure PowerShell можно также создать новую группу ресурсов или указать Azure использовать существующую группу. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды New-AzResourceGroup . Группа ресурсов создана в регионе Восток США.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Создание ресурса

Используйте команду New-AzCognitiveServicesAccount для создания ресурса Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . Когда вы пробуете пример, обновите код, чтобы использовать нужные значения для группы ресурсов и имени ресурса, а также ваш идентификатор подписки Azure <subscriptionID>.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о Azure OpenAI в экземпляре Microsoft Foundry Models. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи доступа для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду Get-AzCognitiveServicesAccount , чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object, чтобы найти значение endpoint.

Когда будете пробовать пример, обновите код, чтобы использовать свои значения для группы ресурсов <myResourceGroupName> и ресурса <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду Get-AzCognitiveServicesAccountKey . В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object, чтобы найти значение Key1.

Когда вы попробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов и ресурса.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Развертывание модели

Чтобы развернуть модель, используйте команду New-AzCognitiveServicesAccountDeployment. В следующем примере вы развернете экземпляр gpt-4o модели и присвойте ему имя MyModel. Когда вы попробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов и ресурса. Вам не нужно изменять значения model-version, model-format, sku-capacity или sku-name.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Свойство Name переменной $sku принимает следующие типы развертывания: Standard, GlobalBatch, GlobalStandardи ProvisionedManaged. Дополнительные сведения о параметрах типа развертывания.

Удаление модели из ресурса

Вы можете удалить любую модель, развернутую на вашем ресурсе, с помощью команды Remove-AzCognitiveServicesAccountDeployment. В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Удаление ресурса

Если вы хотите выполнить очистку после выполнения этих упражнений, вы можете удалить ресурс Azure OpenAI с помощью Azure PowerShell. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду Remove-AzCognitiveServicesAccount .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup