Создание и развертывание Azure OpenAI в ресурсе Microsoft Foundry Models (классическая модель)

Предпосылки

• Подписка Azure. Создать бесплатно.
• Разрешения на доступ к созданию ресурсов Azure OpenAI и развертыванию моделей.

Создание ресурса

Ниже показано, как создать ресурс OpenAI Azure на портале Azure.

Определение ресурса

1. Войдите с помощью подписки Azure на портале Azure.

2. Выберите Create a resource и найдите Azure OpenAI. При поиске службы нажмите кнопку "Создать".

   

3. На странице Create Azure OpenAI укажите следующие сведения для полей на вкладке Basics:

   Поле	Description
   Subscription	Подписка Azure, используемая в вашем заявлении на подключение Azure OpenAI.
   Группа ресурсов	Группа ресурсов Azure для размещения ресурса Azure OpenAI. Вы можете создать новую группу или использовать существующую группу.
   Регион	Расположение вашего экземпляра. Различные расположения могут привести к задержке, но они не влияют на доступность ресурса во время выполнения.
   Имя	Описательное имя ресурса OpenAI Azure, например MyOpenAIResource.
   Ценовая категория	Ценовая категория ресурса. В настоящее время только уровень "Стандартный" доступен для Azure OpenAI. Дополнительные сведения о ценах см. на странице цен Azure OpenAI.

   

4. Нажмите кнопку Далее.

Настройка безопасности сети

На вкладке "Сеть" представлены три параметра типа безопасности:

• Вариант 1: Все сети, включая интернет, могут иметь доступ к этому ресурсу.
• Вариант 2. Выбранные сети, настройка сетевой безопасности для ресурса Foundry Tools.
• Вариант 3. Отключено, никакие сети не могут получить доступ к этому ресурсу. Вы можете настроить подключения к частной конечной точке, которые будут единственным способом доступа к этому ресурсу.

В зависимости от выбранного параметра может потребоваться предоставить дополнительные сведения.

Вариант 1. Разрешить все сети

Первый вариант позволяет всем сетям, включая Интернет, получить доступ к вашему ресурсу. Этот параметр является настройкой по умолчанию. Для этого параметра не требуются дополнительные параметры.

Вариант 2. Разрешить только определенные сети

Второй вариант позволяет определить конкретные сети, которые могут получать доступ к вашему ресурсу. При выборе этого параметра страница обновляется, чтобы включить следующие обязательные поля:

В разделе брандмауэра представлено необязательное поле диапазона адресов, которое можно использовать для настройки параметров брандмауэра для ресурса.

Вариант 3. Отключение доступа к сети

Третий вариант дает возможность отключить сетевой доступ к вашему ресурсу. При выборе этого параметра страница обновляется, чтобы включить таблицу приватных конечных точек.

В качестве опции можно добавить частную конечную точку для доступа к вашему ресурсу. Выберите " Добавить частную конечную точку" и завершите настройку конечной точки.

Подтверждение конфигурации и создание ресурса

1. Нажмите кнопку "Далее " и настройте все теги для ресурса по мере необходимости.

2. Нажмите кнопку "Далее ", чтобы перейти к последнему этапу процесса: просмотр и отправка.

3. Подтвердите параметры конфигурации и нажмите кнопку "Создать".

4. На портале Azure отображается уведомление о доступности нового ресурса. Выберите Перейти к ресурсу.

   

Развертывание модели

Прежде чем создавать текст или выполнять вычисления, необходимо развернуть модель. Вы можете выбрать одну из нескольких доступных моделей на портале Foundry.

Чтобы развернуть модель, выполните следующие действия.

1. Войдите в Microsoft Foundry. Убедитесь, что переключатель New Foundry отключен. Эти действия относятся к Foundry (классическая).

   

2. В разделе "Продолжайте работать с Foundry" выберите "Просмотреть все ресурсы".

3. Найдите и выберите ресурс.

   Это важно

   На этом шаге вам может быть предложено обновить ресурс Azure OpenAI до Azure Foundry. Сравнение двух типов ресурсов и сведения об обновлении и откате ресурсов см. на этой странице. Нажмите кнопку "Отмена ", чтобы продолжить без обновления типа ресурса. Кроме того, нажмите кнопку "Далее".

   Дополнительные сведения о ресурсе Foundry см. в этой статье.

4. Выберите Развертывания в разделе Общие ресурсы в левой панели. (При обновлении до Foundry на предыдущем шаге выберите модели и конечные точки из раздела "Мои ресурсы " в левой области.)

5. Выберите + Развернуть модель>Развернуть базовую модель, чтобы открыть окно развертывания.

6. Выберите нужную модель и нажмите кнопку "Подтвердить". Список доступных моделей для каждого региона см. в разделе Сводная таблица и доступность региона.

7. В следующем окне настройте следующие поля:

   Поле	Description
   Название развертывания	Тщательно выбирайте имя. Имя развертывания используется в коде для вызова модели с помощью клиентских библиотек и REST API.
   Тип развертывания	Standard, Global-Batch, Global-Standard, Provisioned-Managed. Дополнительные сведения о параметрах типа развертывания.
   Сведения о развертывании (необязательно)	При необходимости можно задать дополнительные параметры, необходимые для ресурса. — Для фильтра содержимого, назначьте вашему развертыванию фильтр содержимого. — Для лимита маркеров в минуту настройте лимит маркеров в минуту (TPM), чтобы задать эффективное ограничение скорости для развертывания. Это значение можно изменить в любое время с помощью меню "Квоты ". Динамическая квота позволяет воспользоваться дополнительными квотами при наличии дополнительной емкости.

   Это важно

   При доступе к модели через API необходимо ссылаться на имя развертывания, а не имя базовой модели в вызовах API, которое является одним из различий key между OpenAI и Azure OpenAI. Для OpenAI требуется только имя модели. Azure OpenAI всегда требует имени развертывания, даже если используется параметр модели. В нашей документации часто используются примеры, в которых имена развертываний представлены как идентичные именам моделей, чтобы указать, какая модель работает с определенной конечной точкой API. В конечном счете, имена развертываний могут соответствовать любому соглашению об именовании, которое лучше подходит для вашего варианта использования.

8. Выберите «Развернуть».

9. Сведения о развертывании отображают все детали о новом развертывании. После завершения развертывания состояние подготовки модели изменится на "Успешно".

Предпосылки

• Подписка Azure. Создать бесплатно.
• Разрешения на доступ к созданию ресурсов Azure OpenAI и развертыванию моделей.
• Azure CLI. Для получения дополнительной информации см. Как установить Azure CLI.

Войдите в Azure CLI

Войдите в Azure CLI или выберите Откройте Cloudshell на следующих этапах.

Создание группы ресурсов Azure

Чтобы создать ресурс OpenAI Azure, вам потребуется группа ресурсов Azure. При создании нового ресурса с помощью Azure CLI можно также создать новую группу ресурсов или указать Azure использовать существующую группу. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды create az group create. Группа ресурсов создана в регионе Восток США.

az group create \
--name OAIResourceGroup \
--location eastus

Создание ресурса

Используйте команду az cognitiveservices account create, чтобы создать ресурс Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . При попытке примера обновите код, чтобы использовать нужные значения для группы ресурсов и имени ресурса Azure, а также идентификатор подписки <subscriptionID>.

az cognitiveservices account create \
--name MyOpenAIResource \
--resource-group OAIResourceGroup \
--location eastus \
--kind OpenAI \
--sku s0 \
--subscription <subscriptionID>
--custom-domain MyOpenAIResource
--yes

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о Azure OpenAI в экземпляре Microsoft Foundry Models. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи access для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду az cognitiveservices account show, чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды через jq обработчик JSON, чтобы найти значение .properties.endpoint.

Когда вы попробуете пример, обновите код, чтобы использовать ваши значения для группы ресурсов < и ресурса >.<

az cognitiveservices account show \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .properties.endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду az cognitiveservices account keys list. В этом примере мы перенаправляем выходные данные команды через jq обработчик JSON, чтобы найти значение .key1.

Когда вы будете пробовать пример, обновите код, чтобы использовать ваши значения для группы ресурсов и ресурса.

az cognitiveservices account keys list \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
| jq -r .key1

Развертывание модели

Чтобы развернуть модель, используйте команду az cognitiveservices account deployment create. В следующем примере вы развернете экземпляр gpt-4o модели и присвойте ему имя MyModel. Когда вы будете пробовать пример, обновите код, чтобы использовать ваши значения для группы ресурсов и ресурса. Вам не нужно изменять значения model-version, model-format и значения sku-capacity, sku-name.

az cognitiveservices account deployment create \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel \
--model-name gpt-4o \
--model-version "2024-11-20"  \
--model-format OpenAI \
--sku-capacity "1" \
--sku-name "Standard"

--sku-name принимает следующие типы развертывания: Standard, GlobalBatch, GlobalStandardи ProvisionedManaged. Дополнительные сведения о параметрах типа развертывания.

Удаление модели из ресурса

Вы можете удалить любую модель, развернутую из вашего ресурса, с помощью команды az cognitiveservices account deployment delete. В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

az cognitiveservices account deployment delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName> \
--deployment-name MyModel

Удаление ресурса

Если вы хотите очистить ресурсы после выполнения этих упражнений, вы можете удалить ресурс Azure OpenAI через Azure CLI. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду az cognitiveservices account delete.

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

az cognitiveservices account delete \
--name <myResourceName> \
--resource-group  <myResourceGroupName>

Предпосылки

• Подписка Azure. Создать бесплатно.
• Azure PowerShell. Дополнительные сведения см. в разделе Как установить Azure PowerShell.
• Разрешения на доступ к созданию ресурсов Azure OpenAI и развертыванию моделей.

Войдите в Azure PowerShell

Войдите в Azure PowerShell или выберите Открыть Cloudshell на следующих шагах.

Создание группы ресурсов Azure

Чтобы создать ресурс OpenAI Azure, вам потребуется группа ресурсов Azure. При создании нового ресурса с помощью Azure PowerShell можно также создать новую группу ресурсов или указать Azure использовать существующую группу. В следующем примере показано, как создать новую группу ресурсов с именем OAIResourceGroup с помощью команды New-AzResourceGroup . Группа ресурсов создана в регионе Восток США.

New-AzResourceGroup -Name OAIResourceGroup -Location eastus

Создание ресурса

Используйте команду New-AzCognitiveServicesAccount для создания ресурса Azure OpenAI в группе ресурсов. В следующем примере создается ресурс MyOpenAIResource в группе ресурсов OAIResourceGroup . При попытке примера обновите код, чтобы использовать нужные значения для группы ресурсов и имени ресурса Azure, а также идентификатор подписки <subscriptionID>.

New-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource -Type OpenAI -SkuName S0 -Location eastus

Получение сведений о ресурсе

После создания ресурса можно использовать различные команды, чтобы найти полезные сведения о Azure OpenAI в экземпляре Microsoft Foundry Models. В следующих примерах показано, как получить базовый URL-адрес конечной точки REST API и ключи access для нового ресурса.

Получение URL-адреса конечной точки

Используйте команду Get-AzCognitiveServicesAccount, чтобы получить базовый URL-адрес конечной точки REST API для ресурса. В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object , чтобы найти endpoint значение.

Когда вы испытаете пример, обновите код, чтобы использовать ваши значения для ресурсной группы <myResourceGroupName> и ресурса <myResourceName>.

Get-AzCognitiveServicesAccount -ResourceGroupName OAIResourceGroup -Name MyOpenAIResource |
  Select-Object -Property endpoint

Получение первичного ключа API

Чтобы получить ключи доступа для ресурса, используйте команду Get-AzCognitiveServicesAccountKey. В этом примере мы перенаправляем выходные данные команды с помощью командлета Select-Object , чтобы найти Key1 значение.

Когда вы будете пробовать пример, обновите код, чтобы использовать ваши значения для группы ресурсов и ресурса.

Get-AzCognitiveServicesAccountKey -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup |
  Select-Object -Property Key1

Развертывание модели

Чтобы развернуть модель, используйте команду New-AzCognitiveServicesAccountDeployment . В следующем примере вы развернете экземпляр gpt-4o модели и присвойте ему имя MyModel. Когда вы будете пробовать пример, обновите код, чтобы использовать ваши значения для группы ресурсов и ресурса. Вам не нужно изменять значения model-version, model-format и значения sku-capacity, sku-name.

$model = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentModel' -Property @{
    Name = 'gpt-4o'
    Version = '2024-11-20'
    Format = 'OpenAI'
}

$properties = New-Object -TypeName 'Microsoft.Azure.Management.CognitiveServices.Models.DeploymentProperties' -Property @{
    Model = $model
}

$sku = New-Object -TypeName "Microsoft.Azure.Management.CognitiveServices.Models.Sku" -Property @{
    Name = 'Standard'
    Capacity = '1'
}

New-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel -Properties $properties -Sku $sku

Свойство Name переменной $sku принимает следующие типы развертывания: Standard, GlobalBatch, GlobalStandardи ProvisionedManaged. Дополнительные сведения о параметрах типа развертывания.

Удаление модели из ресурса

Вы можете удалить любую развернутую модель из вашего ресурса с помощью команды Remove-AzCognitiveServicesAccountDeployment. В следующем примере вы удалите модель с именем MyModel. При попытке примера обновите код, чтобы использовать значения для группы ресурсов, ресурса и развернутой модели.

Remove-AzCognitiveServicesAccountDeployment -ResourceGroupName OAIResourceGroup -AccountName MyOpenAIResource -Name MyModel

Удаление ресурса

Если вы хотите навести порядок после выполнения этих упражнений, вы можете удалить ресурс OpenAI в Azure, удалив его через Azure PowerShell. Вы также можете удалить группу ресурсов. Если вы решили удалить группу ресурсов, все ресурсы, содержащиеся в группе, также удаляются.

Чтобы удалить группу ресурсов и связанные с ней ресурсы, используйте команду Remove-AzCognitiveServicesAccount .

Если вы не собираетесь продолжать использовать ресурсы, созданные в этих упражнениях, выполните следующую команду, чтобы удалить группу ресурсов. Обязательно обновите пример кода, чтобы использовать значения для группы ресурсов и ресурса.

Remove-AzCognitiveServicesAccount -Name MyOpenAIResource -ResourceGroupName OAIResourceGroup