Настройте подключение для использования моделей Microsoft Foundry в проекте ИИ (классическом)

Вы можете использовать модели Microsoft Foundry в своих проектах в Foundry для создания насыщенных приложений и взаимодействия/управления доступными моделями. Чтобы использовать службу Foundry Models в проекте, необходимо создать подключение к ресурсу Foundry (ранее известному Azure службам ИИ).

В следующей статье объясняется, как создать подключение к ресурсу Foundry (ранее известному Azure службам ИИ) для использования моделей Foundry.

Необходимые условия

Чтобы завершить эту статью, вам потребуется:

• Подписка Azure. Если вы используете модели GitHub, вы можете обновить интерфейс и создать подписку Azure в процессе. Прочтите Руководство по переходу с моделей GitHub к моделям Foundry, если это ваш случай.

• Ресурс Foundry (ранее известный как Azure службы ИИ). Дополнительные сведения см. в статье "Создание и настройка всех ресурсов для моделей Foundry".

• Ресурс проекта ИИ.

• Включена функция развертывания моделей для службы вывода моделей ИИ на платформе Azure.

  

Добавление подключения

Вы можете создать подключение к ресурсу Foundry Tools, выполнив следующие действия.

1. Перейдите на портал Foundry.

2. В левом нижнем углу экрана выберите центр управления.

3. В разделе "Подключенные ресурсы " выберите "Создать подключение".

4. Выберите инструменты Foundry.

5. В браузере найдите существующий ресурс Foundry Tools в подписке.

6. Выберите "Добавить подключение".

7. Новое подключение добавлено в хаб.

8. Вернитесь на целевую страницу проекта, чтобы продолжить и теперь выберите новое созданное соединение. Обновите страницу, если она не отображается немедленно.

   

Просмотр развертываний моделей в подключенном ресурсе

Чтобы увидеть развертывания модели, доступные в подключенном ресурсе, выполните следующие шаги:

1. Перейдите на портал Foundry.

2. На левой панели выберите "Модели и конечные точки".

3. На странице отображаются развертывания моделей, доступные вам и сгруппированные по имени подключения. Найдите только что созданное соединение, которое должно быть типа Foundry Tools.

   

4. Выберите любое развертывание модели, которое требуется проверить.

5. На странице сведений отображаются сведения о конкретном развертывании. Если вы хотите протестировать модель, можно использовать параметр "Открыть на детской площадке".

6. Отображается игровая площадка Foundry, где можно взаимодействовать с данной моделью.

Вы можете использовать модели Microsoft Foundry в проектах на платформе Foundry для создания расширенных приложений и взаимодействия с доступными моделями и их управления. Чтобы использовать службу Foundry Models в проекте, необходимо создать подключение к ресурсу Foundry (ранее известному Azure службам ИИ).

В следующей статье объясняется, как создать подключение к ресурсу Foundry (ранее известному Azure службам ИИ) для использования моделей Foundry.

Необходимые условия

Чтобы завершить эту статью, вам потребуется:

• Подписка Azure. Если вы используете модели GitHub, вы можете обновить интерфейс и создать подписку Azure в процессе. Прочтите Руководство по переходу с моделей GitHub к моделям Foundry, если это ваш случай.

• Ресурс Foundry (ранее известный как Azure службы ИИ). Дополнительные сведения см. в статье "Создание и настройка всех ресурсов для моделей Foundry".

• Установите Azure CLI и расширение ml для Microsoft Foundry:

  az extension add -n ml
  

• Определите следующие сведения:

  • Идентификатор подписки Azure.

  • Имя ресурса средств Foundry.

  • Группа ресурсов, в которой развернут ресурс Foundry Tools.

Добавление подключения

Чтобы добавить модель, сначала необходимо определить ту, которую вы хотите развернуть. Вы можете запросить доступные модели следующим образом:

1. Войдите в подписку Azure:

   az login
   

2. Настройте интерфейс командной строки для указания проекта:

   az account set --subscription <subscription>
   az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
   

3. Создайте определение подключения:

   connection.yml

   name: <connection-name>
   type: aiservices
   endpoint: https://<ai-services-resourcename>.services.ai.azure.com
   api_key: <resource-api-key>
   

4. Создайте подключение:

   az ml connection create -f connection.yml
   

5. На этом этапе подключение доступно для потребления.

Вы можете использовать модели Microsoft Foundry в проектах на платформе Foundry для создания расширенных приложений и взаимодействия с доступными моделями и их управления. Чтобы использовать службу Foundry Models в проекте, необходимо создать подключение к ресурсу Foundry (ранее известному Azure службам ИИ).

В следующей статье объясняется, как создать подключение к ресурсу Foundry (ранее известному Azure службам ИИ) для использования моделей Foundry.

Необходимые условия

Чтобы завершить эту статью, вам потребуется:

• Подписка Azure. Если вы используете модели GitHub, вы можете обновить интерфейс и создать подписку Azure в процессе. Прочтите Руководство по переходу с моделей GitHub к моделям Foundry, если это ваш случай.

• Ресурс Foundry (ранее известный как Azure службы ИИ). Дополнительные сведения см. в статье "Создание и настройка всех ресурсов для моделей Foundry".

• Проект Foundry с центром искусственного интеллекта.

• Установите Azure CLI.

• Определите следующие сведения:

  • Идентификатор подписки Azure.

  • Имя ресурса средств Foundry.

  • Идентификатор ресурсов Foundry Tools.

  • Имя центра ИИ Azure, в котором развернут проект.

  • Группа ресурсов, в которой развернут ресурс Foundry Tools.

Добавление подключения

1. Используйте шаблон ai-services-connection-template.bicep для описания подключения:

   ai-services-connection-template.bicep

   @description('Name of the hub where the connection will be created')
   param hubName string
   
   @description('Name of the connection')
   param name string
   
   @description('Category of the connection')
   param category string = 'AIServices'
   
   @allowed(['AAD', 'ApiKey', 'ManagedIdentity', 'None'])
   param authType string = 'AAD'
   
   @description('The endpoint URI of the connected service')
   param endpointUri string
   
   @description('The resource ID of the connected service')
   param resourceId string = ''
   
   @secure()
   param key string = ''
   
   
   resource connection 'Microsoft.MachineLearningServices/workspaces/connections@2024-04-01-preview' = {
     name: '${hubName}/${name}'
     properties: {
       category: category
       target: endpointUri
       authType: authType
       isSharedToAll: true
       credentials: authType == 'ApiKey' ? {
         key: key
       } : null
       metadata: {
         ApiType: 'Azure'
         ResourceId: resourceId
       }
     }
   }
   

2. Запустите развертывание:

   RESOURCE_GROUP="<resource-group-name>"
   ACCOUNT_NAME="<azure-ai-model-inference-name>" 
   ENDPOINT_URI="https://<azure-ai-model-inference-name>.services.ai.azure.com"
   RESOURCE_ID="<resource-id>"
   HUB_NAME="<hub-name>"
   
   az deployment group create \
       --resource-group $RESOURCE_GROUP \
       --template-file ai-services-connection-template.bicep \
       --parameters accountName=$ACCOUNT_NAME hubName=$HUB_NAME endpointUri=$ENDPOINT_URI resourceId=$RESOURCE_ID