Поделиться через


Использование собственных ресурсов

Используйте эту статью, если вы хотите настроить проект Foundry с собственными ресурсами.

Limitations

Существуют некоторые ограничения, которые следует учитывать при планировании использования существующих ресурсов с агентской службой Foundry.

Если вы используете проект, основанный на хабе, или Помощники Azure OpenAI

В настоящее время нет прямого пути обновления для переноса существующих агентов или связанных с ними ресурсов данных, таких как файлы, беседы или векторные хранилища из центрального проекта в проект Microsoft Foundry. Кроме того, нет пути обновления для преобразования существующих помощников Azure OpenAI в агенты Foundry, а также для автоматического переноса файлов помощников, бесед или векторных хранилищ.

Вы можете повторно использовать существующие развертывания моделей и квоту из инструментов Foundry или средств Azure OpenAI в рамках проекта Foundry.

Использование пакета SDK с проектами на основе концентраторов

Начиная с мая 2025 года служба агента ИИ Azure использует конечную точку для проектов Foundry вместо строки подключения, которая использовалась для центральных проектов до этого времени. Строки подключения больше не поддерживаются в текущих версиях пакетов SDK и REST API. Рекомендуем создать новый ливарный проект.

Если вы хотите продолжить использование проекта на основе хаба и строки подключения, вам потребуется:

  • Используйте строку подключения для проекта, расположенную в строке подключения , в обзоре проекта.

    Снимок экрана, показывающий устаревшую строку подключения для проекта с хабом.

  • Используйте одну из предыдущих версий пакета SDK и связанного примера кода:

    • C#: 1.0.0-beta.2 или более ранние версии
    • Python: 1.0.0b10 или более ранний

Azure Cosmos DB с поддержкой NoSQL для хранения бесед

  • Существующая учетная запись Azure Cosmos DB для NoSQL, используемая в стандартной настройке, должна иметь общий предел пропускной способности не менее 3000 RU/с. Поддерживаются и предварительно настроенная пропускная способность, и бессерверный режим.
  • Три контейнера будут выделены в существующей учетной записи Cosmos DB, каждый из которых требует 1000 RU/с

Note

  • Убедитесь, что ресурс Azure OpenAI и учетная запись Foundry и проект находятся в одном регионе.

Prerequisites

  • Подписка Azure — создайте бесплатную учетную запись.

  • Убедитесь, что пользователь, создающий учетную запись и проект, имеет роль владельца учетной записи ИИ Azure в области подписки.

  • При настройке стандартной установки один и тот же человек также должен иметь разрешения на назначение ролей необходимым ресурсам (Cosmos DB, поиск, хранилище). Дополнительную информацию о RBAC в Foundry см. в разделе RBAC в Foundry.

    • Необходима встроенная роль — администратор доступа на основе ролей.
    • Кроме того, роль владельца на уровне подписки также удовлетворяет этому требованию.
    • Требуется ключевое разрешение: Microsoft.Authorization/roleAssignments/write
  • Регистрация поставщиков. Необходимо зарегистрировать следующие поставщики:

    • Microsoft.KeyVault
    • Microsoft.CognitiveServices
    • Microsoft.Storage
    • Microsoft.MachineLearningServices
    • Microsoft.Search
    • Microsoft.App
    • Microsoft.ContainerService
    • Чтобы использовать инструмент "Grounding with Bing Search",Microsoft.Bing
       az provider register --namespace 'Microsoft.KeyVault'
       az provider register --namespace 'Microsoft.CognitiveServices'
       az provider register --namespace 'Microsoft.Storage'
       az provider register --namespace 'Microsoft.MachineLearningServices'
       az provider register --namespace 'Microsoft.Search'
       az provider register --namespace 'Microsoft.App'
       az provider register --namespace 'Microsoft.ContainerService'
       # only to use Grounding with Bing Search tool
       az provider register --namespace 'Microsoft.Bing'
    

Выбор базовой или стандартной настройки агента

Чтобы использовать собственные ресурсы, можно изменить параметры в предоставленных шаблонах развертывания. Чтобы начать, определите, хотите ли изменить шаблон базовой настройки агента или стандартный шаблон установки агента.

Базовая настройка

Эта настройка совместима с Помощниками OpenAI и управляет состояниями агента с помощью встроенного хранилища платформы. Он включает те же средства и возможности, что и API Помощников, а также добавлена поддержка моделей и инструментов, отличных от OpenAI, таких как поиск ИИ Azure и Bing.

Стандартная настройка

Включает все в базовую настройку и точный контроль над данными, позволяя использовать собственные ресурсы Azure. Все данные клиента, включая файлы, беседы и векторные хранилища, хранятся в собственных ресурсах Azure, предоставляя вам полное владение и контроль.

Базовая настройка агента. Использование существующего ресурса Azure OpenAI

Замените значение existingAoaiResourceIdпараметра в шаблоне полным идентификатором ресурса Azure OpenAI, который вы хотите использовать.

  1. Чтобы получить идентификатор ресурса учетной записи Azure OpenAI, войдите в Azure CLI и выберите подписку с учетной записью служб AI:

    az login
    
  2. Замените <your-resource-group> на группу ресурсов, содержащую ресурс и your-azure-openai-resource-name имя ресурса службы ИИ, и выполните следующую команду:

    az cognitiveservices account show --resource-group <your-resource-group> --name <your-ai-service-resource-name> --query "id" --output tsv
    

    Значение, которое возвращается — это existingAoaiResourceId, которое необходимо использовать в шаблоне.

  3. В файле шаблона базового агента замените следующий заполнитель:

    existingAoaiResourceId:/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{serviceName}
    

Настройка стандартного агента: использование существующих ресурсов службы и учетных записей хранения

Используйте существующую учетную запись хранения Azure OpenAI, учетную запись хранения Azure Cosmos DB для NoSQL и (или) ресурс поиска ИИ Azure, указав полный идентификатор ресурса ARM в файле шаблона стандартного агента.

Использование существующего ресурса Azure OpenAI

  1. Выполните действия, описанные в базовой настройке агента, чтобы получить идентификатор ресурса учетной записи служб ИИ.

  2. В файле шаблона стандартного агента замените следующие заполнители:

    existingAoaiResourceId:/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{serviceName}
    
    

Использование существующей учетной записи хранения Azure для хранилища файлов

  1. Чтобы получить идентификатор ресурса учетной записи хранения, войдите в Azure CLI и выберите подписку с учетной записью хранения:

    az login

  2. Затем выполните команду:

    az storage account show --resource-group <your-resource-group> --name <your-storage-account> --query "id" --output tsv

    Выходные данные, которые необходимо использовать в шаблоне — это aiStorageAccountResourceID.

  3. В файле шаблона стандартного агента замените следующие заполнители:

    aiStorageAccountResourceId:/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.Storage/storageAccounts/{storageAccountName}
    

Используйте существующую учетную запись Azure Cosmos DB для NoSQL для хранения бесед.

Для каждой учетной записи Foundry создается учетная запись Azure Cosmos DB для NoSQL.

Для каждого проекта в учетной записи Foundry три контейнера развертываются в одной учетной записи Cosmos DB. Для каждого контейнера требуется не менее 1000 ЕЗ/с.

Например, если два проекта развертываются в одной учетной записи Foundry, учетная запись Cosmos DB должна быть настроена как минимум с 6000 RU/с (3 контейнера × 1000 RU/с × 2 проекта) для обеспечения необходимой пропускной способности.

Поддерживаются и подготовленные режимы пропускной способности, и бессерверные режимы.

Note

Недостаточная емкость RU/s в учетной записи Cosmos DB приведет к сбоям при выделении хостов во время развертывания.

  1. Чтобы получить идентификатор ресурса учетной записи Azure Cosmos DB, войдите в Azure CLI и выберите подписку с учетной записью:

    az login
    
  2. Затем выполните команду:

    az cosmosdb show --resource-group  <your-resource-group> --name <your-comosdb-account>  --query "id" --output tsv
    

    Выходные данные, которые необходимо использовать в шаблоне — это cosmosDBResourceId.

  3. В файле шаблона стандартного агента замените следующие заполнители:

    cosmosDBResourceId:/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.DocumentDB/databaseAccounts/{cosmosDbAccountName}

Использование существующего ресурса поиска ИИ Azure

  1. Чтобы получить идентификатор ресурса поиска Azure AI, войдите в Azure CLI и выберите подписку с помощью ресурса поиска:

    az login

  2. Затем выполните команду:

    az search service show --resource-group <your-resource-group> --name <your-search-service> --query "id" --output tsv

  3. В файле шаблона стандартного агента замените следующие заполнители:

    aiSearchServiceResourceId:/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.Search/searchServices/{searchServiceName}
    

См. также

  • Узнайте о различных инструментах, которые могут использовать агенты.