Используйте бессерверные API из другого проекта Microsoft Foundry или хаба (classic)

Применяется только к:Портал Foundry (классический). Эта статья недоступна для нового портала Foundry. Дополнительные сведения о новом портале.

Примечание

Содержание в новой документации Microsoft Foundry может открываться по ссылкам в этой статье вместо документации Foundry (классической версии), которую вы просматриваете сейчас.

В этой статье вы узнаете, как настроить существующие бессерверные API в другом проекте или концентраторе, отличном от используемого для создания развертывания.

Важно

Модели, которые находятся в предварительной версии, помечены как предварительный просмотр на своих карточках моделей в каталоге моделей.

Некоторые модели в каталоге моделей можно развернуть как бессерверные API. Такой тип развертывания позволяет использовать модели в качестве API без размещения их в подписке, сохраняя корпоративную безопасность и соответствие требованиям, необходимым организациям. Этот параметр развертывания не требует квоты из подписки.

Необходимость использовать конечную точку бессерверных API в другом проекте или концентраторе, отличном от используемой для создания развертывания, может возникнуть в таких ситуациях:

Вы хотите централизировать развертывания в определенном проекте или центре и использовать их из разных проектов или центров в вашей организации.
Необходимо развернуть модель в центре в определенном регионе Azure, где доступно бессерверное развертывание для этой модели. Однако его необходимо использовать из другого региона, где бессерверное развертывание недоступно для конкретных моделей.

Необходимые условия

Подписка Azure с допустимым методом оплаты. Бесплатные или пробные Azure подписки не будут работать. Если у вас нет подписки Azure, создайте платную учетную запись Azure, чтобы начать.
Центр Microsoft Foundry, если вы используете проект на основе хаба. Проект Foundry не использует концентратор. Дополнительные сведения см. в разделе типы проектов.
Если у вас нет одного, создайте проект на основе концентратора.
Модель развернутая в бессерверных API-интерфейсах. В этой статье предполагается, что вы ранее развернули модель Meta-Llama-3-8B-Instruct . Сведения о развертывании этой модели в качестве бессерверного API см. в статье "Развертывание моделей как бессерверных API".
Для работы с Foundry необходимо установить следующее программное обеспечение:
- Портал Foundry
- Azure CLI;
- пакет SDK Python
Вы можете использовать любой совместимый веб-браузер для навигации по Foundry.
Azure CLI и ml-расширение для Машинное обучение Azure.
```
az extension add -n ml
```
Если у вас уже установлено расширение, убедитесь, что установлена последняя версия.
```
az extension update -n ml
```
После установки расширения настройте его:
```
az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
```
Установите пакет SDK Машинное обучение Azure для Python.
```
pip install -U azure-ai-ml
```
После установки импортируйте необходимые пространства имен:
```
from azure.ai.ml import MLClient
from azure.identity import InteractiveBrowserCredential
from azure.ai.ml.entities import ServerlessEndpoint, ServerlessConnection
```

Создание подключения конечной точки API без сервера

Выполните следующие действия, чтобы создать подключение:

Подключитесь к проекту или концентратору, где развернута конечная точка:
- Портал Foundry
- Azure CLI;
- пакет SDK Python
Совет

Так как вы можете настроить левую панель на портале Microsoft Foundry, вы можете увидеть элементы, которые могут отличаться от тех, что показаны в этих шагах. Если вы не видите, что вы ищете, выберите ... Подробнее в нижней части левой панели.

Перейдите в Foundry и перейдите к проекту, где развернута конечная точка, к которой нужно подключиться.
Настройте интерфейс командной строки для указания проекта:
```
az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
```
Создайте клиент, подключенный к проекту:
```
client = MLClient(
    credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
    subscription_id="<subscription-id>",
    resource_group_name="<resource-group>",
    workspace_name="<project-name>",
)
```
Получите URL-адрес и учетные данные конечной точки, к которой вы хотите подключиться. В этом примере вы получите сведения о имени конечной точки meta-llama3-8b-qwerty.
- Портал Foundry
- Azure CLI;
- пакет SDK Python
1. На левой боковой панели проекта на портале Foundry перейдите в раздел "Мои активы>" Модели и конечные точки ", чтобы просмотреть список развертываний в проекте.
2. Выберите развертывание, к которому нужно подключиться.
3. Скопируйте значения для целевого URI и ключа.
```
az ml serverless-endpoint get-credentials -n meta-llama3-8b-qwerty
```
```
endpoint_name = "meta-llama3-8b-qwerty"
endpoint_keys = client.serverless_endpoints.get_keys(endpoint_name)
print(endpoint_keys.primary_key)
print(endpoint_keys.secondary_key)
```
Теперь подключитесь к проекту или концентратору, где необходимо создать подключение:
- Портал Foundry
- Azure CLI;
- пакет SDK Python
Перейдите в проект, в котором необходимо создать подключение.
Настройте интерфейс командной строки для указания проекта:
```
az account set --subscription <subscription>
az configure --defaults workspace=<project-name> group=<resource-group> location=<location>
```
Создайте клиент, подключенный к проекту:
```
client = MLClient(
    credential=InteractiveBrowserCredential(tenant_id="<tenant-id>"),
    subscription_id="<subscription-id>",
    resource_group_name="<resource-group>",
    workspace_name="<project-name>",
)
```
Создайте подключение в проекте:
- Портал Foundry
- Azure CLI;
- пакет SDK Python
1. В проекте на портале Foundry перейдите в нижнюю часть левой боковой панели и выберите центр управления.
2. В левой боковой панели центра управления выберите подключенные ресурсы.
3. Выберите новое подключение.
4. Выберите бессерверную модель.
5. Для целевого URI вставьте скопированное ранее значение.
6. Для ключа вставьте скопированное ранее значение.
7. Присвойте соединению имя, в данном случае мета-лама3-8b-соединение.
8. Выберите "Добавить подключение".
Создайте определение подключения:

connection.yml
```
name: meta-llama3-8b-connection
type: serverless
endpoint: https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com
api_key: 1234567890qwertyuiop
```
```
az ml connection create -f connection.yml
```
```
client.connections.create_or_update(ServerlessConnection(
    name="meta-llama3-8b-connection",
    endpoint="https://meta-llama3-8b-qwerty-serverless.inference.ai.azure.com",
    api_key="1234567890qwertyuiop"
))
```
На этом этапе подключение доступно для потребления.
Чтобы убедиться, что подключение работает, выполните следующие действия.
1. Вернитесь к проекту на портале Foundry.
2. В левой боковой панели проекта перейдите к Сборка и настройка>Потоки запросов.
3. Нажмите кнопку "Создать" , чтобы создать новый поток.
4. Выберите "Создать " в поле потока чата .
5. Присвойте потоку запроса имя и нажмите кнопку "Создать".
6. Выберите узел чата из графа, чтобы перейти к разделу чата .
7. Для Подключения откройте выпадающий список, чтобы выбрать только что созданное соединение, в данном случае Meta-Llama3-8b-соединение.
8. Выберите "Пуск сеанса вычислений " на верхней панели навигации, чтобы запустить автоматическую среду выполнения потока запросов.
9. Выберите параметр "Чат ". Теперь вы можете отправлять сообщения и получать ответы.

Обратная связь

Были ли сведения на этой странице полезными?

Last updated on 2026-05-01

Используйте бессерверные API из другого проекта Microsoft Foundry или хаба (classic)

Необходимые условия

Создание подключения конечной точки API без сервера

Связанное содержимое

Обратная связь

Дополнительные ресурсы