Конечные точки для моделей Microsoft Foundry

Microsoft Foundry Models обеспечивают возможность доступа к самым мощным моделям от ведущих поставщиков моделей через одну конечную точку и набор данных для входа. Эта возможность позволяет переключаться между моделями и использовать их в приложении без изменения кода.

В этой статье объясняется, как службы Foundry упорядочивают модели и как использовать конечную точку вывода для доступа к ним.

Важно

Azure бета SDK для вывода ИИ устарел и будет прекращён 26 августа 2026 года. Перейдите на общедоступный API OpenAI/v1 с стабильным пакетом SDK OpenAI. Следуйте инструкциям по миграции , чтобы перейти на OpenAI/v1, используя пакет SDK для предпочитаемого языка программирования.

Развертывания

Foundry использует развертывания для предоставления моделей. Развертывания предоставляют модели имя и задают определенные конфигурации. Вы можете получить доступ к модели с помощью её имени развертывания в запросах.

Развертывание включает в себя:

  • Имя модели
  • Версия модели
  • Подготовка или тип емкости1
  • Конфигурация фильтрации содержимого1
  • Конфигурация ограничения скорости выполнения1

1 Эти конфигурации могут изменяться в зависимости от выбранной модели.

Ресурс Foundry может содержать множество развертываний моделей. Вы платите только за вывод, выполненный при развертывании моделей. Развертывания являются Azure ресурсами, поэтому они подвергаются Azure политикам.

Дополнительные сведения о создании развертываний см. в разделе "Добавление и настройка развертываний моделей".

Azure конечная точка вывода OpenAI

API OpenAI Azure OpenAI предоставляет все возможности моделей OpenAI и поддерживает дополнительные функции, такие как помощники, потоки, файлы и пакетное вывод. Вы также можете получить доступ к моделям, отличным от OpenAI, через этот маршрут.

Конечные точки Azure OpenAI, как правило, вида https://<resource-name>.openai.azure.com, работают на уровне развертывания, и каждое развертывание имеет свой собственный URL-адрес. Однако вы можете использовать тот же механизм проверки подлинности для взаимодействия с развертываниями. Дополнительные сведения см. на справочной странице Azure API OpenAI.

Иллюстрация того, как Azure развертывания OpenAI содержат один URL-адрес для каждого развертывания.

Каждое развертывание имеет URL-адрес, сформированный путем объединения Azure OpenAI базовый URL-адрес и маршрут /deployments/<model-deployment-name>.

Установите пакет openai с помощью диспетчера пакетов, например pip:

pip install openai --upgrade

Затем можно использовать пакет для использования модели. В следующем примере показано, как создать клиент для получения завершений чата:

import os
from openai import AzureOpenAI
    
client = AzureOpenAI(
    azure_endpoint = "https://<resource>.services.ai.azure.com"
    api_key=os.getenv("AZURE_INFERENCE_CREDENTIAL"),  
    api_version="2024-10-21",
)

response = client.chat.completions.create(
    model="deepseek-v3-0324", # Replace with your model deployment name.
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Explain Riemann's conjecture in 1 paragraph"}
    ]
)

print(response.model_dump_json(indent=2)

Дополнительные сведения об использовании конечной точки OpenAI Azure OpenAI см. в документации Azure OpenAI в документации по Foundry Models.

Проверка подлинности без ключа

Модели, развернутые в Foundry Models в Foundry Tools, поддерживают бесключевую аутентификацию с помощью Microsoft Entra ID. Авторизация без ключей повышает безопасность, упрощает взаимодействие с пользователем, снижает операционную сложность и обеспечивает надежную поддержку соответствия требованиям для современной разработки. Это делает бессерверную авторизацию надежным выбором для организаций, внедряющих безопасные и масштабируемые решения по управлению удостоверениями.

Чтобы использовать беспарольную проверку подлинности, настройте ресурс и предоставьте пользователям доступ к инференции. После настройки ресурса и предоставления доступа выполните проверку подлинности следующим образом:

Установите пакет SDK OpenAI с помощью диспетчера пакетов, например pip:

pip install openai

Для проверки подлинности Microsoft Entra ID также установите следующее:

pip install azure-identity

Используйте пакет для работы с моделью. В следующем примере показано, как создать клиента для потребления завершения чата с Microsoft Entra ID и выполнить тестовый запрос к конечной точке завершения чата, используя развернутую модель.

Замените <resource> именем вашего ресурса Foundry. Найдите его на портале Azure или запустив az cognitiveservices account list. Замените DeepSeek-V3.1 фактическим именем развертывания.

from openai import OpenAI
from azure.identity import DefaultAzureCredential, get_bearer_token_provider

token_provider = get_bearer_token_provider(
    DefaultAzureCredential(), 
    "https://ai.azure.com/.default"
)

client = OpenAI(
    base_url="https://<resource>.openai.azure.com/openai/v1/",
    api_key=token_provider,
)

completion = client.chat.completions.create(
    model="DeepSeek-V3.1",  # Required: your deployment name
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "What is Azure AI?"}
    ]
)

print(completion.choices[0].message.content)

Ожидаемые выходные данные

Azure AI is a comprehensive suite of artificial intelligence services and tools from Microsoft that enables developers to build intelligent applications. It includes services for natural language processing, computer vision, speech recognition, and machine learning capabilities.

Справочные материалы: OpenAI Python SDK и DefaultAzureCredential class.

Связанное содержимое

  • Last updated on