Развертывание модели для Azure Container Instances с помощью ИНТЕРФЕЙСА командной строки (версия 1)

Узнайте, как использовать Azure Machine Learning для развертывания модели в качестве веб-службы на Azure Container Instances (ACI). Используйте Azure Container Instances, если вы:

• вы предпочитаете не управлять собственным кластером Kubernetes;
• Если вас устроит наличие только одной реплики службы, это может повлиять на время безотказной работы.

Сведения о доступности квот и регионов для ACI см. в статье Квоты и доступность регионов для Azure Container Instances.

Предварительные условия

• Рабочая область Azure Machine Learning. Дополнительные сведения см. в разделе Создание рабочей области Azure Machine Learning.

• Модель машинного обучения, зарегистрированная в вашей рабочей области. Если у вас нет зарегистрированной модели, см. раздел Как и где развертываются модели.

• Расширение Azure CLI (версия 1) для службы Machine Learning, пакет SDK Azure Machine Learning Python или Azure Machine Learning Visual Studio Code extension.

• Фрагменты кода Python в этой статье предполагают, что заданы следующие переменные:

  • ws — Установлено в вашей рабочей области;
  • model — устанавливается для вашей зарегистрированной модели;
  • inference_config — установить конфигурацию вывода для модели.

  Дополнительные сведения об установке этих переменных см. в разделе Как и где развертываются модели.

• Фрагменты командной строки в этой статье предполагают, что вы создали файл inferenceconfig.json. Дополнительные сведения о создании этого файла см. в разделе "Как и где развертывать модели".

Ограничения

Развертывание в ACI

Чтобы развернуть модель для Azure Container Instances, создайте конфигурацию deployment, описывающую необходимые вычислительные ресурсы, такие как количество ядер и памяти. Вам также потребуется конфигурация вывода, описывающая среду, необходимую для размещения модели и веб-службы. Дополнительные сведения о создании конфигурации вывода см. в разделе Как и где развертываются модели.

Использование пакета SDK

ПРИМЕНИМО К:Azure Machine Learning SDK версии 1 для Python

from azureml.core.webservice import AciWebservice, Webservice
from azureml.core.model import Model

deployment_config = AciWebservice.deploy_configuration(cpu_cores = 1, memory_gb = 1)
service = Model.deploy(ws, "aciservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

Дополнительные сведения о классах, методах и параметрах, используемых в этом примере, см. в следующих справочных статьях:

• AciWebservice.deploy_configuration
• Model.deploy
• Webservice.wait_for_deployment # ожидание развертывания

Использование Azure CLI

ПРИМЕНИМО К:Azure CLI расширение ml v1

Чтобы развернуть с помощью интерфейса командной строки, выполните следующую команду. Замените mymodel:1 на имя и версию зарегистрированной модели. Замените myservice именем для предоставления этой службы:

az ml model deploy -n myservice -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

Записи в deploymentconfig.json файле соответствуют параметрам для AciWebservice.deploy_configuration. В следующей таблице описывается сопоставление сущностей в JSON-файле и параметрах метода:

Следующий код JSON — это пример конфигурации развертывания для использования с CLI:

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

Дополнительные сведения можно найти в справочнике az ml model deploy.

Использование VS Code

См. статью об управлении ресурсами в VS Code.

Следующие шаги

• Развертывание модели с помощью пользовательского образа Docker
• Устранение неполадок при развертывании
• Обновление веб-службы
• Использовать TLS для защиты веб-службы с помощью Azure Machine Learning
• Использовать модель машинного обучения, развернутую в качестве веб-службы
• Отслеживайте модели Machine Learning в Azure с помощью Application Insights