Что такое целевые объекты вычислений в Машинном обучении Azure?

Целевой объект вычисления – это назначенный вычислительный ресурс для выполнения сценария обучения или размещения развертывания службы. Это может быть локальный компьютер или облачный ресурс вычислений. С помощью целевых объектов вычислений можно легко менять среду вычислений, не изменяя код.

Машинное обучение Azure поддерживает различные целевые объекты вычислений. В типичном цикле разработки модели вы можете:

1. Начать с разработки и экспериментирования с небольшим объемом данных. На этом этапе используйте локальную среду, например локальный компьютер или облачную виртуальную машину (ВМ) в качестве целевого объекта вычислений.
2. Масштабируйте до больших данных или выполняйте распределенное обучение с помощью одной из этих обучающих вычислительных целей.
3. Когда модель будет готова, разверните ее в среде веб-размещения, используя один из этих целевых объектов для вычислений развертывания.

Вы присоединяете вычислительные ресурсы, используемые для целевых объектов вычислений, в рабочую область. Пользователи рабочей области используют вычислительные ресурсы, отличные от локального компьютера.

Обучение целевых объектов вычислений

При масштабировании обучения на больших наборах данных или распределенном обучении используйте вычислительные ресурсы Машинного обучения Azure для создания одноузлового или многоузлового кластера, который автоматически масштабируется при каждом отправке задания. Можно также присоединить собственный ресурс вычислений, хотя поддержка может различаться в зависимости от сценария.

Вы можете повторно использовать целевые объекты вычислений из одного задания обучения на следующее. Например, после подключения удаленной виртуальной машины к вашей рабочей области ее можно многократно использовать для нескольких заданий.

Для большинства заданий можно использовать любой из приведенных ниже ресурсов для обучающего целевого объекта вычислений. Не все ресурсы можно использовать для автоматизированного машинного обучения, конвейеров машинного обучения или конструктора. Azure Databricks можно использовать в качестве учебного ресурса для локальных запусков и конвейеров машинного обучения, но не в качестве удаленного целевого объекта для других видов обучения.

Целевые объекты вычислений для вывода

При выполнении вывода Машинное обучение Azure создает контейнер Docker, на котором размещена модель и связанные ресурсы, необходимые для его использования. Вы используете этот контейнер в целевом вычислительном объекте.

Целевой объект вычислений, используемый для размещения модели, влияет на стоимость и доступность развернутой конечной точки. Для выбора подходящего целевого объекта вычислений используйте приведенную таблицу.

Вычислительная среда Машинного обучения Azure (управляемая)

Машинное обучение Azure создает управляемые вычислительные ресурсы и управляет ими. Этот тип вычислений оптимизирован для рабочих нагрузок машинного обучения. Машинное обучение Azure вычислительных кластеров, бессерверных вычислений и вычислительных экземпляров являются единственными управляемыми вычислениями.

Вам не нужно создавать бессерверные вычисления. Вы можете создавать вычислительные экземпляры или вычислительные кластеры Машинного обучение Azure из:

• Студия машинного обучения Azure
• Пакет SDK для Python и Azure CLI:
  • Вычислительная операция
  • Вычислительный кластер
• Шаблон Azure Resource Manager. Пример шаблона см. в Создание вычислительного кластера Машинного обучение Azure.

При создании этих вычислительных ресурсов они автоматически становятся частью рабочей области, в отличие от других типов целевых объектов вычислений.

Поддерживаемые размеры и серии виртуальных машин

При выборе размера узла для управляемого вычислительного ресурса в Машинном обучении Azure можно выбрать размеры виртуальных машин, доступные в Azure. В Azure предоставлен диапазон размеров виртуальных машин Windows и Linux для разных рабочих нагрузок. Дополнительные сведения см. в разделе "Типы и размеры виртуальных машин".

При выборе размера виртуальной машины существует несколько исключений и ограничений.

• Машинное обучение Azure не поддерживает некоторые серии виртуальных машин.
• Некоторые серии виртуальных машин, такие как GPU и другие специальные номера SKU, могут не отображаться в списке доступных виртуальных машин. Но вы по-прежнему можете использовать их после запроса на изменение квоты. Дополнительные сведения о запросах квот см. в разделе "Увеличение квоты запросов и предельных ограничений".

Дополнительные сведения о поддерживаемых сериях см. в следующей таблице.

Хотя Машинное обучение Azure поддерживает эти серии виртуальных машин, они могут быть доступны не во всех регионах Azure. Чтобы проверить, доступна ли серия виртуальных машин, ознакомьтесь со статьей Доступность продуктов по регионам.

Если вы используете целевые объекты вычислений с поддержкой GPU, важно убедиться, что правильные драйверы CUDA установлены в среде обучения. Воспользуйтесь следующей таблицей, чтобы определить правильную версию CUDA:

Помимо обеспечения совместимости версии И оборудования CUDA, также убедитесь, что версия CUDA совместима с версией платформы машинного обучения, которую вы используете:

• Для PyTorch проверьте совместимость, перейдя на страницу предыдущих версий PyTorch.
• Для TensorFlow проверьте совместимость, перейдя на сборку TensorFlow с исходной страницы.

Изоляция вычислительных ресурсов

Машинное обучение Azure предлагает размеры виртуальных машин, которые используют оборудование строго определенного типа и выделяются отдельному клиенту. Такие изолированные размеры лучше всего подходят для рабочих нагрузок, требующих высокого уровня изоляции от рабочих нагрузок других клиентов, например для обеспечения соответствия нормативным требованиям. При использовании изолированного размера виртуальная машина является единственной, работающей на этом конкретном экземпляре сервера.

Текущие предложения изолированных виртуальных машин включают в себя:

• Standard_M128ms
• Standard_F72s_v2
• Standard_NC24s_v3
• Standard_NC24rs_v3 (с поддержкой RDMA)

Дополнительные сведения об изоляции см. в статье "Изоляция" в общедоступном облаке Azure.

Неуправляемые вычисления

Машинное обучение Azure не управляет неуправляемым целевым объектом вычислений. Этот тип целевого объекта вычислений можно создать за пределами Машинного обучения Azure, а затем подключить его к рабочей области. Вам может потребоваться выполнить дополнительные действия для поддержания неуправляемых вычислительных ресурсов или повышения производительности рабочих нагрузок машинного обучения.

Машинное обучение Azure поддерживает следующие типы неуправляемых вычислений:

• Удаленные виртуальные машины
• Azure HDInsight
• Azure Databricks
• Аналитика озера данных Azure

Дополнительные сведения см. в разделе "Управление вычислительными ресурсами".

Связанный контент