Что такое целевые объекты вычислений в Azure Machine Learning?

Целевой объект вычисления – это назначенный вычислительный ресурс или среда, где выполняется ваш учебный сценарий или размещается развёртывание службы. Это может быть локальный компьютер или облачный ресурс вычислений. С помощью целевых объектов вычислений можно легко менять среду вычислений, не изменяя код.

Azure Machine Learning поддерживает различные целевые объекты вычислений. В типичном цикле разработки модели вы можете:

1. Начать с разработки и экспериментирования с небольшим объемом данных. На этом этапе используйте локальную среду, например локальный компьютер или облачную виртуальную машину (ВМ) в качестве целевого объекта вычислений.
2. Увеличьте масштаб обработки данных или выполняйте распределенное обучение с помощью одной из этих вычислительных ресурсов для обучения.
3. Когда ваша модель будет готова, разверните её в среде веб-хостинга, используя одну из этих целевых вычислительных платформ для развертывания.

Вы присоединяете вычислительные ресурсы, используемые для целевых объектов вычислений, в рабочую область. Пользователи рабочей области используют вычислительные ресурсы, отличные от локального компьютера.

Обучение целевых объектов вычислений

При масштабировании обучения на более крупных наборах данных или выполнении дистрибутированного обучения используйте Azure Machine Learning вычислений для создания одноузлового или многоузлового кластера, который автоматически масштабируется при каждом отправке задания. Можно также присоединить собственный ресурс вычислений, хотя поддержка может различаться в зависимости от сценария.

Вы можете повторно использовать целевые объекты вычислений из одного задания обучения на следующее. Например, после подключения удаленной виртуальной машины к вашей рабочей области ее можно многократно использовать для нескольких заданий.

Для большинства заданий можно использовать любой из представленных ниже ресурсов в качестве целевой вычислительной платформы для обучения. Не все ресурсы можно использовать для автоматизированного машинного обучения, конвейеров машинного обучения или конструктора. Azure Databricks можно использовать в качестве ресурса обучения для локальных запусков и конвейеров машинного обучения, но не в качестве удаленного целевого объекта для других учебных занятий.

Целевые объекты вычислений для вывода

При выполнении вывода Azure Machine Learning создает контейнер Docker, на котором размещена модель и связанные ресурсы, необходимые для его использования. Вы используете этот контейнер в целевом вычислительном объекте.

Целевой объект вычислений, используемый для размещения модели, влияет на стоимость и доступность развернутой конечной точки. Для выбора подходящего целевого объекта вычислений используйте приведенную таблицу.

Azure Machine Learning вычислительные мощности (управляемые)

Azure Machine Learning создает управляемые вычислительные ресурсы и управляет ими. Этот тип вычислений оптимизирован для рабочих нагрузок машинного обучения. Управляемыми вычислительными ресурсами являются только кластеры вычислений Azure Machine Learning, бессерверные вычисления и экземпляры вычислений.

Вам не нужно создавать бессерверные вычисления. Вы можете создавать вычислительные экземпляры или вычислительные кластеры в Azure Machine Learning из:

• Azure Machine Learning studio
• Пакет SDK Python и Azure CLI:
  • Вычислительная единица
  • Вычислительный кластер
• Шаблон Azure Resource Manager. Пример шаблона, см. Создание вычислительного кластера Azure Machine Learning.

При создании этих вычислительных ресурсов они автоматически становятся частью рабочей области, в отличие от других типов целевых объектов вычислений.

Поддерживаемые размеры и серии виртуальных машин

При выборе размера узла для управляемого вычислительного ресурса в Azure Machine Learning можно выбрать размеры виртуальных машин, доступные в Azure. Azure предлагает диапазон размеров для Linux и Windows для разных рабочих нагрузок. Дополнительные сведения см. в разделе "Типы и размеры виртуальных машин".

При выборе размера виртуальной машины существует несколько исключений и ограничений.

• Azure Machine Learning не поддерживает некоторые серии виртуальных машин.
• Некоторые серии виртуальных машин, такие как GPU и другие специальные номера SKU, могут не отображаться в списке доступных виртуальных машин. Но вы по-прежнему можете использовать их после запроса на изменение квоты. Дополнительные сведения о запросах квот см. в разделе "Увеличение квоты запросов и предельных ограничений".

Дополнительные сведения о поддерживаемых сериях см. в следующей таблице.

Хотя Azure Machine Learning поддерживает эти серии виртуальных машин, они могут быть недоступны во всех Azure регионах. Чтобы проверить, доступна ли серия виртуальных машин, ознакомьтесь со статьей Доступность продуктов по регионам.

Если вы используете целевые объекты вычислений с поддержкой GPU, важно убедиться, что правильные драйверы CUDA установлены в среде обучения. Воспользуйтесь следующей таблицей, чтобы определить правильную версию CUDA:

Помимо обеспечения совместимости версии И оборудования CUDA, также убедитесь, что версия CUDA совместима с версией платформы машинного обучения, которую вы используете:

• Для PyTorch проверьте совместимость, перейдя на страницу предыдущих версий PyTorch.
• Для TensorFlow проверьте совместимость, перейдя на сборку TensorFlow с исходной страницы.

Изоляция вычислительных ресурсов

Azure Machine Learning вычислительные ресурсы предоставляют размеры виртуальных машин, изолированные от определенного типа оборудования и выделенные одному клиенту. Изолированные размеры ВМ лучше всего подходят для рабочих нагрузок, которые требуют высокого уровня изоляции от нагрузок других клиентов, например, для соблюдения нормативных требований. При использовании изолированного размера виртуальная машина является единственной, работающей на этом конкретном экземпляре сервера.

Текущие предложения изолированных виртуальных машин включают в себя:

• Standard_M128ms
• Standard_F72s_v2
• Standard_NC24s_v3
• Standard_NC24rs_v3 (с поддержкой RDMA)

Дополнительные сведения об изоляции см. в разделе Isolation в общедоступном облаке Azure.

Неуправляемые вычисления

Azure Machine Learning не управляет целевым объектом вычислений unmanaged. Вы создаете этот тип целевого объекта вычислений вне Azure Machine Learning, а затем присоединяете его к рабочей области. Вам может потребоваться выполнить дополнительные действия для поддержания неуправляемых вычислительных ресурсов или повышения производительности рабочих нагрузок машинного обучения.

Azure Machine Learning поддерживает следующие неуправляемые типы вычислений:

• Удаленные виртуальные машины
• Azure HDInsight
• Azure Databricks
• Azure Data Lake Analytics

Дополнительные сведения см. в разделе "Управление вычислительными ресурсами".

Связанный контент