Используйте экземпляры с RDMA или GPU в пулах Batch

Для выполнения некоторых пакетных заданий можно воспользоваться размерами виртуальных машин Azure, предназначенными для крупномасштабных вычислений. Например:

• Чтобы запускать многоэкземплярные рабочие нагрузки MPI, выбирайте типоразмеры серий HB, HC, NC или ND либо другие типоразмеры с сетевым интерфейсом, поддерживающим удалённый прямой доступ к памяти (RDMA). Эти типоразмеры подключаются к сети InfiniBand для обмена данными между узлами, что может ускорить MPI-приложения.

• Для приложений CUDA можно выбрать размеры серии N, которые включают карты графического процессора (GPU) NVIDIA Tesla.

В этой статье приведены рекомендации и примеры использования некоторых специализированных типоразмеров Azure в пулах Batch. Спецификации и общие сведения см. по следующим ссылкам:

• размеры виртуальных машин, оптимизированных для высокопроизводительных вычислений (Linux, Windows);

• размеры виртуальных машин с поддержкой графического процессора (GPU) (Linux, Windows).

Зависимости

Возможности RDMA или GPU для типоразмеров, предназначенных для ресурсоёмких вычислений, в Batch поддерживаются только в некоторых операционных системах. Поддерживаемые операционные системы для этих размеров виртуальных машин включают только часть операционных систем, доступных для создания виртуальной машины. В зависимости от того, как вы создаете пул Batch, вам может потребоваться установить или настроить на узлах дополнительные драйверы или другое программное обеспечение. В указанной ниже таблице представлены сведения об этих зависимостях. Перейдите по ссылке, чтобы просмотреть дополнительные сведения. Сведения о вариантах настройки пулов Batch см. далее в этой статье.

Пулы Linux — конфигурация виртуальной машины

^*Размеры серии N с поддержкой RDMA также включают графические процессоры NVIDIA Tesla

Пулы Windows — конфигурация виртуальной машины

^*Размеры серии N с поддержкой RDMA также включают графические процессоры NVIDIA Tesla

Пулы Windows — конфигурация облачных служб

Варианты настройки пула

Для настройки специализированного размера виртуальной машины для пула пакетной службы есть несколько вариантов для установки необходимого программного обеспечения или драйверов.

• Для пулов в конфигурации виртуальной машины выберите стандартный образ виртуальной машины Azure Marketplace с предустановленными драйверами и программным обеспечением. Примеры:

  • виртуальная машина для обработки и анализа данных для Linux или Windows — включает драйверы NVIDIA CUDA.

  • Образы Linux для контейнерных рабочих нагрузок Batch, которые также включают драйверы GPU и RDMA:

  • Ubuntu Server (с драйверами GPU и RDMA) для контейнерных пулов пакетной службы Azure.

• Создайте пользовательский образ виртуальной машины Windows или Linux с установленными драйверами, программным обеспечением или другими параметрами, необходимыми для размера виртуальной машины.

• Установите драйверы GPU и RDMA с помощью расширения виртуальной машины.

• Создайте пакет приложения из ZIP-архива с драйвером или установщиком приложения. Затем настройте службу Batch для развертывания этого пакета на узлах пула и его однократной установки при создании каждого узла. Например, если пакет приложения является установщиком, создайте командную строку задачи запуска, чтобы автоматически установить приложение на всех узлах пула. Рекомендуется использовать пакет приложения и задачу запуска пула, если рабочая нагрузка зависит от конкретной версии драйвера.

  Примечание.

  Задача запуска должна выполняться с повышенными правами (администратора), и необходимо дождаться её успешного завершения. Длительно выполняющиеся задачи увеличивают время подготовки пула Batch.

Пример: драйверы GPU NVIDIA в пуле виртуальных машин Windows NC

Чтобы запускать приложения CUDA в пуле узлов Windows NC, необходимо установить драйверы GPU NVIDIA. Ниже приведен пример процедуры с использованием пакета приложения для установки драйверов GPU NVIDIA. Вы можете выбрать этот вариант, если рабочая нагрузка зависит от конкретной версии драйвера GPU.

1. Скачайте пакет установки для драйверов GPU в Windows Server 2016 с веб-сайта NVIDIA, например версию 411.82. Сохраните файл локально, используя короткое имя, например GPUDriverSetup.exe.
2. Создайте ZIP-файл пакета.
3. Загрузите пакет в учетную запись Batch. Пошаговые инструкции см. в руководстве для пакетов приложений. Укажите идентификатор приложения, например GPUDriver, и его версию, например 411.82.
4. Используйте API пакетной службы или портал Azure для создания пула в конфигурации виртуальных машин с нужным количеством узлов и необходимым масштабом. В следующей таблице показаны примеры параметров для автоматической установки драйверов GPU NVIDIA с помощью задачи запуска.

Пример. Драйверы GPU NVIDIA в пуле виртуальных машин Linux NC

Чтобы запустить приложения CUDA в пуле узлов NC под управлением Linux, необходимо установить драйверы GPU NVIDIA Tesla из набора средств CUDA Toolkit. Следующие примеры действий по созданию и развертыванию пользовательского образа Ubuntu 22.04 LTS с драйверами GPU:

1. Разверните виртуальную машину серии NC Azure под управлением Ubuntu 22.04 LTS. Например, создайте виртуальную машину в центрально-южной части США.
2. Добавьте расширение драйверов GPU NVIDIA в виртуальную машину с помощью портала Azure, клиентского компьютера, подключенного к подписке Azure, или Azure Cloud Shell. Кроме того, можно выполнить соответствующие инструкции, чтобы подключить виртуальную машину и установить драйверы CUDA вручную.
3. Выполните следующие действия, чтобы создать образ Azure Compute Gallery для Batch.
4. Создайте учетную запись Batch в регионе, который поддерживает виртуальные машины серии NC.
5. Используя API Batch или портал Azure, создайте пул на основе пользовательского образа с нужным количеством узлов и параметрами масштабирования. В следующей таблице приведены примеры параметров пула для данного образа:

Пример: Microsoft MPI в пуле виртуальных машин Windows H16r

Чтобы выполнять приложения Windows MPI в пуле узлов виртуальных машин H16r в Azure, необходимо настроить расширение HpcVmDrivers и установить Microsoft MPI. Ниже приведен пример процедуры по развертыванию пользовательского образа Windows Server 2016 с необходимыми драйверами и программным обеспечением.

1. Выполните развертывание виртуальной машины H16r Azure под управлением Windows Server 2016. Например, создайте виртуальную машину в западной части США.
2. Добавьте расширение HpcVmDrivers в виртуальную машину, выполнив команду Azure PowerShell на клиентском компьютере, который подключен к вашей подписке Azure, или с помощью Azure Cloud Shell.
3. Откройте подключение к удаленному рабочему столу своей виртуальной машины.
4. Скачайте пакет установки (MSMpiSetup.exe) с последней версией Microsoft MPI и установите Microsoft MPI.
5. Выполните следующие действия, чтобы создать образ Azure Compute Gallery для Batch.
6. Используйте API пакетной службы или портал Azure для создания пула с помощью Коллекции вычислений Azure с нужным числом узлов и в нужном масштабе. В следующей таблице приведены примеры параметров пула для данного образа:

Следующие шаги

• Для выполнения заданий MPI в пуле пакетной службы Azure ознакомьтесь с примерами для Windows или Linux.