Установка драйверов GPU NVIDIA на виртуальные машины серии N под управлением Linux

Область применения: ✔️ виртуальные машины Linux

Это важно

Чтобы соответствовать инклюзивной языковой практике, эта документация заменяет термин "черный список" на "блок-список". Это изменение отражает обязательство избегать терминологии, которая может нести непреднамеренные отрицательные коннотации или воспринимаемую расовую предвзятость. Однако в фрагментах кода и технических ссылках, где "черный список" является частью установленного синтаксиса или инструментов (например, файлов конфигурации, параметров командной строки), исходный термин сохраняется для сохранения функциональной точности. Это использование строго техническое и не подразумевает никаких дискриминационных намерений.

Чтобы воспользоваться преимуществами возможностей графического модуля обработки (GPU) виртуальной машины Azure серии N, поддерживаемой GPU NVIDIA, необходимо установить драйверы GPU NVIDIA. Расширение драйвера GPU NVIDIA устанавливает соответствующие драйверы nvidia Compute Unified Device Architecture (CUDA) или GRID на виртуальной машине серии N. Расширение можно установить и управлять ими с помощью портала Azure или таких средств, как Azure PowerShell. Сведения о поддерживаемых операционных системах и шагах развертывания см. в документации по расширению драйвера GPU NVIDIA.

Чтобы установить драйверы GPU NVIDIA вручную, выполните действия, описанные в этой статье. Сведения о настройке драйвера вручную также доступны для виртуальных машин Windows.

Технические спецификации см. в разделе "Размеры виртуальных машин Linux для GPU".

Предупреждение

Установка драйверов NVIDIA с помощью методов, отличных от описанных в этой статье, может привести к сбою установки предполагаемого драйвера. Microsoft и NVIDIA не поддерживают эту установку. Чтобы обеспечить правильную функциональность и поддержку, выполните только действия по установке и используйте версии драйверов, указанные в этой статье.

Драйверы CUDA

NVIDIA распространяет драйверы CUDA для виртуальных машин NCasT4_v3, NC_A100_v4 и NCads_H100_v5.

Поддерживаемые драйверы CUDA

Чтобы получить последние драйверы CUDA и поддерживаемую ОС, посетите веб-сайт NVIDIA. Убедитесь, что вы устанавливаете или обновляете последний поддерживаемый драйвер CUDA для дистрибутива.

Установка драйвера CUDA

Для установки драйвера CUDA посетите веб-сайт NVIDIA.

Проверка установки драйвера CUDA

Выполните команду nvidia-smi. Если драйвер установлен, NVIDIA SMI перечисляет GPU-Util как N/A, пока не будет запущена рабочая нагрузка GPU на виртуальной машине.

Драйверы GRID

Microsoft распространяет установщики драйверов NVIDIA GRID для NVv3, NCasT4_v3, NVadsA10_v5 и NCv6 RTX PRO 6000 виртуальных машин BSE, используемых в качестве виртуальных рабочих станций или для виртуальных приложений.

Поддерживаемые драйверы GRID

Установите эти драйверы GRID только на этих виртуальных машинах и только в операционных системах, перечисленных в следующей таблице. Эти драйверы включают лицензирование программного обеспечения GRID Virtual GPU (vGPU) в Azure. Вам не нужно настраивать сервер лицензирования программного обеспечения NVIDIA vGPU.

Серии виртуальных машин с GPU NCasT4_v3 и NCv6 RTX PRO 6000 BSE — единственные серии, не относящиеся к NV, которые поддерживают драйверы GRID.

Серия ВМ графический процессор (GPU) Драйвер GRID Поддерживаемые версии ОС Linux
NCv6 RTX PRO 6000 BSE NVIDIA RTX PRO 6000 Blackwell Server Edition GPU (96 ГБ) vGPU20 • Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• Red Hat Enterprise Linux (RHEL) 9.4, 9.6, 9.7
• Red Hat Enterprise Linux (RHEL) 8.10
• SUSE Linux Enterprise Server 15 с пакетом обновления 7 (SP7)
NCasT4_v3 NVIDIA Tesla T4 GPU (16 ГБ) vGPU20 • Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• Red Hat Enterprise Linux (RHEL) 9.4, 9.6, 9.7
• Red Hat Enterprise Linux (RHEL) 8.10
NVadsA10_v5 NVIDIA A10 GPU (24 ГБ) vGPU18 • Ubuntu 24.04 LTS
• Ubuntu 22.04 LTS
• Ubuntu 20.04 LTS
• Red Hat Enterprise Linux (RHEL) 9.4, 9.6, 9.7
• Red Hat Enterprise Linux (RHEL) 8.10
NVv3 (выход из эксплуатации 30 сентября 2026 г.) NVIDIA Tesla M60 GPU (16 ГБ) vGPU16 (LTS) • Ubuntu 20.04 LTS
• Red Hat Enterprise Linux (RHEL) 8.6, 8.8, 8.9

Дополнительные сведения о конкретных версиях vGPU и драйверов см. на веб-сайте NVIDIA .

Установка драйвера GRID

  1. Убедитесь, что безопасная загрузка и vTPM отключены.

  2. Установите необходимые компоненты.

    Ubuntu:

    sudo apt update 
    sudo apt install -y build-essential 
    

    RHEL (8.10, 9.4, 9.6, 9.7):

    sudo yum check-update 
    sudo yum install -y make automake gcc gcc-c++ kernel-devel-$(uname -r) kernel-headers-$(uname -r) 
    
  3. Скачайте драйвер Linux.

    a. Для NCv6 RTX PRO 6000 BSE, NCasT4_v3:

    wget -O ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run https://download.microsoft.com/download/51239696-ec04-4c02-a6b3-1d9c608fb57c/NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    

    б. Для NVadsA10_v5:

    wget -O ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run https://download.microsoft.com/download/2a04ca6a-9eec-40d9-9564-9cdea1ab795f/NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    

    с. Для NVv3:

    wget -O ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run https://download.microsoft.com/download/8/d/a/8da4fb8e-3a9b-4e6a-bc9a-72ff64d7a13c/NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    
  4. Установите драйвер.

    a. Для NCv6 RTX PRO 6000 BSE:

    sudo chmod +x ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run -M open
    

    б. Для NCasT4_v3:

    sudo chmod +x ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run
    

    с. Для NVadsA10_v5:

    sudo chmod +x ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
    

    d. Для NVv3:

    sudo chmod +x ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    sudo ./NVIDIA-Linux-x86_64-535.161.08-grid-azure.run
    

Проверка установки драйвера GRID

Выполните команду nvidia-smi. Если драйвер установлен, NVIDIA SMI перечисляет GPU-Util как N/A, пока не будет запущена рабочая нагрузка GPU на виртуальной машине.

Устранение неполадок

  • Когда необходимо запрашивать карты, для быстрого получения выходных данных команды можно задать режим сохранения с помощью команды nvidia-smi. Чтобы задать режим сохраняемости, выполните команду nvidia-smi -pm 1. Если виртуальная машина перезапущена, параметр режима исчезнет. Вы всегда можете скриптировать параметр режима, который будет выполняться при запуске.

  • Если задания прерываются ошибками ECC на GPU (как исправляемыми, так и неисправимыми), сначала проверьте, соответствует ли GPU любому из критериев RMA для ошибок ECC NVIDIA. Если GPU имеет право на RMA, обратитесь в службу поддержки по поводу его обслуживания; в противном случае перезагрузите виртуальную машину, чтобы повторно подключить GPU, как описано здесь. Менее инвазивные методы, такие как nvidia-smi -r, не работают с решением виртуализации, развернутым в Azure.

Следующие шаги