Поделиться через

Размеры серии ND-H100-v5

Виртуальная машина серии ND H100 v5 — это новое флагманское дополнение к семейству GPU Azure. Эта серия предназначена для высокопроизводительного обучения и тесно связана с расширяемыми и наращиваемыми рабочими нагрузками генеративного ИИ и HPC.

Серия ND H100 v5 начинается с одной виртуальной машины и восьми gpu NVIDIA H100 Tensor Core. Развертывания на основе ND H100 версии 5 могут масштабироваться до тысяч GPU с 3,2 ТБ пропускной способности взаимодействия на каждую виртуальную машину. Каждому графическому процессору в виртуальной машине предоставлено собственное выделенное соединение InfiniBand с пропускной способностью 400 Гбит/с, не зависящее от топологии, NVIDIA Quantum-2 CX7. Эти подключения автоматически настраиваются между виртуальными машинами, занимающими один и тот же набор масштабирования виртуальных машин, и поддерживают GPU Direct RDMA.

Каждый GPU включает подключение NVLINK 4.0 для обмена данными на виртуальной машине, а экземпляр имеет 96 физических четвертых ядер процессора Intel Xeon Scalable.

Эти экземпляры обеспечивают отличную производительность для многих средств искусственного интеллекта, машинного обучения и аналитики, которые поддерживают ускорение GPU "вне коробки", такие как TensorFlow, Pytorch, Caffe, RAPIDS и другие платформы. Кроме того, масштабируемая сеть InfiniBand поддерживает большой набор существующих средств искусственного интеллекта и высокопроизводительных вычислений, созданных на основе библиотек коммуникации NVIDIA NCCL для бесшовного кластеризации графических процессоров.

Спецификации хоста

Часть Количество
Подсчет единиц		 Характеристики
Идентификатор SKU, единицы производительности и т. д.
Процессор 96 виртуальных ЦП Intel Xeon (Sapphire Rapids) [x86-64]
Память 1900 ГиБ
Локальное хранилище 1 диск 1024 ГиБ
Удаленное хранилище 32Disks
Сеть 8 сетевых адаптеров
Ускорители 8 GPU Nvidia H100 GPU (80 ГБ)

Сведения о функциях, поддерживаемых этой серией, см. в разделе поддержки компонентов .

Размеры в серии

виртуальные ЦП (Qty.) и память для каждого размера

Название размера виртуальные ЦП (Кол-во) Память (ГБ)
Standard_ND96isr_H100_v5 96 1900

Основные ресурсы виртуальной машины

Поддержка функций

Имя функции Состояние поддержки
Хранилище уровня "Премиум". Поддерживается
Кэширование в хранилище класса Premium Поддерживается
Живая миграция Не поддерживается
Обновления с сохранением памяти Не поддерживается
Виртуальные машины поколения 2 Поддерживается
Виртуальные машины поколения 1 Не поддерживается
Ускорение работы в сети Поддерживается
Временный диск ОС Поддерживается
Локальное временное хранилище Поддерживается
Вложенная виртуализация Не поддерживается
Infiniband Поддерживается

Другие сведения о размере

Список всех доступных размеров: размеры

Калькулятор цен: Калькулятор цен

Сведения о типах дисков: типы дисков

Следующие шаги

Воспользуйтесь новейшими функциями и производительностью, доступными для рабочих нагрузок, изменив размер виртуальной машины.

Используйте встроенные процессоры ARM корпорации Майкрософт с виртуальными машинами Azure Cobalt.

Узнайте, как отслеживать виртуальные машины Azure.

  • Last updated on