Серия размеров ND-H200-v5

Виртуальная машина серии ND версии 5 H200 предназначена для обеспечения исключительной производительности рабочих нагрузок ИИ и высокопроизводительных вычислений (HPC). Эти виртуальные машины используют мощность GPU NVIDIA H200 Tensor Core, которая обеспечивает увеличение объема памяти с высокой пропускной способностью на 76% по сравнению с GPU H100 для достижения более высокой производительности в передовых моделях генеративного ИИ. Благодаря 141 ГБ высокоскоростной памяти и пропускной способности памяти 4,8 ТБ/с GPU H200 может обрабатывать большие наборы данных и более сложные модели, что делает его идеальным для создания искусственного интеллекта и научных вычислений.

Серия ND H200 v5 начинается с одной виртуальной машины и восьми графических процессоров NVIDIA H200 Tensor Core, соединенных через NVLink с пропускной способностью 900 ГБ/с. Развертывания на основе ND H200 версии 5 могут масштабироваться до тысяч GPU с пропускной способностью межсоединений 3,2 Тбит/с на одну виртуальную машину. Каждому GPU в виртуальной машине предоставляется собственное выделенное подключение InfiniBand NVIDIA Quantum-2 CX7 со скоростью 400 Гбит/с, не зависящее от топологии. Эти подключения автоматически настраиваются между всеми виртуальными машинами, которые входят в один масштабируемый набор виртуальных машин, и поддерживают технологию GPUDirect RDMA.

Эти экземпляры обеспечивают отличную производительность для многих средств искусственного интеллекта, машинного обучения и аналитики, которые поддерживают ускорение GPU "вне коробки", такие как TensorFlow, Pytorch, Caffe, RAPIDS и другие платформы. Кроме того, масштабируемое межсоединение InfiniBand поддерживается большим набором существующих средств искусственного интеллекта и HPC, созданных на основе библиотек связи NCCL NVIDIA для бесшовной кластеризации GPU.

Спецификации хоста

Часть Количество
Подсчет единиц
Характеристики
Идентификатор SKU, единицы производительности и т. д.
Процессор 96 виртуальных ЦП Intel Xeon (Sapphire Rapids) [x86-64]
Память 1850 ГиБ
Локальное хранилище 1 диск 1024 ГиБ
Удаленное хранилище 16Disks
Сеть 8 сетевых адаптеров
Ускорители 8 GPU NVIDIA H200 GPU (141 ГБ)

Сведения о функциях, поддерживаемых этой серией, см. в разделе поддержки компонентов .

Размеры серий

виртуальные ЦП (количество) и память для каждого варианта размера

Название размера виртуальные процессоры (кол-во) Память (ГБ)
Standard_ND96isr_H200_v5 96 1850

Основные ресурсы виртуальной машины

Поддержка функций

Имя функции Состояние поддержки
Хранилище уровня "Премиум". Поддерживается
Кэширование в хранилище класса Premium Поддерживается
Живая миграция Не поддерживается
Обновления с сохранением памяти Не поддерживается
Виртуальные машины поколения 2 Поддерживается
Виртуальные машины поколения 1 Не поддерживается
Ускорение работы в сети Поддерживается
Временный диск ОС Поддерживается
Вложенная виртуализация Не поддерживается

Другие сведения о размере

Список всех доступных размеров: размеры

Калькулятор цен: Калькулятор цен

Сведения о типах дисков: типы дисков

Следующие шаги

Воспользуйтесь новейшими функциями и производительностью, доступными для рабочих нагрузок, изменив размер виртуальной машины.

Используйте встроенные процессоры ARM корпорации Майкрософт с виртуальными машинами Azure Cobalt.

Узнайте, как отслеживать виртуальные машины Azure.