Виртуальная машина серии ND A100 версии 4 — это новое флагманское дополнение к семейству GPU Azure. Эти размеры предназначены для высокоуровневой подготовки глубокого обучения и тесно связаны с масштабируемыми и масштабируемыми рабочими нагрузками HPC.
Серия ND A100 версии 4 начинается с одной виртуальной машины и восьми GPU NVIDIA Ampere A100 40 ГБ Tensor Core. Развертывания на основе ND A100 версии 4 могут масштабироваться до тысяч GPU с пропускной способностью 1,6 ТБ/с пропускной способности взаимодействия на каждую виртуальную машину. Каждый ГРАФИЧЕСКИй процессор в виртуальной машине предоставляется с собственным выделенным подключением 200 ГБ/с NVIDIA Mellanox HDR InfiniBand. Эти подключения автоматически настраиваются между виртуальными машинами, занимающими один и тот же масштабируемый набор виртуальных машин Azure, и поддерживают GPU Direct RDMA.
Каждый GPU включает подключение NVLINK 3.0 для взаимодействия в виртуальной машине с 96 физическими 2-го поколения AMD Epyc™ 7V12 (Рим) ядрами ЦП.
Эти экземпляры обеспечивают великолепную производительность для многих средств аналитики, машинного обучения и искусственного интеллекта, которые в стандартной конфигурации поддерживают ускорение GPU, в том числе TensorFlow, Pytorch, Caffe, RAPIDS и другие платформы. Кроме того, межсоединение InfiniBand поддерживает большой набор существующих средств искусственного интеллекта и HPC, созданных на основе библиотек коммуникации NVIDIA NCCL2 для эффективного кластеризации gpu.
Спецификации узлов
| Часть |
Количество
Подсчет единиц |
Очки
Идентификатор SKU, единицы производительности и т. д. |
| Процессор |
96 виртуальных ЦП |
AMD EPYC 7V12 (Рим) [x86-64] |
| Память |
900 ГиБ |
|
| Локальное хранилище |
1 диск |
6000 ГиБ |
| Удаленное хранилище |
32 диска |
80000 операций ввода-вывода в секунду
800 Мбит/с |
| Сеть |
8 сетевых адаптеров |
24000 Мбит/с |
| Ускорители |
8 GPU |
Nvidia A100 GPU (40 ГБ) |
Поддерживаемые компоненты
хранилище класса Premium: поддерживается
кэширование хранилище класса Premium: поддерживается
Динамическая миграция: не поддерживается
Сохранение памяти: не поддерживается
Виртуальные машины поколения 2: поддерживается
Виртуальные машины поколения 1. Не поддерживается
Ускорение сети: поддерживается
Временный диск ОС: поддерживается
Вложенная виртуализация: не поддерживается
Размеры рядов
виртуальные ЦП (Qty.) и память для каждого размера
| Имя размера |
виртуальные ЦП (Qty.) |
Память (ГБ) |
| Standard_ND96asr_v4 |
96 |
900 |
Основные ресурсы виртуальной машины
Сведения о локальном (temp) хранилище для каждого размера
| Имя размера |
Максимальное количество дисков хранилища temp (Qty.) |
Размер диска temp (ГиБ) |
| Standard_ND96asr_v4 |
1 |
6 000 |
Ресурсы хранилища
Определения таблиц
-
Скорость 1временных дисков часто отличается от операций RR (случайного чтения) и RW (случайной записи). Операции RR обычно быстрее, чем операции RW. Скорость RW обычно медленнее скорости RR в рядах, где указано только значение скорости RR.
- Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.
- Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.
- Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.
Сведения о удаленном (некачеленом) хранилище для каждого размера
| Имя размера |
Максимальное число дисков удаленного хранилища (Qty.) |
Некичированные операции ввода-вывода в секунду на диск |
Скорость некичированного диска (MBps) |
| Standard_ND96asr_v4 |
32 |
80 000 |
800 |
Ресурсы хранилища
Определения таблиц
-
1Некоторые размеры поддерживают ускорение , чтобы временно увеличить производительность диска. Скорость ускорения может поддерживаться до 30 минут за раз.
-
2Специальное хранилище относится к хранилищу SSD категории "Ультра" или "Премиум" версии 2 .
- Емкость хранилища отображается в единицах ГиБ (1 ГиБ = 1024^3 байтов). При сравнении емкости дисков в ГБ (1000^3 байтов) с емкостью дисков в ГиБ (1024^3 байтов) помните, что значения емкости в ГиБ могут казаться меньше, чем в ГБ. Например, 1023 ГиБ = 1098,4 ГБ.
- Пропускная способность дисков измеряется в операциях ввода-вывода в секунду (IOPS) и МБит/с, где 1 МБит/с = 10^6 байтов в секунду.
- Диски данных могут работать в режиме кэширования и в режиме без кэширования. Чтобы использовать кэширование диска данных, для режима кэширования узла следует задать значение ReadOnly или ReadWrite. Чтобы не использовать кэширование диска данных, для режима кэширования узла следует задать значение None.
- Сведения о том, как получить оптимальную производительность хранилища для виртуальных машин, см. в статье Производительность диска и виртуальной машины.
Сведения о сетевом интерфейсе для каждого размера
| Имя размера |
Максимальное число сетевых адаптеров (Qty.) |
Максимальная пропускная способность (Мбит/с) |
| Standard_ND96asr_v4 |
8 |
24000 |
Сетевые ресурсы
Определения таблиц
- Ожидаемая пропускная способность сети — это максимальная совокупная пропускная способность, выделенная на каждый тип виртуальной машины по всем сетевым адаптерам для всех назначений. Дополнительные сведения см. в разделе " Пропускная способность сети виртуальной машины"
- Верхние пределы не гарантированы. Пределы предлагают руководство по выбору типа виртуальной машины, подходящего для предполагаемого приложения. Фактическая производительность сети зависит от нескольких факторов, в том числе загрузки сети и приложения, а также параметров сети. Сведения об оптимизации пропускной способности см. в статье Оптимизация пропускной способности сети для виртуальных машин Azure.
- Чтобы обеспечить ожидаемую производительность сети на виртуальных машинах Linux или Windows, возможно, потребуется выбрать определенную версию виртуальной машины или оптимизировать ее. Чтобы получить дополнительную информацию, см. Проверка пропускной способности (NTTTCP).
Сведения об акселераторе (GPU, FPGAs и т. д.) для каждого размера
| Имя размера |
Акселераторы (Qty.) |
Акселератор-память (ГБ) |
| Standard_ND96asr_v4 |
8 |
320 |
Список всех доступных размеров: размеры
Калькулятор цен: Калькулятор цен
Сведения о типах дисков: типы дисков
Следующие шаги
Воспользуйтесь новейшими функциями и производительностью, доступными для рабочих нагрузок, изменив размер виртуальной машины.
Используйте встроенные процессоры ARM корпорации Майкрософт с виртуальными машинами Azure Cobalt.
Узнайте, как отслеживать виртуальные машины Azure.