La macchina virtuale della serie ND A100 v4 è il nuovo fiore all'occhiello della famiglia di GPU di Azure. Queste dimensioni sono state progettate per il training di Deep Learning di fascia alta e per i carichi di lavoro HPC con scale-up e scale-out.
La serie ND A100 v4 inizia con una singola macchina virtuale e otto GPU NVIDIA Ampere A100 da 40 GB Tensor Core. Le distribuzioni basate su ND A100 v4 possono aumentare fino a migliaia di GPU con 1,6 TB/s di larghezza di banda di interconnessione per macchina virtuale. Ogni GPU all'interno della macchina virtuale viene fornita con una propria connessione NVIDIA Mellanox HDR InfiniBand da 200 GB/s dedicata e indipendente dalla topologia. Queste connessioni vengono configurate automaticamente tra le macchine virtuali che occupano lo stesso set di scalabilità di macchine virtuali di Azure e supportano GPU Direct RDMA.
Ogni GPU dispone della connettività NVLINK 3.0 per la comunicazione all'interno della macchina virtuale, supportata da 96 core CPU AMD Epyc™ 7V12 di seconda generazione (Rome).
Queste istanze offrono prestazioni eccellenti per molti strumenti di intelligenza artificiale, Machine Learning e analisi che supportano l'accelerazione GPU predefinita, ad esempio TensorFlow, Pytorch, Caffe, RAPIDS e altri framework. Inoltre, l'interconnessione InfiniBand scale-out supporta un ampio set di strumenti di intelligenza artificiale e HPC esistenti, basati sulle librerie di comunicazione NCCL2 di NVIDIA per un clustering semplice della GPU.
Specifiche dell'host
| In parte |
Quantità
Conteggio delle unità |
Specifiche
ID SKU, unità delle prestazioni e così via. |
| Processore |
96 vCPU |
AMD EPYC 7V12 (Roma) [x86-64] |
| Memoria |
900 GiB |
|
| Archiviazione locale |
1 disco |
6000 GiB |
| Archiviazione remota |
32 Dischi |
80000 operazioni di I/O al secondo
800 MBps |
| Rete |
8 schede di interfaccia di rete |
24000 MBps |
| Acceleratori |
8 GPU |
GPU Nvidia A100 (40 GB) |
Supporto funzionalità
Archiviazione Premium: supportata
Memorizzazione nella cache di Archiviazione Premium: supportata
Live Migration: non supportato
Aggiornamenti per il mantenimento della memoria: non supportato
Macchine virtuali di seconda generazione: supportate
Macchine virtuali di seconda generazione: non supportato
Rete accelerata: supportata
Disco del sistema operativo temporaneo: supportato
Virtualizzazione annidata: non supportata
Dimensioni nella serie
vCPU (Qtà) e memoria per ogni dimensione
| Nome dimensione |
vCPU (Qtà) |
Memoria (GB) |
| Standard_ND96asr_v4 |
96 |
900 |
Risorse di base della macchina virtuale
Informazioni di archiviazione locali (temp) per ogni dimensione
| Nome dimensione |
Dischi di archiviazione temporanea massima (Qtà) |
Dimensioni del disco temporaneo (GiB) |
| Standard_ND96asr_v4 |
1 |
6.000 |
Risorse di archiviazione
Definizioni di tabella
-
1La velocità del disco temporanea è spesso diversa tra le operazioni RR (Random Read) e RW (Random Write). Le operazioni RR sono in genere più veloci rispetto a quelle RW. La velocità RW è in genere più lenta rispetto a quella RR nelle serie in cui è elencato solo il valore di velocità RR.
- La capacità di archiviazione viene visualizzata in unità di GiB o 1.024^3 byte. Quando si confrontano dischi misurati in GB (1000^3 byte) con dischi misurati in GiB (1024^3), tenere presente che i valori di capacità specificati in GiB potrebbero apparire inferiori. Ad esempio, 1.023 GiB = 1.098,4 GB.
- La velocità effettiva del disco viene misurata in operazioni di input/output al secondo (IOPS) e MBps, dove il valore di MBps corrisponde a 10^6 byte al secondo.
- Per informazioni su come ottenere le migliori prestazioni di archiviazione per le macchine virtuali, vedere Macchine virtuali e prestazioni del disco.
Informazioni di archiviazione remote (non memorizzate) per ogni dimensione
| Nome dimensione |
Archiviazione remota massima su dischi (Qtà) |
Operazioni di I/O al secondo del disco senza memorizzazione nella cache |
Velocità (MBps) del disco senza memorizzazione nella cache |
| Standard_ND96asr_v4 |
32 |
80000 |
800 |
Risorse di archiviazione
Definizioni di tabella
-
1Alcuni formati supportano il bursting per aumentare temporaneamente le prestazioni del disco. La velocità di burst può essere mantenuta per un massimo di 30 minuti alla volta.
-
2L'archiviazione speciale si riferisce a Ultra Disk o Premium SSD v2.
- La capacità di archiviazione viene visualizzata in unità di GiB o 1.024^3 byte. Quando si confrontano dischi misurati in GB (1000^3 byte) con dischi misurati in GiB (1024^3), tenere presente che i valori di capacità specificati in GiB potrebbero apparire inferiori. Ad esempio, 1.023 GiB = 1.098,4 GB.
- La velocità effettiva del disco viene misurata in operazioni di input/output al secondo (IOPS) e MBps, dove il valore di MBps corrisponde a 10^6 byte al secondo.
- I dischi dati possono operare in modalità memorizzata nella cache o non memorizzata nella cache. Per il funzionamento dei dischi dati memorizzati nella cache, la modalità di cache host è impostata su ReadOnly o su ReadWrite. Per il funzionamento dei dischi dati non memorizzati nella cache, la modalità di cache host è impostata su None.
- Per informazioni su come ottenere le migliori prestazioni di archiviazione per le macchine virtuali, vedere Macchine virtuali e prestazioni del disco.
Informazioni sull'interfaccia di rete per ogni dimensione
| Nome dimensione |
N. max schede di interfaccia di rete (Qtà) |
Larghezza di banda massima (Mbps) |
| Standard_ND96asr_v4 |
8 |
24000 |
Risorse di rete
Definizioni di tabella
- La larghezza di banda della rete prevista è la larghezza di banda aggregata massima allocata per ogni tipo di macchina virtuale in tutte le schede di interfaccia di rete, per tutte le destinazioni. Per altre informazioni, vedere Larghezza di banda di rete della macchina virtuale
- I limiti superiori non sono garantiti. I limiti offrono indicazioni per la selezione del tipo di macchina virtuale appropriato per l'applicazione desiderata. Le prestazioni di rete effettive dipenderanno da svariati fattori, tra cui congestione della rete, carichi dell'applicazione e impostazioni di rete. Per informazioni sull'ottimizzazione della velocità effettiva di rete, vedere Ottimizzare la velocità effettiva di rete per le macchine virtuali di Azure.
- Per realizzare le prestazioni di rete previste in Linux o Windows, potrebbe essere necessario selezionare una versione specifica o ottimizzare la macchina virtuale. Per altre informazioni, vedere Test della larghezza di banda/velocità effettiva (NTTTCP).
Informazioni sull'acceleratore (GPU, FPGA e così via) per ogni dimensione
| Nome dimensione |
Acceleratori (Qtà) |
Memoria dell'acceleratore (GB) |
| Standard_ND96asr_v4 |
8 |
320 |
Elenco di tutte le dimensioni disponibili: Dimensioni
Calcolatore prezzi: Calcolatore prezzi
Informazioni sui tipi di disco: tipi di disco
Passaggi successivi
Sfruttare le prestazioni e le funzionalità più recenti disponibili per i carichi di lavoro modificando le dimensioni di una macchina virtuale.
Usare processori ARM progettati internamente da Microsoft con macchine virtuali Cobalt di Azure.
Informazioni su come monitorare le macchine virtuali di Azure.