Le macchine virtuali serie NCCads H100 v5 sono una nuova aggiunta alla famiglia GPU di Azure. In questo SKU di macchina virtuale, l'Ambiente di Esecuzione Fidato (TEE) si estende sulla macchina virtuale confidenziale sia sulla CPU che sulla GPU collegata, consentendo il trasferimento sicuro di dati, modelli e calcoli alla GPU.
La serie NCCads H100 v5 è basata su processori AMD EPYC™ Genoa di quarta generazione e GPU NVIDIA H100 Tensor Core. Le macchine virtuali sono dotate di 1 GPU NVIDIA H100 NVL con 94 GB di memoria, 40 core del processore AMD EPYC Genoa non multithreading e 320 GiB di memoria di sistema. Queste macchine virtuali sono ideali per carichi di lavoro di intelligenza artificiale applicati reali, ad esempio:
- Analisi e database con accelerazione GPU
- Inferenza batch con pre-elaborazione e post-elaborazione intense
- Sviluppo di Machine Learning (ML)
- Elaborazione video
- Servizi Web di Intelligenza artificiale/Machine Learning
Specifiche dell'host
Parte |
Quantità
Conteggio delle unità |
Specifiche
ID SKU, unità delle prestazioni e così via. |
Processore |
40 vCPU |
AMD EPYC (Genova) [x86-64] |
Memoria |
320 GiB |
|
Archiviazione locale |
1 disco |
800 GiB |
Archiviazione remota |
8 dischi |
100000 operazioni di I/O al secondo 3000 MBps |
Rete |
8 schede di interfaccia di rete |
40000 MBps |
Acceleratori |
1 GPU |
GPU Nvidia H100 (94 GB) |
Supporto delle funzionalità
Archiviazione Premium: supportata
Memorizzazione nella cache Archiviazione Premium: supportata
Live Migration: non supportato
Aggiornamenti con mantenimento della memoria: non supportati
Macchine virtuali di seconda generazione: supportate
Macchine virtuali di prima generazione: non supportate
Rete accelerata: non supportata
Disco del sistema operativo temporaneo: supportato
Virtualizzazione annidata: non supportata
Dimensioni nella serie
vCPU (Qtà) e memoria per ogni dimensione
Nome dimensione |
vCPU (Qtà) |
Memoria (GB) |
Standard_NCC40ads_H100_v5 |
40 |
320 |
Risorse di base della macchina virtuale
Informazioni di archiviazione locali (temp) per ogni dimensione
Nome dimensione |
Dischi di archiviazione temporanea massima (Qtà) |
Dimensioni del disco temporaneo (GiB) |
Standard_NCC40ads_H100_v5 |
1 |
800 |
Risorse di archiviazione
Definizioni di tabella
-
1La velocità del disco temporaneo differisce spesso tra le operazioni RR (Random Read) e RW (Random Write). Le operazioni RR sono in genere più veloci rispetto a quelle RW. La velocità RW è in genere più lenta rispetto a quella RR nelle serie in cui è elencato solo il valore di velocità RR.
- La capacità di archiviazione viene visualizzata in unità di GiB o 1.024^3 byte. Quando si confrontano dischi misurati in GB (1000^3 byte) con dischi misurati in GiB (1024^3), tenere presente che i valori di capacità specificati in GiB potrebbero apparire inferiori. Ad esempio, 1.023 GiB = 1.098,4 GB.
- La velocità effettiva del disco viene misurata in operazioni di input/output al secondo (IOPS) e MBps, dove il valore di MBps corrisponde a 10^6 byte al secondo.
- Per informazioni su come ottenere le migliori prestazioni di archiviazione per le macchine virtuali, vedere Prestazioni delle macchine virtuali e dei dischi.
Informazioni di archiviazione remote (non memorizzate) per ogni dimensione
Nome dimensione |
Numero massimo di dischi di archiviazione remota (Quantità) |
Operazioni di I/O al secondo del disco senza memorizzazione nella cache |
Velocità (MBps) del disco senza memorizzazione nella cache |
Standard_NCC40ads_H100_v5 |
8 |
100000 |
3000 |
Risorse di archiviazione
Definizioni di tabella
-
1Alcune dimensioni supportano il bursting per migliorare temporaneamente le prestazioni del disco. La velocità di burst può essere mantenuta per un massimo di 30 minuti alla volta.
-
2Archiviazione speciale si riferisce all'archiviazione su disco Ultra o su SSD Premium v2.
- La capacità di archiviazione viene visualizzata in unità di GiB o 1.024^3 byte. Quando si confrontano dischi misurati in GB (1000^3 byte) con dischi misurati in GiB (1024^3), tenere presente che i valori di capacità specificati in GiB potrebbero apparire inferiori. Ad esempio, 1.023 GiB = 1.098,4 GB.
- La velocità effettiva del disco viene misurata in operazioni di input/output al secondo (IOPS) e MBps, dove il valore di MBps corrisponde a 10^6 byte al secondo.
- I dischi dati possono operare in modalità memorizzata nella cache o non memorizzata nella cache. Per il funzionamento dei dischi dati memorizzati nella cache, la modalità di cache host è impostata su ReadOnly o su ReadWrite. Per il funzionamento dei dischi dati non memorizzati nella cache, la modalità di cache host è impostata su None.
- Per informazioni su come ottenere le migliori prestazioni di archiviazione per le macchine virtuali, vedere Prestazioni delle macchine virtuali e dei dischi.
Informazioni sull'interfaccia di rete per ogni dimensione
Nome dimensione |
Max schede di interfaccia di rete (Qtà) |
Larghezza di banda massima (Mbps) |
Standard_NCC40ads_H100_v5 |
8 |
40000 |
Risorse di rete
Definizioni di tabella
- La larghezza di banda della rete prevista è la larghezza di banda aggregata massima allocata per ogni tipo di macchina virtuale in tutte le schede di interfaccia di rete, per tutte le destinazioni. Per altre informazioni, vedere Larghezza di banda di rete delle macchine virtuali
- I limiti superiori non sono garantiti. I limiti offrono indicazioni per la selezione del tipo di macchina virtuale appropriato per l'applicazione desiderata. Le prestazioni di rete effettive dipenderanno da svariati fattori, tra cui congestione della rete, carichi dell'applicazione e impostazioni di rete. Per informazioni sull'ottimizzazione della velocità effettiva della rete, vedere Ottimizzare la velocità effettiva di rete per macchine virtuali di Azure.
- Per realizzare le prestazioni di rete previste in Linux o Windows, potrebbe essere necessario selezionare una versione specifica o ottimizzare la macchina virtuale. Per altre informazioni, vedere Test di larghezza di banda/velocità effettiva (NTTTCP).
Informazioni sull'acceleratore (GPU, FPGA e così via) per ogni dimensione
Nome dimensione |
Acceleratori (Quantità) |
Memoria dell'acceleratore (GB) |
Standard_NCC40ads_H100_v5 |
1 |
94 |
Creazione di una macchina virtuale
Per iniziare a utilizzare le macchine virtuali NCCads H100 v5 e per informazioni sulla configurazione riservata del driver GPU e dell'attestazione, vedere Configurazione della GPU riservata
Elenco di tutte le dimensioni disponibili: Dimensioni
Calcolatore dei prezzi: Calcolatore dei prezzi
Informazioni sui tipi di dischi: Tipi di dischi
Passaggi successivi
Sfruttare le prestazioni e le funzionalità più recenti disponibili per i carichi di lavoro modificando le dimensioni di una macchina virtuale.
Usare processori ARM progettati internamente da Microsoft con macchine virtuali Cobalt di Azure.
Informazioni su come Monitorare le macchine virtuali di Azure.