Sistema AI NVIDIA DGX H800 640GB (8x H800 SXM5)

Un sistema completo e chiavi in mano. A differenza delle schede di base HGX in questo catalogo, il DGX H800 è l'intera macchina finita: otto GPU H800 SXM5, due processori Xeon Platinum a 112 core, 2TB di memoria di sistema, storage NVMe, 4x NVSwitch e lo stack software NVIDIA, integrati, testati e pronti all'uso. Non c'è nulla da integrare da parte sua.

L'H800 è la versione dell'H100 di NVIDIA conforme alle norme di esportazione, lo stesso silicon Hopper con banda interconnessione ridotta per rispettare le norme di esportazione statunitensi, progettata per mercati come quello cinese. Il DGX H800 è, in effetti, il DGX H100 realizzato con GPU H800: lo stesso design di sistema, CPU, memoria e archiviazione, con GPU conformi alle norme di esportazione invece di H100 completi. È la controparte per il mercato cinese del DGX H100.

Può essere importante principalmente per l'addestramento distribuito su larga scala attraverso molti sistemi e GPU, dove la velocità di comunicazione tra GPU determina come si distribuisce un lavoro; in quel caso, il DGX H800 è più lento rispetto a un DGX H100 completo. Per l'addestramento su singolo sistema, il fine-tuning e l'inferenza, dove l'interconnessione non è il vincolo principale, si colloca nella stessa categoria del DGX H100. La domanda sincera è se il vostro addestramento è vincolato dalla comunicazione su larga scala, e MillionMiner saprà affrontarlo.

32 petaFLOPS di FP8 sui suoi otto GPU H800 SXM5, con 640GB di memoria GPU totale interconnessa da 4x NVSwitch. Questa è potenza di calcolo AI di livello frontier, generazione Hopper, per l'addestramento e l'erogazione di grandi modelli. I duali processori Xeon Platinum 8480C a 112 core e 2TB di memoria di sistema alimentano le GPU.

Tutto ciò che serve per il funzionamento: processori Intel Xeon Platinum 8480C dual 112-core, 2TB di memoria di sistema, storage NVMe (2x 1,92TB M.2 per il sistema operativo e 8x 3,84TB U.2 per i dati), 4x NVSwitch e la stack software di NVIDIA. È un sistema AI completo e autonomo che pesa circa 130kg. MillionMiner conferma la configurazione esatta del software e della rete nel preventivo.

Principalmente destinazione e disponibilità. L'H800 è la parte Hopper conforme alle norme di esportazione per i mercati in cui il sistema completo H100 supera le soglie di esportazione degli Stati Uniti, quindi in quelle regioni il DGX H800 è la soluzione conforme per un Hopper DGX chiavi in mano. Quando un sistema completo H100 è consentito e il carico di lavoro è un addestramento su larga scala limitato dall'interconnessione, il DGX H100 potrebbe offrire prestazioni migliori. MillionMiner conferma quale sia appropriato e disponibile per la sua destinazione nel preventivo.

Il DGX H800 assorbe fino a 10,2 kW e richiede una fornitura di energia e un raffreddamento del data centre appropriati a un sistema di quella densità e peso (circa 130 kg). Si tratta di infrastrutture per data centre, non di una macchina da ufficio. MillionMiner conferma i requisiti di alimentazione e raffreddamento per il suo sito nel preventivo e offre hosting nei propri data centre qualora non disponga di strutture adeguate.

Sì. Otto GPU Hopper-class H800 che forniscono 32 petaFLOPS di FP8 con 640 GB di memoria rappresentano un'infrastruttura di livello superiore per l'addestramento e l'inferenza AI. A differenza delle schede workstation e display presenti in questo catalogo, non ci sono esagerazioni da qualificare, solo due aspetti da evidenziare: è un sistema completo ed è la configurazione H800 conforme alle normative sulle esportazioni.

L'H800 è di per sé un prodotto soggetto a norme sull'export, e i sistemi di classe Hopper sono soggetti alle restrizioni di esportazione statunitensi che dipendono dalla destinazione. MillionMiner conferma l'idoneità della destinazione e la conformità prima della vendita. Come hardware di punta, le condizioni e la provenienza sono importanti, e ogni sistema viene verificato prima della spedizione con le condizioni indicate chiaramente nell'offerta.

Invii il suo carico di lavoro, addestramento di modelli di grandi dimensioni, tuning fine o inferenza, e aumenti la scala tramite il modulo di preventivo. Un esperto di MillionMiner conferma la configurazione, il diritto al software, i requisiti di energia e raffreddamento, l'idoneità alla destinazione secondo le norme di esportazione per sistemi Hopper-class, e se il percorso DGX H800 o un percorso full-H100 sia più adatto alla sua destinazione e alle sue esigenze, poi la consegna. Ogni sistema viene testato prima della spedizione e spedito in tutto il mondo DDP con i dazi gestiti, con hosting disponibile nei data centre di proprietà di MillionMiner.