Supermicro HGX H800 SuperServer SYS-821GE-TNHR

L'H800 è la variante conforme all'esportazione dell'H100, costruita sullo stesso silicio Hopper con gli stessi 80GB di HBM3 a piena banda e lo stesso FP8 Transformer Engine. Due specifiche sono state ridotte: la banda NVLink, 400 GB/s per GPU invece di 900, e il throughput FP64, che viene utilizzato da simulazioni scientifiche piuttosto che dall'AI. Per l'addestramento, il fine-tuning e l'inferenza, la potenza di calcolo e la memoria che effettivamente utilizzi sono uguali a quelle dell'H100.

Il record pubblico risponde a questo. DeepSeek ha addestrato V3 e R1, modelli frontier per ogni misura, su cluster H800 e ha pubblicato l'ingegneria dietro di essi. La capacità di throughput FP8 della GPU, la banda passante HBM3 e l'architettura Tensor Core sono di classe H100 perché sono lo stesso silicon. La riduzione NVLink è una considerazione ingegneristica su scala multi-nodo, non un limite di prestazioni.

Su scala di cluster multi-nodo. All’interno di un server, NVSwitch collega ancora tutte e otto le GPU in una mesh completa a 400 GB/s ciascuna, più di tre volte rispetto a PCIe Gen 5, quindi l’addestramento e il fine-tuning su singolo nodo sono appena influenzati. La sincronizzazione dei gradienti tra decine di nodi è dove il divario rispetto al fabric H100 da 900 GB/s si allarga. Gli acquirenti che utilizzano uno o pochi nodi raramente lo percepiscono; gli acquirenti che pianificano grandi cluster dovrebbero valutare i sistemi H100 e H200 in questo catalogo, e MillionMiner modellerà entrambi nel preventivo.

Non se il lavoro richiede doppia precisione. Il throughput FP64 dell'H800 è stato drasticamente ridotto come parte del rispetto delle norme di esportazione, il che lo disqualifica per dinamica dei fluidi computazionale, modellizzazione climatica e carichi di lavoro FP64 simili. Per questi, i sistemi H100 e H200 in questo catalogo mantengono le prestazioni Tensor FP64 complete. Per l'addestramento e l'inferenza AI, che utilizzano FP8, BF16 e TF32, la riduzione è irrilevante.

Otto GPU H800 SXM con 640GB di HBM3 aggregato, larghezza di banda della memoria superiore a 26 TB/s, throughput del FP8 Transformer Engine oltre 30 petaFLOPS, e interconnessione NVSwitch a maglia completa. Ogni GPU si suddivide in fino a sette istanze MIG, quindi il nodo può presentare più di cinquanta sezioni di GPU isolate dall'hardware per il multi-tenant inference serving.

Processori Intel Xeon Scalable duali su LGA-4677, fino a 64 core e 128 thread per socket, con 32 slot DIMM che si espandono fino a 8TB di ECC DDR5. Lo storage include dodici baie NVMe hot-swap più tre baie SATA, con due slot M.2 che mantengono il percorso di avvio separato dall'I/O dei dataset. La rete è dotata di doppio 10GbE integrato, opzionale 25GbE e espansione PCIe per adattatori fabric. Supermicro's SuperCloud Composer e Server Manager gestiscono la flotta, con TPM 2.0 e Silicon Root of Trust per la sicurezza della piattaforma.

No. Dieci ventole pesanti raffreddano il nodo con aria di comune data center, che permette di installarlo all’interno di strutture ordinarie. Il raffreddamento liquido diretto è disponibile come opzione per i siti che schierano nodi con alta densità di rack, e MillionMiner consiglia la configurazione più adatta alla tua struttura durante la richiesta di preventivo.

È una generazione interamente avanti rispetto a dove si percepiscono i carichi di lavoro AI. L'Hopper FP8 Transformer Engine raddoppia grossomodo il throughput di training effettivo rispetto ad Ampere alla stessa memoria di nodo, HBM3 supera le HBM2e dell'A100, e la bandwidth NVSwitch per GPU è paragonabile ai 600 GB/s della fabric dell'A100. Entrambi forniscono 640GB per nodo. Le squadre che devono scegliere tra di loro valutano l'economia di Ampere contro il throughput di Hopper, e MillionMiner cita entrambi in modo onesto.

La performance a singolo nodo si colloca nella stessa classe di un sistema H100, poiché il silicon, la memoria e il throughput FP8 sono equivalenti. Le piattaforme H100 e H200 giustificano la loro posizione con NVLink completo a 900 GB/s per la scalabilità multi-nodo, FP64 completo per HPC e, nel caso dell'H200, 141GB di HBM3e per GPU. L'H800 rappresenta la posizione di valore all'interno della generazione Hopper per le implementazioni AI a uno-a-pochi nodi. Superarlo, e il percorso di aggiornamento è già presente in questo catalogo.

Sei pregato di inviare i dettagli del workload e della distribuzione tramite il modulo di preventivo, e un esperto di MillionMiner confermerà la configurazione, l'idoneità della destinazione secondo le norme di export degli Stati Uniti che si applicano all'H800, e il piano di consegna. Ogni sistema viene testato prima della spedizione e consegnato in tutto il mondo DDP con tasse e dogane gestite. L'hosting nei data center di proprietà di MillionMiner è disponibile come alternativa alla distribuzione sul sito.