Supermicro HGX H800 SuperServer SYS-821GE-TNHR

Az H800 az H100 export-kompatibilis változata, amely azonos Hopper szilíciumon alapul, ugyanazzal az 80 GB HBM3-mal teljes sávszélességgel és ugyanazzal az FP8 Transformer Engine-nel. Két specifikáció csökkent: NVLink sávszélesség, 400 GB/s GPU-nként helyett 900, és FP64 throughput, amelyet tudományos szimulációkra, nem pedig AI-ra használnak. Edzés, finomhangolás és becslés során a számítási kapacitás és memória, amit használ, megegyezik az H100-éval.

A nyilvános adatok erre adnak választ. DeepSeek kiképzett V3-at és R1-et, frontier modelleket minden mérőszám szerint, H800 klasztereken, és publikálta a mögötte lévő mérnöki munka eredményeit. A GPU FP8 átviteli sebessége, HBM3 sávszélessége és Tensor Core architektúrája H100-os osztályú, mert ugyanabból a szilíciából készültek. Az NVLink csökkentése mérnöki szempont, több csomópontos skálán, nem teljesítmény korlát.

Több csomópontos klaszter méretben. Egy szerveren belül az NVSwitch továbbra is mind a nyolc GPU-t teljes mesh-ben kapcsolja össze, mindegyik 400 GB/s sebességgel, ami több mint háromszorosa a PCIe Gen 5-nek, így az egyetlen csomópontos képzés és finomhangolás szinte nem érinti. A gradientek szinkronizálása több tucat csomóponton keresztül az a pont, ahol a különbség a 900 GB/s H100 hálózat és a többi között nő. Az olyan vásárlók, akik egy vagy néhány csomóponton futtatnak, ritkán érzékelik ezt; azoknak, akik nagyobb klasztereket terveznek, érdemes mérlegelni a H100 és H200 rendszereket ebben a katalógusban, és a MillionMiner mindkettőt modellezni fogja az árkalkuláció során.

Nem, ha dupla precizitással végzett a munka. Az H800 FP64 teljesítményét jelentősen csökkentették az export szabályozások miatt, ami kizárja az összetett folyadékkimia, klímamodellezés és hasonló FP64 feladatokból. Ezekhez az H100 és H200 rendszerek ebben a katalógusban teljes FP64 Tensor teljesítményt nyújtanak. Az AI képzéshez és következtetéshez, amelyek FP8, BF16 és TF32-t futtatnak, a csökkenés nem számít.

Nyolc H800 SXM GPU-val, 640 GB egyesített HBM3-mámmal, több mint 26 TB/s összesített memória sávszélességgel, FP8 Transformer Engine teljesítménnyel, ami meghaladja a 30 petaFLOPS-ot, és teljes hálós NVSwitch összeköttetéssel. Minden GPU legfeljebb hét MIG példányra oszlik, így a csomópont több mint ötven hardver-elkülönített GPU részt kínál több bérlős inferencia kiszolgálására.

Duál Intel Xeon Scalable processzor LGA-4677-hez, akár 64 mag és 128 szál per foglalat, 32 DIMM foglalattal, amelyek 8TB ECC DDR5 memóriára bővíthetők. A tárolás tizenkét hot-swap NVMe házzal és három SATA házzal működik, két M.2 foglalattal, amelyek a rendszerindítási útvonalat elkülönítik az adatfeldolgozási I/O-tól. A hálózat két 10GbE onboard eszközt tartalmaz, opcionálisan 25GbE, valamint PCIe bővítőhelyekkel a hálózati adapterekhez. A Supermicro SuperCloud Composer és Server Manager kezelik a géppark felügyeletét, TPM 2.0-val és Silicon Root of Trust platformbiztonságért.

Nem. Tíz nehézventilátor hűti a csomópontot a szabványos Rechenzentrum levegőjével, ami lehetővé teszi a telepítést a szokásos létesítményekben. A közvetlen folyadékhűtés opcionálisan elérhető olyan helyeken, ahol nagy rack sűrűségben helyezkednek el a csomópontok, és a MillionMiner tanácsot ad arra, hogy melyik konfiguráció felel meg az Ön létesítményének az ajánlat során.

Ez egy teljes generációval előrébb jár, ahol az AI terhelések érezhetőek. A Hopper FP8 Transformer Engine nagyjából megkétszerezi a hatékony tréningsebességet az Ampere-hoz képest ugyanazon a csomóponti memórián, a HBM3 felülmúlja az A100 HBM2e-t, és az NVSwitch sávszélessége GPU-nként összevethető az A100 600 GB/s kapacitású szöveteivel. Mindkettő 640 GB-ot biztosít csomópontonként. A csapatok, akik közöttük választanak, az Ampere gazdaságosságát mérlegelik a Hopper átviteli kapacitásával, és a MillionMiner mindkettőt őszintén értékeli.

Az egyszámítógépes teljesítmény ugyanazon osztályba tartozik, mint az H100 rendszer, mivel a szilícium, a memória és az FP8 átviteli sebesség megegyeznek. Az H100 és H200 platformok igazolják helyüket azzal, hogy teljes 900 GB/s NVLink támogatást nyújtanak több-számítógépes skálázáshoz, teljes FP64-t az HPC számára, és az H200 esetében 141 GB HBM3e-t GPU-nként. Az H800 a Hopper generáción belüli értékkombináció egy-egy vagy kevesebb csomópontos AI telepítésekhez. Ha ezt meghaladja, a fejlesztési út már elérhető ebben a katalógusban.

Kérjük, adja meg terhelési és telepítési adatait az árajánlat űrlap kitöltésével, majd egy MillionMiner szakértő megerősíti az konfigurációt, a célállomás megfelelőségét az USA exportkontrolljai szerint, amelyek az H800-at érintik, valamint a szállítási tervet. Minden rendszer tesztelve van a szállítást megelőzően, és világszerte DDP-vel szállítva, az adók és vám kezelésével. A MillionMiner saját Rechenzentrumjaiban történő hosting lehetőségként elérhető az helyszíni telepítés alternatívájaként.