GIGABYTE G893-SD1-AAX5 HGX B200 8-GPU szerver

Az NVIDIA HGX B200: nyolc B200 SXM GPU 180GB HBM3e-vel egyenként, 1.440GB összegzett kapacitással node-onként, 64 TB/s összteljesítményű sávszélesség, és az ötödik generációs NVLink 1,8 TB/s per GPU a NVSwitch-en keresztül, az 1,8 TB/s adatpuffert jelent az adatlap szerint. Az FP4 számítás a második generációs Transformer Engine-en keresztül eléri a 144 petaFLOPS-t node-onként.

Egy helyen, a Hoster. Ez az SD1 konfiguráció két Intel Xeon Scalable processzort futtat AMX-szel és 32 DDR5 memóriahelyet kínál, kapacitás-központú elrendezésben; a ZD1 két AMD EPYC processzort futtat akár 192 maggal socketonként és 24 slottal, sávszélesség-központú elrendezésben. A ház, a GPU komplexum, az áramellátás, a bővítőhelyek és a hűtés közösek. Az Intel infrastruktúrák és az AMX-tudatos pipeline-ok itt landolnak; az AMD flották és a mag-densitás-igényes előfeldolgozási rendszerek a ZD1-en kapnak helyet, és a MillionMiner mindkettőt kínálja.

Három dolog. Az AMX mátrix bővítések minden magon keresztül gyorsítják a host-oldali AI feladatokat, amelyeket egy 8-GPU-s csomópont generál: tokenizálás, beágyazások, előfeldolgozás. A 32 hellyel rendelkező memóriaelrendezés lehetőséget ad a kapacitás-tervezésre, amit a 24 hellyel rendelkező kialakítások nem tudnak. És a flotta standardizálása: az Intel üzemek megtartják eszközkészletüket, licenszüket és validált képeiket, hozzáadva a Blackwellt anélkül, hogy egy második platformot jóváhagynának.

GPU-ként: 180 GB HBM3e az H200 141 GB-ja ellenében, nagyjából 8 TB/s sávszélesség a 4,8 helyett, és az NVLink megkétszereződött, 1,8 TB/s-re. Szerverenként: 1,4 TB az 1,1 TB helyett, plusz FP4 precízió, melyet az NVIDIA akár 15-szörös valós idejű trillió paraméteres következtetésre értékel a H100 generációhoz képest, ez egy gyártói adat, amely a fizikai változásokon alapul. A Hopper környezetében dolgozó csapatok még Hopper gazdaságosságait vásárolják; azok a csapatok, amelyek a plafonját nyomják, ide lépnek.

három helyzetben: az inference flották határközeli méretben, ahol az FP4 nagyjából megduplázza a tokenek számát watt-egyenértékenként, tanulási programoknál, ahol a megduplázott szálak és sávszélesség az üzleti értékkel gyorsítja a folyamatokat, valamint olyan munkaterheléseknél, amelyek már nyomást gyakorolnak az H200 GPU-nkénti memória kapacitására. Ezek alatt a küszöbértékek alatt a Lenovo és ASUS H200 rendszerek továbbra is ésszerű vásárlást jelentenek, és a kalkulátor mindkét lehetőséget mérlegeli.

Alapjárol induló hálózati kapcsolatok, dupla 10GbE az Intel X710 vezérlőn keresztül. A számítási hálózat a telepítés szerint van meghatározva: nyolc egyhelyes PCIe 5.0 foglalat egy 400 Gb/s adaptert fogad GPU-ként Quantum-2 InfiniBand vagy Spectrum-X Ethernet rendszerben, a GPUDirect RDMA topológia, amely a gradiens értékeket a csomópontok között mozgósítja CPU-k érintése nélkül. Négy dupla helyezés marad a tárolás és menedzsment hálózat számára.

Harminckettő DDR5 RDIMM foglalat, nyolc csatorna per foglalat két modulal csatornánként. Az ár: egy modul csatornánként a csúcssebességet tartja, kettő csatornánként némi sebességet feláldozva a foglalatszámért és a kapacitás plafonjáért. Ez az összeszerelés a kapacitást helyezi előtérbe, ami különösen nagy host memória és lépcsőzetes bővítés esetén ideális. A szabály változatlan, a rendszer memória eléri vagy meghaladja az 1,4TB GPU poolt, és a hitelesített maximumot, valamint a konfigurációját a díjmentes ajánlaton találja meg.

Nyolc 2,5 hüvelykes Gen5 hot-swap hellyel, NVMe vagy SATA, a helyi adathalmaz-tiershez, plusz két M.2 foglalattal, amelyek a rendszerindító környezetet elkülönítik az adatúttól, az ebben a katalógusban javasolt elkülönítést minden kiképző csomóponton. A pontos meghajtókijelöléseket az Ön ajánlatával együtt adja meg, és a MillionMiner egységeket előfeltöltve szállítja, amikor az adattárolási terv ismert.

Tizenkét 3000W-os 80 PLUS Titanium tápegység 6+6 redundanciával meghatározza a keretet, egyedül a GPU komplexum képes nyolc kilowattot fogyasztani tartós terhelés alatt, mielőtt a host számítana. Az 8U-s kialakítás levegőn hűtött, így a telepítés megfelel a szokásos Rechenzentrumok követelményeinek. MillionMiner megerősíti az Ön konfigurációjának pontos fogyasztását az ajánlat során, alternatívaként saját létesítményeiben történő hostinget kínálva.

Kérjük, hogy nyújtsa be munkaterhelését, hosztpreferenciáit és telepítési részleteit az árajánlat űrlapján keresztül. Egy MillionMiner szakértő megerősíti a konfigurációt, az SD1-versus-ZD1 útvonalat, amennyiben még nyitott, a célország jogosultságát az amerikai exportellenőrzések szerint, amelyek a Blackwell-osztályú gyorsítókra vonatkoznak, valamint a szállítást. Minden rendszer tesztelésen esik át a szállítást megelőzően, és világszerte DDP szállítással kerül elszállításra, az esetleges vámokat is kezelve.