Supermicro GPU SuperServer ARS-111GL-NHR, NVIDIA GH200 (Használt)

Összeolvasztja a CPU-t és a GPU-t egy chipbe. A GH200 Grace Hopper Superchip egy 72-magos Grace Arm CPU-t és egy Hopper GPU-t helyez egyetlen modulra, amelyet NVLink-C2C összeköt 900 GB/s-on, míg egy hagyományos szerver külön CPU-t és GPU-t kapcsol össze sokkal lassabb PCIe-n keresztül. Ezek közösen osztanak meg koherens memóriát ahelyett, hogy különálló poolokat tartanának fenn. Ez egy szerver architektúra, nem egy GPU, amit hozzáadnak egyhez.

A Grace CPU akár 480 GB LPDDR5X memória és a Hopper GPU 96 GB HBM3 memória egy koherens térként lesz elérhető, amelyet mindkét processzor lát, nem pedig két különálló adatút, közöttük másolva adatokat. Az olyan munkaterhelések esetén, amelyek folyamatosan mozgatják az adatokat a CPU és a GPU között, vagy amelyek több memóriát igényelnek, mint amit egy dedikált GPU HBM-je önmagában nyújt, ez az egységes kialakítás kiküszöböli a másolásokat és a PCIe szűk keresztmetszetét, ami a GH200 alapvető előnye.

Memóriához kötött és CPU-GPU-kapcsolt munka: nagy gráf elemzések és gráf neurális hálózatok, ajánlórendszerek hatalmas beágyazási táblákkal, valamint memóriaigényes utófeldolgozás, amely meghaladja egy diszkrét GPU HBM-jét. Ezeknél a koherens egységes memória strukturális előnyt jelent. A sűrű több GPU-s mátrix tréninghez az ebben a katalógusban található HGX SXM rendszerek továbbra is a jobb eszközök.

Különböző problémaképlet. Az HGX H100 és H200 rendszerek nyolc-GPU NVSwitch hálózatok a terjesztett képzésekhez, 640GB-tól 1,1TB-ig terjedő összegzett HBM-mel. Ez egy egyedi Grace Hopper szuperszámítógép csomópont, egy ötvözött CPU-GPU koherens memóriával. Válassza az HGX rendszereket több-GPU-s képzésekhez; válassza a GH200-at memória-kötött, gráf- és összekapcsolt feladatokhoz, ahol az egységes memória nyer. Ezek kiegészítik egymást, nem konkurálnak.

Ez egy másodlagos piaci egység, melyet a MillionMiner ellenőrzött és hitelesített szállítás előtt, ugyanaz a keretrendszer alkalmazott a katalógusban lévő használt A100 és felújított Hopper rendszerek esetében. A Grace Hopper modulok nem tartalmaznak mozgó alkatrészeket, és a szilícium a termikus specifikációk szerint működik, nem degradálódik ezeken az időskálákon; a kopó alkatrészek a ventilátorok és az alkatrészek. Az adott egység állapotát és fedezetét megerősítette a ajánlatában.

Gazdaságosság és hozzáférés. Használt vásárlás révén egy más típusú és egyébként drága architektúra válik elérhetővé azok számára a csapatok számára, amelyek szeretnék értékelni a Grace Hopper-át memória-kötött munkaterhelésekhez, vagy telepíteni azt új egységárak nélkül. A hitelesítési keretrendszer a feltétel kockázatát mérhető bizonyítékokká alakítja, és a MillionMiner megerősíti, hogy az egység mit tartalmaz az árajánlatban.

A Grace CPU az Arm Neoverse, nem pedig x86, ezért a szoftvercsomag Arm-re van optimalizálva, amit az NVIDIA AI ökoszisztéma, a CUDA, a keretrendszerek és a konténer katalógus natív módon támogat a Grace Hopper-on. A csapatoknak megerősítést kell szerezniük arról, hogy az adott alkalmazási csomagjuk ARM-re működik-e, és a MillionMiner tanácsot adhat a szoftveres kérdésekben az árajánlat során.

Egy 1U rackes kialakítás, két PCIe 5.0 foglalattal, hot-swap E1.S NVMe tárolóval, két 2000W redundáns Titánium tápegységgel és egy dedikált 1GbE BMC kezelő porttal. A használt egység pontos tároló konfigurációját az Ön árajánlata tartalmazza.

A Grace Hopper telepítések a csomópont hálózatképességén és a PCIe foglalatokon keresztül skálázhatók a szövetkezetes adapterekhez, és az NVIDIA Grace Hopper platformjai támogatják a nagysebességű összeköttetést több csomópontos környezetben. Egy használt egyszemélyes csomópont esetén a MillionMiner tanácsot ad a hálózati és szövetkezetes lehetőségekről a telepítése során az árajánlatban.

Kérjük, küldje el terhelési és telepítési adatait az árajánlat űrlapon keresztül. A MillionMiner szakértője megerősíti az egység állapotát és fedezettségét, a konfigurációt, a célállomás megfelelőségét az amerikai exportkontrollok szerint, amelyek vonatkoznak a Hopper-osztályú gyorsítókra, valamint a szállítást. Minden rendszer ellenőrzésen esik át a szállítás előtt, és világméretben DDP módon szállítunk, az illetékek kezelése mellett, és rendelkezésre áll a MillionMiner saját adatközpontjaiban történő hoszting lehetősége.