GIGABYTE G593-SD2-AAX1 HGX H100 serwer 8-GPU (5U, Dual Xeon)

NVIDIA HGX H100: osiem GPU SXM5 o pojemności 80 GB HBM3 każdy, 640 GB na węzeł przy łącznej przepustowości ponad 26 TB/s, cała macierz NVSwitch z prędkością 900 GB/s na GPU, przepustowość FP8 przekraczająca 30 petaFLOPS, oraz MIG do nawet 56 instancji. Pod względem obciążenia: pełne dostrajanie w klasie 70B w jednym węźle, szkolenie na dużych partiach z parowanym treningiem, oraz gęstość obsługi produkcji.

Ta sama rodzina Gigabyte G593, inny host i model konfiguracji. Ten SD2 działa na podwójnym układzie Intel Xeon Scalable z AMX i do 8 TB DDR5, jako w pełni konfiguracja fabryczna. ZD2 korzysta z podwójnego układu AMD EPYC z 12-kanałową przepustowością pamięci, jako czysta konfiguracja do samodzielnego ustawienia. Rechenzentrum Intel, linie produkcyjne AMX oraz duże zapotrzebowanie na pamięć hosta trafiają tutaj; flotę AMD i klientów konfiguracyjnych obsługuje ZD2, a MillionMiner wyceni obydwa.

To największa pamięć hosta w systemach H100 w katalogu, i opłaca się tam, gdzie host wykonuje ciężką pracę: pamięcio-intensywne wstępne przetwarzanie, duże zbiory danych w pamięci i magazyny cech, oraz gęsta wirtualizacja lub wielo-tenancy obok GPU. Zasada, którą stosuje ten katalog wszędzie, to pamięć systemowa na poziomie lub powyżej puli GPU 640GB; 8TB wielokrotnie to przewyższa, dla obciążeń, które tego potrzebują.

SXM z NVSwitch. Ośmiu GPU jest umieszczonych na płycie bazowej HGX, połączonych w pełną siatkę z przepustowością 900 GB/s, co jest autentyczną topologią sprzężonego szkolenia, w której wszystkie GPU synchronizują się z pełną przepustowością. Serwery PCIe H100, takie jak Lenovo SR675 V3, działają na kartach bardziej niezależnie. Do rozproszonego szkolenia, siatka SXM jest optymalna; do pracy z niezależnymi GPU, platforma PCIe może być lepszym rozwiązaniem.

Dwie kwestie poza pojemnością 8TB. Rozszerzenia macierzy AMX na platformie Xeon Scalable przyspieszają operacje tensorowe po stronie hosta, tokenizację, osadzenia, wstępne przetwarzanie, etapy, które zasilać będą osiem GPU. I standaryzacja majątku: organizacje korzystające z platform Intel zachowują swoje narzędzia, licencje i zweryfikowane obrazy. Generacja procesora wymieniona dla Państwa jednostki jest potwierdzona w wycenie.

Osiem kieszeni hot-swap Gen5 o rozmiarze 2,5 cala, obsługujących NVMe, SATA lub SAS, zapewniających elastyczną lokalną pamięć masową, oraz podwójna baza sieci 10GbE poprzez kontroler Intel X710. Sieć komputerowa do klastrowania jest określana indywidualnie dla każdego wdrożenia w zakresie rozszerzeń PCIe Gen5. Dokładne konfiguracje są potwierdzane wraz z wyceną.

Wszystkie trzy to węzły SXM H100. Dell jest doświadczonym graczem w segmencie przedsiębiorstw z zarządzaniem iDRAC; Quanta to producent ODM na dużą skalę; a Gigabyte przewodzi pod względem pojemności pamięci hosta do 8TB i wartości Gigabyte. Klienci kierujący się zasobami obszaru preferują Dell, klienci poszukujący wartości ODM, a ci z dużym zapotrzebowaniem na pamięć i wartość wybierają Gigabyte, podczas gdy decyzję podejmuje MillionMiner.

Redundantowe zasilacze Titanium o mocy 3000W w obudowie chłodzonej powietrzem typu 5U, z mocą w klasie dziesięciu kilowatów na pełną konfigurację z ośmioma GPU oraz hostem. Dokładna liczba zasilaczy i pobór mocy w Państwa konfiguracji zostaną potwierdzone w ofercie, a hosting w własnych obiektach MillionMiner jest dostępny dla zespołów, które wolą, aby zasilanie racka było obsługiwane przez naszą firmę.

Przez adaptery magistrali PCIe Gen5 określone na podstawie wdrożenia, obsługujące GPUDirect RDMA, dzięki czemu gradienty przemieszczają się między węzłami bez angażowania CPU, na InfiniBand lub wysokowydajnym Ethernet. MillionMiner doradza w zakresie architektury przełączników i magistrali w miarę rozrostu wdrożeń powyżej jednego węzła.

Prześlij swoje dane dotyczące obciążenia i wdrożenia poprzez formularz wyceny. Specjalista MillionMiner potwierdzi konfigurację, warunki gwarancji na 3 lata, spełnienie kryteriów eksportowych USA dotyczących akceleratorów klasy Hopper oraz dostawę. Każdy system jest testowany przed wysyłką i wysyłany na cały świat DDP z opłaconymi cłami, dostępne jest również hosting w własnych data center MillionMiner.