GIGABYTE G893-SD1-AAX5 HGX B200 serwer 8-GPU

NVIDIA HGX B200: osiem GPU B200 SXM z 180 GB HBM3e każdy, łączna pojemność 1 440 GB na nodę, 64 TB/s łącznej przepustowości oraz piątej generacji NVLink o przepustowości 1,8 TB/s na GPU poprzez NVSwitch, wartość 1,8 TB/s podana w specyfikacji odnosi się do prędkości fabric na pojedynczym GPU. Obliczenia FP4 za pomocą drugiej generacji Transformer Engine osiągają 144 petaFLOPS na nodę.

W jednym miejscu, u hostera. Ta konfiguracja SD1 obsługuje podwójne Intel Xeon Scalable z AMX oraz 32 gniazda DDR5 w układzie skupionym na pojemności; ZD1 korzysta z podwójnych AMD EPYC z do 192 rdzeniami na gniazdo oraz 24 gniazdami w układzie skupionym na przepustowości. Obudowa, układ GPU, zasilanie, rozbudowa i chłodzenie są wspólne. Infrastruktura Intel i pipeline'y z obsługą AMX są tutaj; floty AMD i preprocessing o dużej gęstości rdzeni trafiają na ZD1, a MillionMiner cytuje oba rozwiązania.

Trzy kwestie. Rozszerzenia macierzy AMX na każdej jednostce obliczeniowej przyspieszają pracę AI po stronie hosta, którą generuje węzeł z 8-GPU, tokenizację, osadzenia, preprocessingu. Układ pamięci z 32 gniazdami daje miejsce na planowanie pojemności, którego projekty z 24 gniazdami nie mogą zapewnić. I standaryzacja floty: środowisko Intel zachowuje swoje narzędzia, licencje i zatwierdzone obrazy, dodając Blackwell bez certyfikacji drugiej platformy.

Na GPU: 180 GB HBM3e w porównaniu do 141 GB w H200, około 8 TB/s pasma w porównaniu do 4,8, a NVLink podwojony do 1,8 TB/s. Na węzeł: 1,4 TB w porównaniu do 1,1 TB, plus precyzja FP4, którą NVIDIA ocenia na nawet 15x rzeczywistego czasu inference trójcyzbowych parametrów w porównaniu do generacji H100, co jest liczbą producenta opartą na zmianach fizycznych. Zespoły wewnątrz Hopper nadal korzystają z ekonomii Hopper; zespoły wybijające się ponad jego możliwości zatrzymują się tutaj.

w trzech sytuacjach: floty wnioskowania na skalę graniczną, gdzie FP4 mniej więcej podwaja liczbę tokenów na wat, programy treningowe, gdzie podwójne środowisko i pasmo przepustowości skracają czas realizacji z wartością biznesową, oraz obciążenia już wywierające presję na pamięć na GPU w modelu H200. Poniżej tych progów, systemy Lenovo i ASUS H200 nadal pozostają racjonalnym wyborem, a oba modele kwotują obie ścieżki.

Podstawowa sieć pokładowa, podwójny 10GbE przez kontroler Intel X710. Sieć obliczeniowa jest określana według wdrożenia: osiem pojedynczych slotów PCIe 5.0 obsługuje jeden adapter 400 Gb/s na GPU na Quantum-2 InfiniBand lub Spectrum-X Ethernet, topologia GPUDirect RDMA, która przenosi gradienty między węzłami bez angażowania CPU. Cztery podwójne sloty pozostają na storage i zarządzanie siecią.

Trzydzieści dwa sloty DDR5 RDIMM, osiem kanałów na gniazdo z dwoma modułami na kanał. Zasada jest taka: jeden moduł na kanał osiąga szczytową prędkość, dwa na kanał poświęcają nieco prędkości na rzecz liczby slotów i maksymalnej pojemności. Ta konfiguracja skupia się na pojemności, co odpowiada bardzo dużej pamięci hosta i stopniowej rozbudowie. Zasada pozostaje niezmieniona: systemowa pamięć na poziomie lub powyżej 1,4TB GPU pool, a zatwierdzony maksymalny poziom i konfiguracja są potwierdzone w ofercie.

Osiem gniazd wymiany na gorąco Gen5 o rozmiarze 2,5 cala, NVMe lub SATA, do lokalnego poziomu danych, plus dwa gniazda M.2, które oddzielają środowisko rozruchowe od ścieżki danych, co katalog ten zaleca dla każdego węzła szkoleniowego. Dokładne konfiguracje dysków są określane wraz z wyceną, a MillionMiner wysyła jednostki wstępnie wypełnione, gdy plan pamięci masowej jest znany.

Dwanaście zasilaczy o mocy 3000W 80 PLUS Titanium w redundantnym układzie 6+6 definiuje obrys, przy czym kompleks GPU samodzielnie może pobierać osiem kilowatów pod obciążeniem ciągłym, zanim licznik hosta zacznie liczyć. Projekt 8U chłodzi się powietrzem, umożliwiając instalację wewnątrz zwykłych centrów danych. MillionMiner potwierdza dokładne zużycie energii Twojej konfiguracji podczas wyceny, z hostowaniem we własnym obiekcie jako alternatywą.

Prześlij swoje zadanie, preferencje dotyczące hostingu oraz szczegóły wdrożenia za pomocą formularza zapytania ofertowego. Specjalista MillionMiner potwierdzi konfigurację, routing SD1-versus-ZD1, jeśli jest nadal otwarty, uprawnienia do doręczenia zgodnie z amerykańskimi przepisami eksportowymi mającymi zastosowanie do akceleratorów klasy Blackwell oraz dostawę. Każdy system jest testowany przed wysyłką i wysyłany na cały świat DDP, z obsługą obowiązujących opłat celnych.