Supermicro HGX H800 SuperServer SYS-821GE-TNHR

H800 jest wersją zgodną z przepisami eksportowymi wariantu H100, opartą na identycznym układzie Hopper z tym samym 80GB HBM3 przy pełnej przepustowości oraz tym samym silniku Transformer FP8. Dwie specyfikacje zostały zmniejszone: przepustowość NVLink, 400 GB/s na GPU zamiast 900, oraz przepustowość FP64, która jest wykorzystywana w symulacjach naukowych, a nie w AI. Do treningu, dostrajania i inferencji, moc obliczeniowa i pamięć, którą faktycznie wykorzystuje, odpowiada H100.

Publiczny rejestr odpowiada na to. DeepSeek wytrenował modele V3 i R1, modele na styku technologii, na klastrach H800 i opublikował inżynierię za nimi. Przepustowość GPU FP8, pasmo HBM3 oraz architektura Tensor Core są klasy H100, ponieważ to ten sam układ scalony. Redukcja NVLink jest rozważaniem inżynieryjnym na skalę wielu węzłów, a nie ograniczeniem wydajności.

Na skalę klastrową z wieloma węzłami. Wewnątrz jednego serwera NVSwitch wciąż łączy wszystkie osiem GPU w pełną siatkę o prędkości 400 GB/s każdy, co jest ponad trzy razy szybsze niż PCIe Gen 5, więc sam trening i strojenie na jednym węźle są niemal niezakłócone. Synchronizacja gradientów pomiędzy dziesiątami węzłów to miejsce, gdzie różnica względem 900 GB/s H100 fabric się powiększa. Klienci korzystający z jednego do kilku węzłów rzadko to odczuwają; planujący duże klastery powinni rozważyć systemy H100 i H200 z tego katalogu, a MillionMiner wyceni oba w ofercie.

Nie dotyczy to, jeśli praca jest w podwójnej precyzji. Przepustowość FP64 H800 została drastycznie zmniejszona w ramach zgodności eksportowej, co dyskwalifikuje go do zastosowań w zakresie dynamiki płynów numerycznych, modelowania klimatu i podobnych obciążeń FP64. Dla tych zastosowań systemy H100 i H200 z tego katalogu zachowują pełną wydajność Tensor FP64. Dla szkolenia i inferencji AI, które korzystają z FP8, BF16 i TF32, obniżenie jest nieistotne.

Osiem GPU H800 SXM z 640 GB połączonej pamięci HBM3, łączna przepustowość pamięci powyżej 26 TB/s, przepustowość silnika Transformer FP8 przekraczająca 30 petaFLOPS oraz pełna sieć połączeń NVSwitch. Każdy GPU dzieli się na nawet siedem instancji MIG, dzięki czemu węzeł może oferować ponad pięćdziesiąt sprzętowo izolowanych fragmentów GPU do wieloempresańskiego serwowania wniosków.

Podwójne procesory Intel Xeon Scalable na LGA-4677, do 64 rdzeni i 128 wątków na gniazdo, z 32 gniazdami DIMM umożliwiającymi skalowanie do 8TB ECC DDR5. Storage obejmuje dwanaście kieszeni NVMe hot-swap oraz trzy kieszenie SATA, z dwoma gniazdami M.2 zapewniającymi oddzielną ścieżkę rozruchową od I/O zestawu danych. Sieć wyposażona jest w dwie wbudowane karty 10GbE, opcjonalnie 25GbE oraz rozbudowę PCIe dla adapterów sieciowych. Supermicro's SuperCloud Composer i Server Manager obsługują zarządzanie flotą, z TPM 2.0 i Silicon Root of Trust dla bezpieczeństwa platformy.

Nie. Dziesięć wydajnych wentylatorów schładza węzeł za pomocą standardowego powietrza z Rechenzentrum, co umożliwia instalację w zwykłych obiektach. Bezpośrednie chłodzenie cieczą jest dostępne jako opcja dla lokalizacji z wysoką gęstością węzłów na półkę, a MillionMiner doradza, która konfiguracja pasuje do Państwa obiektu podczas wyceny.

To jest pełna generacja do przodu, w której odczuwają się obciążenia AI. Hopper FP8 Transformer Engine w przybliżeniu podwaja efektywną przepustowość treningu w porównaniu z Ampere na tej samej pamięci węzła, HBM3 przewyższa HBM2e A100, a przepustowość NVSwitch na GPU jest porównywalna z 600 GB/s fabric A100. Oba dostarczają 640GB na węzeł. Zespoły wybierające spośród nich rozważają ekonomię Ampere w zestawieniu z przepustowością Hopper, a MillionMiner uczciwie cytuje oba rozwiązania.

Wydajność pojedynczego węzła plasuje się w tej samej klasie co system H100, ponieważ układ scalony, pamięć i przepustowość FP8 są zgodne. Platformy H100 i H200 uzasadniają swoją pozycję dzięki pełnemu NVLink o przepustowości 900 GB/s dla skalowania wielowęzłowego, pełnemu FP64 dla HPC oraz w przypadku H200 141 GB HBM3e na GPU. H800 stanowi wartość w serii Hopper dla wdrożeń AI z jednym lub kilkoma węzłami. Jeśli ją przekroczysz, ścieżka rozbudowy jest już dostępna w tym katalogu.

Prześlij swoje dane dotyczące obciążenia i wdrożenia za pomocą formularza wyceny, a specjalista MillionMiner potwierdzi konfigurację, uprawnienie do eksportu według przepisów USA, które obowiązują dla H800, oraz plan dostawy. Każdy system jest testowany przed wysyłką i dostarczany na całym świecie DDP wraz z opłatami i odprawą celną. Hosting w własnych data center MillionMiner jest dostępny jako alternatywa dla wdrożenia na miejscu.