Supermicro Serwer GPU A+ AS-8126GS-NB3RT NVIDIA HGX B300 NVL8

HGX B300 NVL8 jest 8-GPU'owym blokiem budulcowym NVIDIA Blackwell Ultra: osiem GPU B300 SXM, tkanina NVSwitch łącząca je z przepustowością 1,8 TB/s każda oraz zintegrowane porty sieciowe o przepustowości 800 Gb/s, dostarczane producentom takim jak Supermicro. W porównaniu do B200, pamięć wzrasta o 60 procent do 288 GB HBM3e na GPU, NVIDIA ocenia gęstą przepustowość FP4 na 1,5 razy wyższą, a porty tkaniny podwajają się do 800 Gb/s, przenosząc się na podstawową płytę.

2 304 GB połączonego HBM3e na osiem GPU, piątej generacji NVLink z przepustowością 1,8 TB/s na GPU przez NVSwitch, gęstą przepustowością FP4 według NVIDIA na poziomie 1,5 raza wyższym niż HGX B200, oraz osiem zintegrowanych portów fabric o przepustowości 800 Gb/s. W ujęciu obciążeniowym: modele na skalę frontier obsługują pełną rezerwę KV cache, modele liczące setki miliardów parametrów fine-tune'ują w pełnej precyzji na jednym węźle, a zespoły rozumujące obsługują rozmiary partii, które mniejsze pule pamięci nie mogą pomieścić.

Ponieważ mnożą liczbę tokenów. Model, który Reasoning przed odpowiedzią generuje wewnętrzne łańcuchy myślowe, z których każdy token zajmuje bufor KV przez cały czas trwania odpowiedzi, a długie konteksty i wysoka równoległość jeszcze bardziej zwiększają ten rozmiar. Gdy pamięć podręczna wyczerpie pamięć GPU, obsługa opiera się na offloadingu lub mniejszych partiach, a ekonomika jednostkowa maleje wraz z tym. 288GB na GPU w modelu B300 służy do jednoczesnego przechowywania wag i buforów na skalę reasoning, a jego gęsty uplift FP4 obniża koszt każdego z tych dodatkowych tokenów.

Trzy sytuacje. Floty wnioskowania obsługujące zadania o długim kontekście lub z rozumowaniem, gdzie głębokość pamięci podręcznej KV ustala rozmiar partii i margines. Modele, które przekraczają 1,4 TB węzła B200. I operatorzy standardizujący na zintegrowanej infrastrukturze 800G do wzrostu wielo-węzłowego. Programy treningowe i floty obsługujące komfortowo wewnątrz 1,4 TB zwykle lepiej obsługiwane przez system Gigabyte HGX B200, a modele MillionMiner zarówno w ofercie.

Ponieważ sieć przeniosła się na płytę główną GPU. Systemy klasy B200 wyposażone były w kilkanaście slotów głównie po to, aby pomieścić jeden adapter o przepustowości 400 Gb/s na GPU; HGX B300 NVL8 integruje bezpośrednio osiem portów OSFP o przepustowości 800 Gb/s, dzięki czemu topologia GPUDirect RDMA z jednym portem na GPU jest wbudowana z dwukrotną prędkością. Dwa pozostałe sloty PCIe 5.0 obsługują pamięć masową i zarządzanie siecią, co jest wszystkim, co można jeszcze dodać.

Podwójne procesory AMD EPYC 9005 lub 9004 serii, osiągające 192 rdzenie na gniazdo w linii 9005, z dwudziestoma czterema modułami DDR5 o prędkości 6400 MT/s, z jednym modułem na kanał dla pełnej przepustowości i skalowania do 6TB, co jest znacznie powyżej 2,3TB puli GPU. Pamięć masowa działa na osiemch hot-swap bay’ach NVMe E1.S z przodu do lokalnych zestawów danych. Proporcje odpowiadają zasadom rozmiarowania, które są nauczane w pozostałej części tego katalogu, z marginesem.

Granica to domena NVLink. Ten węzeł łączy osiem GPU w jeden spójny fabric na infrastrukturze gotowej do deploymentu na miejscu; systemy na skalę racka łączą 72 GPU pod chłodzeniem cieczy i projektem inżynieryjnym obiektu. Jeśli równoległość treningu faktycznie wymaga więcej niż ośmiu GPU w jednej domenie, odpowiedzią jest skalowanie rackowe. Do obsługi nawet największych wdrożonych modeli oraz do treningu, który mieści osiem GPU Blackwell Ultra, ten węzeł dostarcza generację bez zobowiązań związanych z obiektem i rozkłada się na zewnątrz wzdłuż swojej zintegrowanej sieci fabric o przepustowości 800G.

Na własnej strukturze podstawki: osiem portów OSFP o przepustowości 800 Gb/s, po jednym na GPU, obsługujących GPUDirect RDMA, dzięki czemu gradienty i aktywacje przemieszczają się pomiędzy węzłami bez angażowania CPU. Topologia, którą systemy z epoki B200 montowały z kart rozszerzeń, jest tu wliczona w zamysł. MillionMiner doradza przy architekturze switcha i sieci, gdy wdrożenie przekracza jedną maszynę.

Sześć redundantnych zasilaczy Titanium o mocy 6600W wyznacza granice, co czyni ten system najwyższym w klasie pojedynczych węzłów przenośnych powietrzem i jednoznacznie zalicza go do obszaru data centre. MillionMiner potwierdza dokładne zużycie energii i plan termiczny Twojej wybranej konfiguracji podczas wyceny, a hosting w własnych obiektach MillionMiner jest dostępny dla zespołów, które wolą nie zapewniać zasilania szafy na taką skalę.

Prześlij szczegóły dotyczące obciążenia, skalowania oraz wdrożenia za pomocą formularza wyceny. Specjalista MillionMiner potwierdza konfigurację, uprawnienia do dostawy według amerykańskich przepisów eksportowych obowiązujących dla akceleratorów klasy Blackwell oraz plan dostawy. Każdy system jest testowany przed wysyłką i dostarczany na cały świat w systemie DDP, z obsługą ceł i formalności celnych. Wsparcie w integracji racków oraz wdrożenie w środowisku hostowanym są dostępne.