QuantaGrid D74H-7U Zaawansowana wydajność dla najbardziej ekstremalnych obciążeń AI-HPC

Quanta Cloud Technology jest pierwotnym producentem projektu będącym twórcą większości infrastruktury hyperscale na świecie, firma, którą największe chmury kontraktują do inżynierii i budowy swoich flot. Zakupy bezpośrednio od ODM to sposób, w jaki najbardziej zaawansowani kupujący infrastrukturę nabywają sprzęt, opierając się na inżynierii i walidacji zamiast premii za markę. D74H-7U wprowadza ten model na otwarty rynek, a MillionMiner testuje każdą jednostkę przed wysyłką i gwarantuje dostawę.

Kompok NVIDIA HGX H100: osiem GPU SXM5 po 80GB HBM3 każdy, 640GB na węzeł z łączną przepustowością powyżej 26 TB/s, pełna siatka NVSwitch o 900 GB/s na GPU, przepustowość FP8 przekraczająca 30 petaFLOPS, oraz MIG do nawet 56 instancji. Pod względem obciążenia: pełne dostrajanie do klasy 70B w jednym węźle, trening na dużych partiach oraz zagęszczenie obsługi produkcyjnej na najbardziej zweryfikowanej konfiguracji tej generacji.

To jest bezpośrednia ścieżka z pamięci NVMe do pamięci GPU. Zwyczajowo dane przechodzą najpierw do pamięci systemu CPU, a następnie do GPU, co wymaga dwóch przejazdów magistralą i cykli CPU na transfer; GPUDirect Storage eliminuje bufor pośredni dzięki bezpośredniej ścieżce DMA. opłaca się to wszędzie, gdzie osiem GPU jest zasilanych z lokalnych danych, trening na dużych lokalnych zestawach danych, ładowanie checkpointów o wielkości setek gigabajtów bez opóźnień oraz zadania pobierania, których indeksy przekraczają pamięć RAM. Ta platforma obsługuje to natywnie, obok nieblokującego GPUDirect RDMA.

Przygotowany zestaw w stylu floty QCT: podwójny procesor Intel Xeon Platinum 8468, płyta bazowa HGX H100 8-GPU, dedykowany dysk SSD SATA do systemu operacyjnego, hot-swap NVMe do przechowywania danych, sieć podstawowa 10G OCP, zainstalowany port fabric ConnectX-7 400G, zarządzanie tablicą Intel VROC oraz 2-letnia gwarancja. Dokładne rozmieszczenie pamięci i liczba dysków NVMe jednostki dostępnej są potwierdzone w Państwa wycenie.

Oba mają ten sam 8x H100 SXM kompleks, więc decyzja zależy od filozofii zakupów. Dell odpowiada za zarządzanie przedsiębiorstwem: systemy iDRAC oraz OpenManage są dopasowane, a organizacja serwisowa obecnego dostawcy to najbezpieczniejszy podpis korporacyjny. Quanta odpowiada za zakupy z nastawieniem na inżynierię: pochodzenie hyperscale ODM i bezpośrednia ekonomia bez dodatkowej opłaty za logo. Regulowane duże parki i floty PowerEdge wskazują na Dell; nabywcy oceniający hardware na podstawie aspektów inżynieryjnych, skupiają się na tym miejscu, a MillionMiner cytuje oba rozwiązania bez ingerencji w wybór.

Gdy pamięć jest ograniczeniem związanym z blokadą. Platformy Lenovo, ASUS i ASRock H200 obsługują 141 GB na GPU, 1,1 TB na węzeł i uzyskują swoje premium za precyzyjne dostrajanie klasy 70B w pełnej precyzji, obsługę długiego kontekstu i prace ograniczone pamięcią. Obciążenia pracujące komfortowo w 640 GB korzystają raczej z ekonomii i dojrzałości tego węzła, a model wyceny oddaje szczerze moment przejścia.

Odnowiony AS-8125GS-TNHR zapewnia tę samą klasę złożoności na rynku wtórnym z dowodem weryfikacyjnym, a system H800 obsługuje pracę na pojedynczym węźle Hopper na końcu wartościowym rynku nowego sprzętu. Zakupy wymagające nowej jednostki z pełną gwarancją trafiają tutaj lub na Dell; klienci kierujący się budżetem, komfortowo korzystający z rynku wtórnego, wybierają odnowiony sprzęt, a modele MillionMiner to wszystko w jednej rozmowie.

Zainstalowany port ConnectX-7 400G jest punktem wyjścia, odpowiednim dla pracy na pojedynczym węźle i lekkiego wielowęzłowego obciążenia. Poważne rozproszone szkolenie skalowuje się w kierunku jednego portu sieciowego na GPU, zgodnie z topologią GPUDirect RDMA bez blokad, na której oparta jest ta platforma, z adapterami i architekturą switcha określoną w ofercie w miarę rozrastania się wdrożenia. Wartości gradientów przechodzą między węzłami GPU-do-GPU bez angażowania CPU.

Dual procesory Intel Xeon Platinum 8468, po 48 rdzeni każdy przy 2,1 GHz, łącznie 96, z 32 slotami DDR5 obsługującymi preprocessing i ładowanie danych, oraz Intel VROC zarządzającym tablicą pamięci masowej. Zasada doboru rozmiaru tego katalogu obowiązuje wszędzie, pamięć systemowa na poziomie lub powyżej puli GPU 640 GB, a skonfigurowana populacja jest potwierdzona w Państwa ofercie.

Prześlij swoje dane dotyczące obciążenia i wdrożenia za pomocą formularza wyceny. Specjalista MillionMiner potwierdza dokładną konfigurację, warunki gwarancji na 2 lata, uprawnienia do wysyłki do celu zgodnie z amerykańskimi kontrolami eksportowymi dotyczące akceleratorów klasy Hopper oraz dostawę. Każdy system jest wysyłany sprawdzony, na warunkach DDP na cały świat z opłatami celnymi, z możliwością hostingu w własnych data centre MillionMiner.