Supermicro Server GPU A+ AS-8126GS-NB3RT NVIDIA HGX B300 NVL8

Blackwell Ultra este prima generație de GPU-uri concepută după ce industria a înțeles costurile modelelor de reasoning pentru a fi oferite. B200 a răspuns la întrebarea despre antrenament; B300 răspunde întrebării din era inferenței care a urmat, iar modificările sunt specifice, nu cosmetice. Această platformă Supermicro A+ este nodul cu 8 GPU-uri în care se livrează aceste schimbări. Complexul GPU. Opt NVIDIA Blackwell Ultra B300 SXM GPU-uri montează pe placa de bază HGX B300 NVL8, fiecare având 288GB de HBM3e, cu 60% mai mult decât B200, combinând 2.304GB în întregul nod. NVLink de a cincea generație conectează fiecare GPU la 1,8 TB/s prin NVSwitch într-un topologie completă de tip mesh. NVIDIA evaluează capacitatea de throughput dens FP4 a B300 la de 1,5 ori cea a B200, o creștere concentrată exact acolo unde se află volum mare de servire, iar scalarea micro-tensorului În cadrul Transformer Engine de a doua generație este ceea ce face ca inferența de patru biți să păstreze acuratețea de producție. Lățimea de bandă a memoriei per GPU rămâne în clasa de 8 TB/s; capacitatea este capul de afiș, pentru că aceasta este ceea ce epuizează cel mai repede workload-urile de reasoning. De ce capacitatea definește era reasoning. Un model care gândește înainte de a răspunde generează token-uri interne, iar fiecare dintre ele ocupă cache KV pentru durata răspunsului. Trasările lungi de reasoning, ferestre de context extinse și servirea cu multiple concurențe multiplică acel amprentă împreună. Pe noduri mai mici, rezultatul este externalizare, colapsul dimensiunii batch sau ambele, iar marjele de servire scad odată cu ele. Un nod de 2,3TB păstrează greutățile la scară de frontieră și cache-urile pe care le generează simultan, ceea ce face diferența între un model care se potrivește și o implementare profitabilă. Textile-ul integrat și ce schimbă despre carcasie. Placa de bază HGX B300 NVL8 are propria rețea: opt porturi OSFP la 800 Gb/s, câte unul per GPU, dublu față de rata pe port a adaptorilor de adăugare de generație anterioară. De aceea, specificațiile arată doar două sloturi PCIe 5.0 pentru extindere, în timp ce sistemele de clasă B200 aveau un duzină; cele douăzeci și patru de sloturi existau pentru NIC-uri, iar aceste NIC-uri acum sunt pe placă de bază. Pentru implementări multi-nod, consecința este o construcție mai curată, o rețea mai rapidă și topologie GPUDirect RDMA garantată prin proiect, nu asamblată la comandă. Cele două sloturi rămase suportă stocare și rețea de management. Hoster-ul Supermicro. Două procesoare AMD EPYC 9005 sau 9004, până la 192 de nuclee pe socket pentru linia 9005, susțin preprocesarea, tokenizarea și încărcarea datelor necesare pentru cele opt GPU-uri de acest tip. Douăzeci și patru module DDR5 la 6400 MT/s sunt distribuite câte unul pe canal, pe cele doisprezece canale ale fiecărui procesor, și scalează până la 6TB, păstrând adaosul de bandă largă, fiind plasate departe de piscina GPU, regula de dimensionare pe care o predă acest catalog, asigurată cu spațiu de rezervă. Opt bay-uri NVMe frontale hot-swap E1.S mențin seturile de date local, iar șase surse de alimentare Titanium de 6600W în aranjament redundant definesc un pachet de alimentare clar, care indică această mașină ca fiind un sistem de nivel data centre la vârful clasei de nod unic cu răcire aer. Decizia împotriva HGX B200 din acest catalog. Nodul Gigabyte B200 oferă 1,4TB și aceeași generație NVLink, și pentru programele de antrenament și flotele de servire care operează în limita memoriei respective, rămâne achiziția racională Blackwell. B300 își câștigă poziția în trei situații: flote pentru reasonning și inferență în context lung, unde adâncimea cache-ului KV decide dimensiunea batch-ului și, implicit, economia unităților, implementări care servesc modele de scară frontieră care depășesc 1,4TB, și operatori ce standardizează pe textile-ul integrat de 800G pentru creșterea multi-nod. Sub acești parametri, B200 câștigă în economia costurilor; în aceste condiții, B300 este singurul nod care se potrivește. Decizia împotriva rack-scale. Deasupra acestei mașini se află sistemele de clasa GB200 și GB300, unde 72 GPU-uri împart un domeniu NVLink sub răcire lichid și inginerie de faciliteiten pentru a se potrivi. Granița rămâne aceeași: dacă paralelismul de antrenament are nevoie cu adevărat de mai mult de opt GPU-uri într-un singur domeniu coerent, rack-scale este soluția. Pentru toate sistemele care pot găzdui opt Blackwell Ultra GPU-uri, inclusiv cele care rulează cele mai mari modele implementate, acest nod oferă generația fără proiect de facilitate și se scalează în afară, pe rețeaua încorporată de 800G. Conformitatea de export și comanda. Acceleratoarele Blackwell sunt supuse controlului exporturilor SUA, iar MillionMiner confirmă eligibilitatea destinației ca parte din fiecare ofertă. Fiecare sistem este configurat la comandă, testat și livrat la nivel global DDP, cu taxe și vamă incluse. Planificarea implementării și hosting-ul în propriile centre de date ale MillionMiner sunt disponibile pentru echipele care preferă să nu asigure electricitatea rack-ului la această scară pe site.