Supermicro GPU A+ Server AS-8126GS-NB3RT NVIDIA HGX B300 NVL8

Blackwell Ultra ist die erste GPU-Generation, die entwickelt wurde, nachdem die Industrie erkannt hat, was reasoning models zu bedienen kostet. Das B200 beantwortete die Trainingsfrage; das B300 beantwortet die darauf folgende Inference-Ära-Frage, und die Änderungen sind spezifisch statt kosmetisch. Diese Supermicro A+ Plattform ist der 8-GPU-Knoten, in dem diese Änderungen enthalten sind.

Der GPU-Komplex. Acht NVIDIA Blackwell Ultra B300 SXM GPUs sind auf das HGX B300 NVL8 Motherboard montiert, jede mit 288GB HBM3e, 60 Prozent mehr als das B200, was insgesamt 2.304GB im Knoten vereint. Fifth-generation NVLink verbindet jede GPU mit 1,8 TB/s über NVSwitch im Full Mesh. NVIDIA bewertet die dichte FP4-Durchsatzleistung des B300 mit 1,5-mal so viel wie das B200, ein Leistungsanstieg, der genau dort konzentriert ist, wo hochvolumiges Serving stattfindet, und die Micro-Tensor-Skalierung des zweiten Generation Transformer Engine ermöglicht die Produktionstauglichkeit bei vierbit Inference. Der Speicherbandbreite pro GPU bleibt in der Klasse von 8 TB/s; die Kapazität ist die Überschrift, denn Kapazität ist das, was reasoning workloads zuerst aufbrauchen.

Warum Kapazität die reasoning-Ära bestimmt. Ein Modell, das vor der Antwort denkt, generiert interne Tokens, und jeder von ihnen belegt KV Cache für die Dauer der Antwort. Lange reasoning-Spuren, erweiterte Kontextfenster und hohes Concurrency im Serving multiplizieren diese Fußspur. Auf kleineren Nodes führt das zu Offloading, Batch-Size-Reduktion oder beidem, und die Margen im Serving schrumpfen entsprechend. Ein 2,3TB-Knoten hält frontier-scale Gewichte und die gleichzeitig generierten Caches; das ist der Unterschied zwischen einem Modell, das passt, und einem Deployment, das sich rechnet.

Das integrierte Fabric und was es am Gehäuse verändert. Das HGX B300 NVL8 Motherboard trägt seine eigene Netzwerk-Infrastruktur: acht OSFP-Ports mit 800 Gb/s, jeweils einer pro GPU, doppelt so hoch wie die Rate der vorherigen Generation der Add-in-Adapter. Deshalb zeigt das Datenblatt nur zwei PCIe 5.0 Erweiterungssteckplätze, während B200-Systeme ein Dutzend hatten; die zwölf Slots waren für NICs gedacht, und diese NICs befinden sich nun auf dem Motherboard. Für Multi-Node-Deployments führt dies zu einem saubereren Aufbau, einem schnelleren Fabric und einer GPUDirect RDMA-Topologie, die durch Design garantiert wird, anstatt nach Bestellung zusammengebaut zu werden. Die beiden verbleibenden Slots dienen Speicher- und Managementnetzwerken.

Der Supermicro-Host. Dual AMD EPYC 9005 oder 9004 Serienprozessoren, bis zu 192 Kerne pro Sockel bei der 9005-Reihe, liefern die Vorverarbeitung, Tokenisierung und Datenladearbeiten, die acht GPUs dieser Klasse verlangen. Vierundzwanzig DDR5-Module mit 6400 MT/s sind je nach Kanal auf zwölf Kanäle pro Prozessor verteilt und skalieren auf 6TB, was das Full-Bandwidth-Layout hält, während sie weit über dem GPU-Pool sitzen, nach dem in diesem Katalog geschult wird; mit Raum nach oben. Acht Front-Hot-Swap E1.S NVMe-Bays speichern Datensätze on-node, und sechs 6600W Titanium-Hiore-Supply-Einheiten in redundanter Anordnung definieren eine Leistungsaufnahme, die klar sagt, was das ist: eine Data-Center-Maschine an der Spitze der air-cooled single-node Klasse.

Die Entscheidung gegen das HGX B200 in diesem Katalog. Das Gigabyte B200 Node liefert 1,4TB und die gleiche NVLink-Generation, und für Trainingsprogramme und Serving-Fleets, die innerhalb dieses Memory-Emfangs arbeiten, bleibt es die rationale Blackwell-Investition. Das B300 rechtfertigt seine Position in drei Fällen: reasoning- und long-context Inferenzen, bei denen KV-Cache-Tiefe die Batchgröße und damit die Wirtschaftlichkeit bestimmt, Deployments, die frontier-scale Modelle über 1,4TB hinaus bedienen, und Operatoren, die auf das integrierte 800G Fabric für Multi-Node-Wachstum setzen. Unterhalb dieser Schwellen gewinnt das B200 in der Wirtschaftlichkeit; bei diesen Schwellen ist das B300 der einzige Knoten, der passt.

Die Entscheidung gegen rack-scale. Über diesem Gerät stehen die GB200- und GB300-Klassensysteme, bei denen 72 GPUs unter Liquid Cooling und Gebäudetechnik eine NVLink-Domäne teilen. Die Grenze bleibt bestehen: Wenn Trainingsparallelisierung wirklich mehr als acht GPUs in einer einzigen kohärenten Domäne braucht, ist rack-scale die Lösung. Für alles, was acht Blackwell Ultra GPUs passt – was jetzt auch die Serving der größten eingesetzten Modelle einschließt – liefert dieser Knoten die Generation ohne Gebäudetechnik-Projekt und skaliert nach außen durch das integrierte 800G Fabric.

Exportkonformität und Bestellung. Blackwell-class Accelerators unterliegen US-Exportkontrollen, und MillionMiner bestätigt die Zielortberechtigung im Rahmen jedes Angebots. Jedes System wird nach Bestellung konfiguriert, getestet und weltweit DDP versandt, inklusive Zölle und Zollabwicklung. Deployment-Planung und Hosting in den eigenen Data Centers von MillionMiner sind für Teams verfügbar, die es vorziehen, das Rack-Power auf diesem Niveau vor Ort nicht selbst bereitzustellen.