GIGABYTE G893-ZD1-AAX5 HGX B200 8-GPU Server

HGX B200 ist NVIDIA's 8-GPU Blackwell-Baustein: acht B200 SXM GPUs und der NVSwitch-Fabrics, der sie verbindet, geliefert an Hersteller wie Gigabyte, die komplette Server darum herum entwickeln. Die physischen Änderungen gegenüber Hopper: Jeder B200 ist ein Dual-Die-Paket mit 208 Milliarden Transistoren, der Speicher wächst auf 180GB HBM3e pro GPU bei etwa 8 TB/s, NVLink verdoppelt sich auf 1,8 TB/s pro GPU, und die zweite Generation des Transformer Engine fügt FP4-Genauigkeit mit Mikro-Tensor-Skalierung hinzu.

1.440 GB zusammengefasster HBM3e, 64 TB/s gesamte Speicherbandbreite, 144 PetaFLOPS FP4-Rechenleistung und 14,4 TB/s NVLink-Fabric über NVSwitch. In Bezug auf die Arbeitslasten: Feinabstimmung im Vollpräzisionsbereich von Modellen mit mehreren hundert Milliarden Parameter, Echtzeit-FP4-Bereitstellung von Modellen der Trillionen-Parameter-Klasse und langzeitige Inferenz mit KV-Cache-Spielraum, der jeden Hopper-Knoten übertrifft.

Drei Situationen. Inferenz-Flotten an der Frontierskala, bei denen FP4 etwa die Token pro Watt verdoppelt und NVIDIA bis zu 15x Echtzeit-Inferenz von Billionen-Parameter-Modelle gegen die H100-Generation angibt. Trainingsprogramme, bei denen die verdoppelte Fabric und der 60-Prozent-Bandbreiten-Gewinn die Zeitpläne komprimieren und geschäftlichen Nutzen bieten. Und Arbeitslasten, die bereits an die 141GB-Grenze pro GPU des H200 stoßen. Teams, die Modelle der Klasse 70B feinabstimmen oder innerhalb des Hopper-Formats bereitstellen, sind in der Regel besser mit den Lenovo oder ASUS HGX H200 Systemen bedient, und MillionMiner wird beide in dem Angebot modellieren.

Verfügbar, mit Ingenieurwesen. Der Transformer Engine der zweiten Generation implementiert Micro-Tensor-Skalierung, verfolgt die Quantisierungsskala auf feiner Granularität, sodass vierbitige Gewichte die Genauigkeit beibehalten, die naive Quantisierung verliert. Production Serving-Stacks, einschließlich TensorRT-LLM, unterstützen es, und die Inferenz großer Modelle lohnt sich: Der Speicherbedarf halbiert sich im Vergleich zu FP8, und der Durchsatz verdoppelt sich ungefähr. Das Training läuft weiterhin mit FP8 und BF16; FP4 ist ein wirtschaftliches Tool für die Inferenz, und ein großes auf Flottenebene.

Ja, das ist die technische Grundannahme dieser Gigabyte-Plattform: ein 8U-Gehäuse mit dem Luftstromvolumen, um den vollständigen HGX B200-Komplex bei Spezifikation ohne direkte Flüssigkeitskühlung unterzubringen. Die praktische Folge ist ein hoher Einsatzfreiheit, da keine Kühlmittelverteilung, Rohrleitungen oder Wartung des Flüssigkeitskreislaufs erforderlich sind und jedes Rechenzentrum mit ausreichender Leistung und konventioneller Kühlung qualifiziert ist. MillionMiner bestätigt die Anforderungen an den Luftstrom und die Eintrittstemperatur für Ihren Standort während des Angebots.

Kerzverdichtung und Speicherbandbreite. Die EPYC 9005-Serie erreicht 192 Kerne pro Sockel, was auf preprocessing-intensive Pipelines für acht GPUs dieser Klasse entfällt, und die Plattform nutzt zwölf DDR5-Kanäle pro Prozessor, wobei die vierundzwanzig Module jeweils einen pro Kanal bestückt sind – die Anordnung, die die volle Bandbreite ermöglicht. Das PCIe Gen5-Lane-Budget trägt ebenfalls die Netzwerk-Topologie mit einem Adapter pro GPU ohne Kompromisse. Die 9004-Serie ist weiterhin für Teams erhältlich, die darauf standardisiert sind.

Die Grenze ist das NVLink-Domain. Dieses Node verbindet acht GPUs in einem kohärenten Netzwerk; die GB200-Klasse verbindet 72 im Rack-Format, mit Flüssigkeitskühlung und Anlagenengineering im gleichen Umfang. Wenn Ihr Training parallelismus tatsächlich mehr als acht GPUs in einem einzigen Domain erfordert, ist rack-scale die Lösung. Für alles, was in acht Blackwell GPUs passt – was den Großteil des Unternehmens-Trainings und fast den gesamten Inference-Service abdeckt – liefert dieses Node die gleiche Generation ohne das Anlagenprojekt und skaliert stattdessen über InfiniBand.

Durch die one-adapter-per-GPU-Topologie ist das PCIe-Layout für folgende Konfigurationen ausgelegt: Acht Einzelplatz-Positionen nehmen 400 Gb/s Adapter auf NVIDIA Quantum-2 InfiniBand oder Spectrum-X Ethernet, wodurch GPUDirect RDMA einen dedizierten Fabrikanschluss pro GPU erhält, sodass Gradienten zwischen Knoten ohne Eingriff der CPU übertragen werden. Vier zusätzliche Doppelplatz-Positionen tragen Speicher- und Managementnetzwerke. MillionMiner berät bei Schalter- und Fabrikdesign, wenn eine Bereitstellung die Größe einer Maschine übersteigt.

Zwölf 3000W 80 PLUS Titanium Netzteile in einer 6+6 redundanten Anordnung bestimmen die Grenzen, wobei der GPU-Komplex allein unter Dauerbelastung acht Kilowatt ziehen kann, bevor das Host-System gezählt wird. Dies ist eindeutig eine Data-Center-Maschine. MillionMiner bestätigt den genauen Verbrauch Ihrer spezifischen Konfiguration während des Angebots und das Hosting in den eigenen Einrichtungen von MillionMiner ist für Teams verfügbar, die es vorziehen, keine Rack-Stromversorgung in diesem Maßstab bereitzustellen.

Reichen Sie Ihre Arbeitsbelastung, Skalierungs- und Bereitstellungsdetails über das Angebotsformular ein. Ein MillionMiner-Spezialist bestätigt die Konfiguration, die Eignung des Zielorts im Rahmen der US-Exportkontrollen, die für Blackwell-Klassen-Acceleratoren gelten, sowie den Lieferplan. Jedes System wird vor dem Versand getestet und weltweit DDP geliefert, inklusive Zollabwicklung. Rack-Integrationsanleitung und gehostete Bereitstellung sind ebenfalls verfügbar.