GIGABYTE G893-ZD1-AAX5 HGX B200 8-GPU Server

HGX B200 est le bloc de construction 8-GPU de Blackwell de NVIDIA : huit GPU B200 SXM et la toile NVSwitch les reliant, fournis à des fabricants comme Gigabyte qui conçoivent des serveurs complets autour de celui-ci. Les changements physiques par rapport à Hopper : chaque B200 est un package à double die avec 208 milliards de transistors, la mémoire passe à 180 Go de HBM3e par GPU à environ 8 To/s, NVLink double à 1,8 To/s par GPU, et le Transformer Engine de deuxième génération ajoute la précision FP4 avec mise à l’échelle micro-tensor.

1 440 Go de HBM3e regroupés, 64 To/s de bande passante mémoire globale, 144 petaFLOPS de calcul FP4, et 14,4 To/s de tissu NVLink via NVSwitch. En termes de charge de travail : ajustement précis en pleine précision de modèles de plusieurs centaines de milliards de paramètres, service FP4 en temps réel de modèles de classe trillion de paramètres, et inférence à long contexte avec une marge de cache KV au-delà de n'importe quel nœud Hopper.

Trois situations. Flottes d'inférence à l'échelle de la frontière, où FP4 double à peu près le nombre de tokens par watt et NVIDIA cite jusqu'à 15x en temps réel pour l'inférence de trillion de paramètres contre la génération H100. Programmes de formation où le tissu doublé et le gain de bande passante de 60 pour cent compressent les délais avec une valeur commerciale. Et des charges de travail qui pressent déjà le plafond de 141 Go par GPU du H200. Les équipes affinant des modèles de classe 70B ou servant dans l'enveloppe Hopper sont généralement mieux servies par les systèmes Lenovo ou ASUS HGX H200, et MillionMiner modélisera les deux dans le devis.

Utilisable, avec ingénierie. Le Transformer Engine de deuxième génération implémente la mise à l’échelle micro-tensor, en suivant l’échelle de quantification avec une granularité fine afin que les poids en quatre bits conservent la précision que la quantification naïve perd. Les stacks de service en production, y compris TensorRT-LLM, le prennent en charge, et l’inférence de grands modèles est là où cela paie : l’empreinte mémoire est réduite de moitié par rapport à FP8 et le débit double environ. La formation utilise toujours FP8 et BF16 ; FP4 est un levier d’économie pour l’inférence, et un levier important à l’échelle du parc.

Oui, c'est la prémisse d'ingénierie de cette plateforme Gigabyte : un châssis 8U avec le volume de flux d'air nécessaire pour accueillir le complexe HGX B200 complet selon les spécifications, sans refroidissement liquide direct. La conséquence pratique est la liberté de déploiement, car aucun système de distribution de liquide, plomberie ou maintenance de boucle liquide n'est requis, et tout centre de données doté d'une alimentation électrique adéquate et d'un refroidissement conventionnel est qualifié. MillionMiner confirme les exigences en flux d'air et en température d'entrée pour votre site lors du devis.

Densité du cœur et bande passante mémoire. La série EPYC 9005 atteint 192 cœurs par socket, ce qui alimente des pipelines intensifs en prétraitement pour huit GPUs de cette classe, et la plateforme dispose de douze canaux DDR5 par processeur avec les vingt-quatre modules équipés, un par canal, la configuration qui maintient toute la bande passante. Le budget des lignes PCIe Gen5 supporte également la topologie réseau un-adaptateur-par-GPU sans compromis. La série 9004 reste disponible pour les équipes qui y sont standardisées.

La frontière est le domaine NVLink. Ce nœud connecte huit GPU dans un seul tissu cohérent ; la classe GB200 connecte 72 à l’échelle d’un rack, avec refroidissement liquide et ingénierie de centre de données pour s’y adapter. Si votre parallélisme de formation nécessite réellement plus de huit GPU dans un seul domaine, l’échelle rack est la réponse. Pour tout ce qui rentre dans huit GPU Blackwell, ce qui couvre la majorité des formations d'entreprise et presque tout le service d’inférence, ce nœud offre la même génération sans le projet de centre de données, et s’étend par InfiniBand à la place.

Via la topologie un-adaptateur-par-GPU, la configuration PCIe est conçue pour : huit emplacements à un seul port prennent des adaptateurs de 400 Gb/s sur NVIDIA Quantum-2 InfiniBand ou Spectrum-X Ethernet, offrant à GPUDirect RDMA un port de tissu dédié par GPU afin que les gradients circulent entre les nœuds sans passer par le CPU. Quatre emplacements supplémentaires à double port supportent le stockage et le réseau de gestion. MillionMiner conseille sur la conception du switch et du tissu lorsqu’un déploiement dépasse une machine.

Douze alimentations de 3000W 80 PLUS Titanium en configuration redondante 6+6 définissent l'enveloppe, le complexe GPU seul pouvant tirer huit kilowatts sous charge continue avant que l'hôte ne soit compté. Il s'agit clairement d'une machine de centre de données. MillionMiner confirme la consommation exacte de votre configuration spécifiée lors du devis, et le hosting dans les propres installations de MillionMiner est disponible pour les équipes qui préfèrent ne pas approvisionner l'alimentation du rack à cette échelle.

Soumettez vos détails de charge de travail, d'échelle et de déploiement via le formulaire de devis. Un spécialiste de MillionMiner confirme la configuration, l'éligibilité de la destination conformément aux contrôles à l'exportation américains applicables aux accélérateurs de classe Blackwell, ainsi que le plan de livraison. Chaque système est testé avant l'expédition et livré dans le monde entier en DDP avec les droits et les douanes pris en charge. Des conseils pour l'intégration en rack et un déploiement hébergé sont également disponibles.