Lenovo NVIDIA HGX H200 141GB 700W 8-GPU Server

Ce serveur est la plateforme Lenovo 8U refroidie par air, construite autour de la baseboard NVIDIA HGX H200 8-GPU, un hôte dual-Intel conçue spécifiquement pour que la configuration la plus puissante de la génération Hopper de NVIDIA puisse fonctionner dans un centre de données ordinaire refroidi par air. Sur un marché où les nœuds H200 full-power adoptent de plus en plus la refroidissement liquide, cette décision d'ingénierie unique définit la cible de cette machine : les organisations souhaitant une capacité de formation de génération actuelle sans reconstruire leur installation pour l’obtenir.

Le complexe GPU. Huit NVIDIA H200 SXM GPUs de la classe puissance de 700W sont montés sur la baseboard HGX et interconnectés via NVSwitch en pleine mosaïque, chaque GPU pouvant atteindre tous les autres GPU à 900 GB/s sans toucher le CPU ni le chemin PCIe. Chaque GPU possède 141GB de HBM3e, la première deployment HBM3e de la gamme NVIDIA, offrant au nœud 1 128GB de mémoire GPU pooling et un débit total proche de 38 TB/s. La capacité FP8 avec le Transformer Engine dépasse 30 petaFLOPS par nœud. En termes de charge de travail : des modèles de 70 milliards de paramètres peuvent être fine-tunés en FP16 pleine précision en une seule machine, les inférences à long contexte bénéficient de la mémoire cache KV qui dépasse les 80GB que peuvent offrir les GPU classiques, et les architectures Mixture-of-Experts routent entre experts à la vitesse NVLink. Chaque H200 peut également se partitionner en jusqu’à sept instances MIG de 16,5GB, permettant à un seul serveur de présenter plus de cinquante slices GPU isolés matériellement pour la multi-location.

L'ingénierie thermique, qui est la raison de choisir cette coque. Huit GPUs de 700W plus deux CPU de serveur génèrent une chaleur d’un montant à quatre chiffres en watts dans un seul boîtier. La conception de Lenovo y répond avec 8U de volume d’air et quinze ventilateurs hot-swap dans une configuration redondante N+1, maintenant la baseboard à pleine puissance selon les spécifications en simple refroidissement par air. La conséquence pratique est grande : pas d’unités de distribution de liquide, pas de plomberie de centre de données, pas de contrats de maintenance de boucle liquide, et aucune contrainte pour la minorité des centres de données déjà équipés pour le refroidissement liquide direct. La puissance est adaptée selon la même norme : huit alimentations redondantes hot-swap de 2600W offrent une marge de sécurité, puisant dans la distribution électrique AC standard du data center.

La plateforme hôte. Deux processeurs Intel Xeon Scalable de 5e génération constituent l'ancrage du nœud, avec des configurations dans la classe 48 cœurs par socket. Trente-deux slots DIMM supportent la mémoire TruDDR5 à 5600MHz jusqu’à 2TB, ce qui est important car la règle de base pour un nœud de formation est une mémoire système équivalente ou supérieure à la mémoire GPU totale, et 2TB sur une pool GPU de 1,1TB le dépasse correctement. Le stockage utilise seize baies NVMe PCIe 5.0 hot-swap de 2,5 pouces, offrant une capacité locale suffisante pour que la plupart des travaux de formation ne nécessitent pas d’accéder aux données à travers le réseau. La connectivité atteint 400 Gb/s par port, supportant la topologie un-adaptateur-par-GPU que nécessite le clustering GPUDirect RDMA lorsque plusieurs nœuds travaillent ensemble.

Une seule coque, deux générations. La plateforme peut accueillir soit la baseboard HGX H200, soit la baseboard HGX H100 avec GPU HBM3 de 80GB. Cette flexibilité constitue un levier d’approvisionnement réel : les équipes dont les modèles tiennent aisément dans 640GB par nœud peuvent opter pour le H100 et faire la différence, tandis que celles qui poussent les limites de mémoire choisissent le H200 de 141GB. MillionMiner cite les deux configurations sur cette plateforme.

Sa place dans ce catalogue, expliquée simplement. Les trois systèmes 8x A100 ici, le DGX A100, le Supermicro AS-4124GO-NART+ et l’Exeton Quasar 640X, offrent une formation NVSwitch éprouvée à des coûts accessibles, 640GB par nœud. Cette plateforme Lenovo constitue la progression générationnelle : 76 % de mémoire GPU en plus, 43 % de bande passante par GPU en plus, le throughput FP8 du Transformer Engine que la génération Ampere ne possède pas, et NVLink à 900 GB/s contre 600. Le profil d’acheteur visé est l’équipe dont les charges de travail ont dépassé la mémoire A100 ou dont les délais de formation justifient la capacité Hopper. Par rapport au NVIDIA DGX H200, c’est la voie OEM : un hôte configurable, l’organisation mondiale de service de Lenovo et XClarity en support, et trois ans de garantie, sans la prime sur le boîtier NVIDIA. Par rapport au système ASUS HGX H200 également dans ce catalogue, le cas Lenovo est celui de la standardisation de flotte d’entreprise : les organisations déjà équipées d’une infrastructure serveur Lenovo conservent un seul plan de gestion, une seule relation de support, et un seul manuel opérationnel.

Chaque unité est cotée selon la configuration, testée, et livrée dans le monde entier en DDP, avec les droits et formalités douanières gérés. La planification du déploiement et l’hébergement dans les centres de données de MillionMiner sont disponibles pour les équipes qui préfèrent ne pas provisionner environ dix kilowatts de puissance rack sur site.