Gigabyte G593-ZD2-AAX1 Barebone AMD H200 serveur 8-GPU (141GB SXM)

Même plateforme, GPU plus puissant. Les deux sont le même barebone Gigabyte G593-ZD2 AMD-host ; celui-ci dispose de la carte mère HGX H200 à 141 Go par GPU et 1,1 To par nœud, tandis que la version H100 offre 640 Go. Ingénierie hôte identique et le même modèle de configuration personnalisée ; le H200 constitue une montée en gamme de la mémoire. Choisissez celui-ci lorsque votre charge de travail dépasse 640 Go, et le twin H100 lorsque cela tient, pour une meilleure rentabilité.

Le NVIDIA HGX H200 : huit GPU SXM à 141 Go de HBM3e chacun, 1 128 Go par nœud avec une bande passante agrégée approaching 38 To/s, un maillage NVSwitch complet à 900 Go/s par GPU, un débit FP8 supérieur à 30 petaFLOPS, et MIG jusqu’à 56 instances. En termes de charge de travail : un fine-tuning de classe 70B en précision pleine au sein d’un seul nœud, un service à long contexte avec une marge de cache KV réelle, ainsi qu’un entraînement et une inférence limités par la mémoire.

Le complexe GPU et le châssis sont expédiés fixés, la carte mère HGX H200, le châssis, l'alimentation, la refroidissement, et les composants du host vous sont laissés à préciser : les CPU EPYC, la configuration de la mémoire, et le stockage. Pour les équipes ayant des besoins spécifiques en nombre de cœurs, capacité ou stockage, le nœud est adapté à la charge de travail plutôt qu’à un forfait fixe, et MillionMiner configure les pièces ouvertes sur devis.

Densité de cœur et bande passante mémoire, les deux éléments qu’un hôte GPU doit apporter. Huit GPU nécessitent de nombreux cœurs pour le chargement parallèle des données et le prétraitement, ainsi qu’un sous-système mémoire qui ne les prive pas de ressources. EPYC 9004 sur Zen 4 offre un nombre élevé de cœurs et 12 canaux DDR5 par socket, la bande passante mémoire la plus large de sa catégorie, c’est pourquoi il constitue un hôte performant pour un nœud à 8 GPU à forte alimentation.

Ils diffèrent sur le modèle d'hôte et de configuration. Le Lenovo SR680a V3 offre une infrastructure de premier ordre ; le ASRock 6U8X domine en densité 6U et en économiques ; le ASUS N8-E11 est conçu autour d’un cluster axé sur un seul NIC par GPU ; le Quanta S7PH H200 est en tête en termes de serviceabilité ODM dans le rack. Ce Gigabyte est le Barebone AMD que vous configurez vous-même, avec une bande passante EPYC à 12 canaux. MillionMiner oriente la décision concernant votre infrastructure, la densité, la fabric et les priorités de configurabilité.

Lorsque votre charge de travail tient confortablement dans 640 Go. La configuration H100 de cette plateforme exacte coûte moins cher et offre la même ingénierie hôte et contrôle barebone ; le H200 avec 1,1 To ne justifie son prix supplémentaire que pour les travaux liés à la mémoire, le fine-tuning en précision totale de classe 70B, et le service à long contexte. Le devis modélise le croisement en fonction de votre charge de travail réelle plutôt qu'en devinant.

La plateforme fonctionne avec 12 canaux DDR5 par socket à travers 24 emplacements DIMM, et comme il s'agit d'un barebone, la configuration mémoire vous appartient de spécifier. La règle applicable dans tout ce catalogue reste valable : la mémoire système doit être égale ou supérieure au pool GPU de 1,1 To, et MillionMiner dimensionne sa capacité en fonction de votre charge de travail selon une estimation plutôt que selon un paramètre fixe par défaut.

Grâce à l'extension PCIe Gen5 équipée d'adaptateurs pour fabric GPUDirect RDMA, la topologie qui transfère les gradients entre les nœuds sans toucher aux CPU, via InfiniBand ou Ethernet haute vitesse spécifié pour chaque déploiement. En tant que configuration barebone, l'installation du fabric est adaptée à votre plan de cluster, et MillionMiner conseille sur l'architecture des commutateurs à mesure que le déploiement dépasse un nœud.

Huit baies chaudes-échangeurs Gen5 de 2,5 pouces réparties sur NVMe, SATA ou SAS-4, alimentation redondante de 3000W Titanium, et expansion PCIe Gen5 pour le tissu et le stockage supplémentaire. En tant que Barebone, la configuration de la population des disques est adaptée à votre charge de travail, et la consommation exacte de PSU d'une configuration H200 avec huit GPU est confirmée sur devis.

Soumettez vos détails de charge de travail et de déploiement via le formulaire de devis. Un spécialiste de MillionMiner configure les CPU EPYC, la mémoire et le stockage, confirme les conditions de garantie, l’éligibilité de la destination selon les contrôles à l’exportation américains applicables aux accélérateurs de classe Hopper, et la livraison. Chaque système est testé avant l’expédition et expédié dans le monde entier en DDP avec les droits de douane pris en charge, avec possibilité d’hébergement dans les propres centres de données de MillionMiner.