Wei gère l'infrastructure pour une équipe de serviceun modèle de 70 milliards de paramètres, et il dispose d’un budget pour l’un des trois GPU. Sur la fiche technique, le H200 et le H100 semblent presque identiques, le B200 semble évoluer dans une autre catégorie, et les prix ne correspondent pas aux écarts dans les chiffres. Sa véritable question n’est pas de savoir lequel est le plus rapide. C’est de savoir lequel des trois correspond réellement à son modèle, à sa charge de travail et à la puissance que son bâtiment peut fournir. Se tromper à ce sujet, c’est soit payer trop cher pour une marge de manœuvre jamais utilisée, soit acheter une carte qui ne peut pas supporter son modèle du tout.
C'est la manière honnête de lire leDécision H100 vs H200 vs B200Deux d'entre elles partagent une puce et ne diffèrent que par la mémoire. La troisième est un véritable saut d'architecture qui modifie également l'apparence de votre centre de données. Ce guide analyse les caractéristiques importantes, où chaque carte l'emporte, leur coût, et la contrainte que la majorité des acheteurs oublient souvent de prévoir dans leur budget.
C'est la manière honnête de lire leDécision H100 vs H200 vs B200Deux d'entre elles partagent une puce et ne diffèrent que par la mémoire. La troisième est un véritable saut d'architecture qui modifie également l'apparence de votre centre de données. Ce guide analyse les caractéristiques importantes, où chaque carte l'emporte, leur coût, et la contrainte que la majorité des acheteurs oublient souvent de prévoir dans leur budget.
La version courte
- LeH100 et H200partagent le même Hopper die, donc leur puissance de calcul est identique. Le seul avantage du H200 réside dans la mémoire : 141 Go à 4,8 To/s contre 80 Go à 3,35 To/s.
- Cette mémoire vaut approximativement8 à 12 pour cent sur la formation mais 25 à 35 pour cent sur l'inférence limitée par la mémoire de modèles de 70B et plus grands. Pour l'inférence, le H200 est le choix évident parmi les deux.
- LeB200 est une nouvelle architecture (Blackwell), pas une actualisation de mémoire : 192 Go, environ 8 TB/s, FP4 natif, et environ 4 fois le débit d'entraînement du H100.
- Le problème réside dans la puissance et la chaleur. H100 et H200 sontair-coolable ; le B200 nécessite un refroidissement liquideet pousse les racks au-delà de 120 kW. Cette augmentation de l'installation est souvent le véritable facteur décisif.
Les trois GPU en un coup d'œil
Avant l’analyse, comparez les chiffres côte à côte. Chaque chiffre ci-dessous est une valeur dense (non creuse) provenant des fiches produits de NVIDIA et des tarifs du marché 2026. Considérez les multiplicateurs de performance comme étant directionnels et comparez la charge de travail de votre entreprise avant de décider du budget.
Deux motifs ressortent. Premièrement, les lignes H100 et H200 sont identiques sauf pour la mémoire et la bande passante, car il s'agit du même silicium. Deuxièmement, le B200 n'est pas une étape incrémentielle ; c'est une puce différente avec un format de précision différent et une exigence de refroidissement différente. Ces deux faits orientent la décision dans son ensemble.
H100 et H200 : même puce, mémoire différente
Ceci est la partie qui confond les acheteurs, il vaut donc la peine de le préciser clairement. L'H200 utilise le même die GH100 que l'H100. Même Tensor Cores, même débit FP16 et FP8, mêmes fréquences. Si vous placez un H100 et un H200 côte à côte sur une tâche limitée par la calcul, ils terminent en même temps.
Ce que NVIDIA a changé, c'est la mémoire. Le H100 possède 80 Go de HBM3 à 3,35 TB/s. Le H200 dispose de 141 Go de HBM3e à 4,8 TB/s, ce qui représente 1,76 fois la capacité et environ 1,4 fois la largeur de bande. Rien d'autre n'a changé.
Ce changement unique est absolument crucial pour une tâche spécifique : servir de grands modèles. La génération de texte est limitée par la bande passante mémoire, car le GPU doit lire l'ensemble des poids du modèle pour chaque jeton qu'il produit. Plus de bande passante signifie plus de jetons par seconde, et une capacité accrue permet au modèle de s'adapter sans déversement. NVIDIA indique que le H200 offre jusqu'à 1,9 fois le débit d'inférence du H100 sur Llama 2 70B, et en pratique, on observe des gains de 25 à 35 pour cent sur des modèles limités par la mémoire dans la gamme 70B et plus. Pour l'entraînement, où le goulot d'étranglement est généralement le calcul plutôt que la mémoire, le même matériel offre un gain plus modeste de 8 à 12 pour cent.
Il y a également un goulet d'étranglement de capacité caché dans ces chiffres. Un modèle de 70B en FP16 nécessite environ 140 Go de mémoire rien que pour ses poids. Cela tient sur un seul H200 (141 Go) mais pas sur un seul H100 (80 Go), où vous auriez besoin de deux cartes et de la surcharge de liaison qu'elles impliquent. Si votre modèle se trouve dans cette gamme, le H200 n'est pas un peu plus rapide, c'est la différence entre une seule GPU et deux.
Ce que NVIDIA a changé, c'est la mémoire. Le H100 possède 80 Go de HBM3 à 3,35 TB/s. Le H200 dispose de 141 Go de HBM3e à 4,8 TB/s, ce qui représente 1,76 fois la capacité et environ 1,4 fois la largeur de bande. Rien d'autre n'a changé.
Ce changement unique est absolument crucial pour une tâche spécifique : servir de grands modèles. La génération de texte est limitée par la bande passante mémoire, car le GPU doit lire l'ensemble des poids du modèle pour chaque jeton qu'il produit. Plus de bande passante signifie plus de jetons par seconde, et une capacité accrue permet au modèle de s'adapter sans déversement. NVIDIA indique que le H200 offre jusqu'à 1,9 fois le débit d'inférence du H100 sur Llama 2 70B, et en pratique, on observe des gains de 25 à 35 pour cent sur des modèles limités par la mémoire dans la gamme 70B et plus. Pour l'entraînement, où le goulot d'étranglement est généralement le calcul plutôt que la mémoire, le même matériel offre un gain plus modeste de 8 à 12 pour cent.
Il y a également un goulet d'étranglement de capacité caché dans ces chiffres. Un modèle de 70B en FP16 nécessite environ 140 Go de mémoire rien que pour ses poids. Cela tient sur un seul H200 (141 Go) mais pas sur un seul H100 (80 Go), où vous auriez besoin de deux cartes et de la surcharge de liaison qu'elles impliquent. Si votre modèle se trouve dans cette gamme, le H200 n'est pas un peu plus rapide, c'est la différence entre une seule GPU et deux.
Le B200 est un animal différent
où le H200 est une mise à niveau de mémoire sur une ancienne puce, le B200 est une architecture entièrement nouvelle. NVIDIA a atteint la limite de la réticule avec Hopper, la plus grande lithographie de puce pouvant être imprimée, donc Blackwell assemble deux puces sur un seul module, connectées à 10 TB/s, et les considère comme un seul GPU cohérent. Le résultat est 208 milliards de transistors, plus de 2,5 fois ceux du H100.
Les spécifications qui suivent sont :
Les spécifications qui suivent sont :
- Mémoire.192 GB de HBM3e à environ 8 TB/s. Cela représente 2,4 fois la capacité et la bande passante du H100, et cela permet à un seul B200 de contenir des modèles nécessitant deux ou trois H100s.
- Précision FP4.Les Tensor Cores de cinquième génération de Blackwell ajoutent un point flottant natif de quatre bits. FP4 réduit de moitié l'empreinte mémoire par rapport à FP8 et, combiné à la bande passante, soutient l'affirmation principale de NVIDIA d'environ 4 fois la capacité de traitement en inference du H100. Un modèle de 70B en FP4 se réduit à environ 35 Go, ce qui laisse la majorité de la carte disponible pour le contexte et le traitement par lots.
- NVLink 5.0.1,8 TB/s par GPU, deux fois Hopper's 900 GB/s, ce qui est important lorsque vous augmentez l'échelle au-delà d'une seule carte.
L'économie suit le débit. À grande échelle, la combinaison du FP4 et de la bande passante du B200 peut réduire considérablement le coût par jeton ; des estimations indépendantes le situent près d'une réduction de 7 fois par rapport au H100 en dépit du tarif horaire plus élevé, car le gain en débit dépasse la prime de prix. C'est le véritable argument en faveur de Blackwell : ce n'est pas qu'il soit plus rapide en théorie, mais qu'il soit moins cher par jeton une fois que vous déployez à grande volume.
L'écart générationnel entre le H100 et le B200 est le plus important que NVIDIA ait jamais expédié dans le segment des centres de données, et il se concentre précisément sur les trois aspects qui limitent l'inférence LLM : capacité mémoire, bande passante et débit en faible précision.
Analyse de la plateforme NVIDIA B200, 2026
L'écart générationnel entre le H100 et le B200 est le plus important que NVIDIA ait jamais expédié dans le segment des centres de données, et il se concentre précisément sur les trois aspects qui limitent l'inférence LLM : capacité mémoire, bande passante et débit en faible précision.
Analyse de la plateforme NVIDIA B200, 2026
Entraînement versus inférence : là où chacun gagne
La bonne GPU dépend moins de la marque ou du niveau que de la moitié de la charge de travail en AI que vous exécutez.
Pour l'inférence,les règles de mémoire. Servir un modèle est limité par la bande passante, donc le classement est clair : B200 en premier avec une large marge, H200 en second, H100 en troisième. Si vous utilisez 70 milliards ou plus en production et que vous tenez compte du coût par jeton, la voie FP4 du B200 est de classe différente, et le H200 est le choix raisonnable de la génération Hopper lorsque 141 Go suffisent et que vous souhaitez un logiciel mature.
Pour la formation,Les calculs sont plus importants et les écarts se compressent. Le H100 et le H200 s'entraînent à la même vitesse car ils partagent une puce. Le B200 offre environ 4 fois le débit d'entraînement du H100 sur des modèles de transformer grâce à FP8 et FP4 en précision mixte, donc pour de nouvelles grandes sessions d'entraînement, c'est le choix évident, mais une charge de travail d'entraînement ou HPC sensible aux coûts fonctionne parfaitement avec des H100 moins chers et en stock. Un schéma courant en 2026 est une flotte hybride : Blackwell pour l'inférence en production où le gain de débit s'autofinance, Hopper pour l'entraînement et les tâches en arrière-plan.
Pour l'inférence,les règles de mémoire. Servir un modèle est limité par la bande passante, donc le classement est clair : B200 en premier avec une large marge, H200 en second, H100 en troisième. Si vous utilisez 70 milliards ou plus en production et que vous tenez compte du coût par jeton, la voie FP4 du B200 est de classe différente, et le H200 est le choix raisonnable de la génération Hopper lorsque 141 Go suffisent et que vous souhaitez un logiciel mature.
Pour la formation,Les calculs sont plus importants et les écarts se compressent. Le H100 et le H200 s'entraînent à la même vitesse car ils partagent une puce. Le B200 offre environ 4 fois le débit d'entraînement du H100 sur des modèles de transformer grâce à FP8 et FP4 en précision mixte, donc pour de nouvelles grandes sessions d'entraînement, c'est le choix évident, mais une charge de travail d'entraînement ou HPC sensible aux coûts fonctionne parfaitement avec des H100 moins chers et en stock. Un schéma courant en 2026 est une flotte hybride : Blackwell pour l'inférence en production où le gain de débit s'autofinance, Hopper pour l'entraînement et les tâches en arrière-plan.
Prêt à démarrer Mining ?
livraison DDP gratuite dans le monde entier. Hébergement professionnel à partir de 0,055$/kWh.
La falaise de refroidissement que personne ne prévoit dans le budget
Voici la contrainte qui détermine discrètement la majorité de ces achats par rapport à tout benchmark. Les H100 et H200 consomment tous deux 700 watts et sont conçus pour fonctionner à l'air. Les systèmes DGX et HGX Hopper sont refroidis par air, intégrés confortablement dans des racks de 20 à 45 kW que les installations ordinaires gèrent déjà, avec des échangeurs de chaleur à l'arrière pour la marge de manœuvre.
Le B200 consomme 1 000 watts, soit une augmentation de 43 pour cent, ce qui change tout en aval. Les racks B200 denses dépassent largement ce que l'air peut évacuer, et à l'échelle du rack, la configuration GB200 NVL72 atteint 120 kW ou plus et nécessite un refroidissement liquide direct sur le puce, sans option d'air seule. En pratique, cela signifie une boucle d'eau pour l’installation, des unités de distribution de liquide de refroidissement et une charge au sol que la plupart des bâtiments n'ont jamais été conçus pour supporter.
La version honnête de la décision concernant le B200 n'est pas « puis-je me permettre le GPU ». C'est « puis-je me permettre de construire ce dont le GPU a besoin ». Un B200 que vous ne pouvez pas refroidir est plus lent qu'un H200 que vous pouvez. Pour toute personne déployant sur site, c'est la limite entre une mise à niveau matérielle et un projet de construction, ce qui explique exactement pourquoi tant de capacité Blackwell est utilisée dans le cloud ou dans des installations qui ont déjà résolu les problèmes d'énergie et de refroidissement.
Le B200 consomme 1 000 watts, soit une augmentation de 43 pour cent, ce qui change tout en aval. Les racks B200 denses dépassent largement ce que l'air peut évacuer, et à l'échelle du rack, la configuration GB200 NVL72 atteint 120 kW ou plus et nécessite un refroidissement liquide direct sur le puce, sans option d'air seule. En pratique, cela signifie une boucle d'eau pour l’installation, des unités de distribution de liquide de refroidissement et une charge au sol que la plupart des bâtiments n'ont jamais été conçus pour supporter.
La version honnête de la décision concernant le B200 n'est pas « puis-je me permettre le GPU ». C'est « puis-je me permettre de construire ce dont le GPU a besoin ». Un B200 que vous ne pouvez pas refroidir est plus lent qu'un H200 que vous pouvez. Pour toute personne déployant sur site, c'est la limite entre une mise à niveau matérielle et un projet de construction, ce qui explique exactement pourquoi tant de capacité Blackwell est utilisée dans le cloud ou dans des installations qui ont déjà résolu les problèmes d'énergie et de refroidissement.
Ce qu'ils coûtent : acheter contre louer
Les prix des stickers évoluent constamment, mais la tendance pour 2026 reste stable. Les nouvelles cartes H100 et H200 se situent approximativement entre 25 000 et 40 000 $ selon le facteur de forme et le volume, tandis que les modules H100 SXM d'occasion se négocient à des prix beaucoup plus bas, car les acheteurs migrent vers du matériel plus récent. Le B200 se situe autour de 30 000 à 40 000 $ en neuf, et le Blackwell Ultra B300, avec 288 Go et 1 400 watts, est plus élevé et est arrivé au cours du premier semestre 2026.
La location raconte une histoire plus claire pour la plupart des équipes. Mi-2026, les H100 en cloud se louent environ 2 à 3 $ par heure par GPU, les H200, un cran au-dessus, et les B200 coûtent environ 5 à 6 $ en demande, avec des tarifs spot qui tombent près de 2 $. Étant donné que le matériel B200 est en rupture de stock jusqu'à la fin de l'année, l'accès en cloud est souvent la seule voie rapide vers Blackwell. La règle générale : louer lorsque votre charge de travail est intermittente ou que vous choisissez encore votre matériel, et acheter lorsque l'utilisation est suffisamment élevée pour que la possession soit plus économique que la facturation à l'heure, ce qui pour une carte bien utilisée est généralement une question de mois.
La location raconte une histoire plus claire pour la plupart des équipes. Mi-2026, les H100 en cloud se louent environ 2 à 3 $ par heure par GPU, les H200, un cran au-dessus, et les B200 coûtent environ 5 à 6 $ en demande, avec des tarifs spot qui tombent près de 2 $. Étant donné que le matériel B200 est en rupture de stock jusqu'à la fin de l'année, l'accès en cloud est souvent la seule voie rapide vers Blackwell. La règle générale : louer lorsque votre charge de travail est intermittente ou que vous choisissez encore votre matériel, et acheter lorsque l'utilisation est suffisamment élevée pour que la possession soit plus économique que la facturation à l'heure, ce qui pour une carte bien utilisée est généralement une question de mois.
Alors, lequel devriez-vous acheter ?
Posez trois questions dans l'ordre et la réponse tombera.
- Quelle est la taille de votre modèle ?Moins de 70B, le H100 suffit. À 70B en FP16, il faut les 141 GB du H200 ou les 192 GB du B200 pour rester sur une seule carte. Au-delà de 100B en précision totale, le B200 est l'option pratique à un seul GPU.
- Entraînement ou inférence ?Les entraînements limités par la puissance de calcul fonctionnent parfaitement sur H100 ou H200. C'est lors de l'inférence limitée par la mémoire à grande échelle que le H200, et surtout le B200, justifient leur prime.
- Votre site peut-il être refroidi ?Si vous utilisez des racks refroidis à l'air et sans boucle de liquide, le choix réaliste est le H100 ou le H200. Le B200 n'est la bonne réponse que si vous pouvez fournir un refroidissement liquide et la puissance nécessaire.
Une brève note sur les voisins. La B100 est une version Blackwell à faible consommation conçue pour s’intégrer dans les systèmes HGX H100 existants, offrant une voie de mise à niveau plus douce. La GB200 NVL72 associe 72 B200 à des CPU Grace à l’échelle du rack pour les déploiements les plus importants. Et la prochaine génération de NVIDIA, Vera Rubin, est entrée en production et devrait être expédiée dans la seconde moitié de 2026 avec une nouvelle intensification du débit FP4, offrant ainsi aux acheteurs planifiant une nouvelle installation une feuille de route à considérer. Vous pouvez placer n’importe deux de ces modèles côte à côte, avec les chiffres exacts actuels, dans leOutil de référence GPU et IA de MillionMiner.
Où se place MillionMiner
Choisir la carte représente la moitié du travail. La faire fonctionner en est l'autre moitié, et c'est celle sur laquelle nous avons consacré des années. La même puissance et le même refroidissement qui alimentent 30 000 Miner d'extraction sont nécessaires pour un déploiement d'IA, en plus grande quantité, c'est pourquoi la partie la plus difficile d'une construction B200 est rarement le GPU. Si vous réduisez encore le choix, leGuide en langage clair pour choisir un GPU pour l'IAcouvre les fondamentaux, et leCatalogue du matériel AIlistent les cartes H100, H200 et Blackwell avec livraison mondiale en Duty Paid.
Pour les acheteurs qui atteignent le plafond de refroidissement et de puissance, c'est la raison même pour laquelle le Miner'scôté puissance de l'IAcompte autant que le silicium. Obtenir une capacité bon marché, alimentée en énergie, capable de supporter le liquide est la contrainte, et c’est précisément ce que notresites clés en mainsont conçus pour résoudre. L'histoire des Mineurs qui orientent leur puissance dansCalcul de l'IA est, en dessous, la même leçon à laquelle cette comparaison continue de ramener : le GPU est la partie facile.
Pour les acheteurs qui atteignent le plafond de refroidissement et de puissance, c'est la raison même pour laquelle le Miner'scôté puissance de l'IAcompte autant que le silicium. Obtenir une capacité bon marché, alimentée en énergie, capable de supporter le liquide est la contrainte, et c’est précisément ce que notresites clés en mainsont conçus pour résoudre. L'histoire des Mineurs qui orientent leur puissance dansCalcul de l'IA est, en dessous, la même leçon à laquelle cette comparaison continue de ramener : le GPU est la partie facile.
Le résultat net
Wei a acheté des H200s. Son modèle 70B tient sur une seule carte, ses racks sont refroidis par air, et la suite logicielle Hopper était prête aujourd'hui. Le B200 aurait permis d'utiliser plus de jetons par dollar à grande échelle, mais seulement après qu'il ait reconstruit son installation pour le refroidissement liquide, et il ne traitait pas encore suffisamment de volume pour justifier cela. C'est le schéma pour la plupart des équipes en 2026 : le B200 est l'avenir et souvent le bon achat pour l'inférence à haut volume, mais le H200 est la carte qui correspond au modèle et au bâtiment que vous avez déjà.
Associez le GPU au modèle, à la charge de travail et au refroidissement que vous pouvez réellement fournir, dans cet ordre. Faites cela et la question H100 versus H200 versus B200 se résoudra d'elle-même. Cuando vous souhaitez voir les chiffres exacts pour votre sélection, passez-les par leoutil de référence.
Associez le GPU au modèle, à la charge de travail et au refroidissement que vous pouvez réellement fournir, dans cet ordre. Faites cela et la question H100 versus H200 versus B200 se résoudra d'elle-même. Cuando vous souhaitez voir les chiffres exacts pour votre sélection, passez-les par leoutil de référence.
Foire aux questions
Quelle est la différence entre le H100, H200 et B200 ?
Le H100 et le H200 partagent la même puce Hopper et des capacités de calcul identiques ; le H200 ajoute uniquement de la mémoire (141 Go HBM3e à 4,8 TB/s contre 80 Go HBM3 à 3,35 TB/s pour le H100). Le B200 est une nouvelle architecture Blackwell avec 192 Go, environ 8 TB/s de bande passante, une précision FP4 native et environ 4 fois le débit d'entraînement du H100, mais il nécessite un refroidissement liquide.
Le H200 est-il plus rapide que le H100 ?
Uniquement pour les tâches limitées par la mémoire. Parce qu'ils utilisent le même die, le H100 et le H200 sont identiques pour les tâches liées au calcul, comme la majorité des entraînements. Pour le déploiement de grands modèles, la bande passante et la capacité supplémentaires du H200 offrent jusqu'à 1,9 fois le débit d'inférence sur des modèles de classe 70B, et environ 25 à 35 pour cent dans les cas typiques limités par la mémoire.
Les H100 et H200 ont-ils les mêmes performances ?
En calcul, ils sont identiques, car les deux utilisent la puce GH100 avec les mêmes Tensor Cores et fréquences. L'avantage du H200 réside entièrement dans la mémoire : 141 Go contre 80 Go et 4,8 To/s contre 3,35 To/s. Cela concerne l'inférence de modèles larges et le fait de faire tenir un modèle de 70 milliards sur une seule carte, mais pas pour l'entraînement limité par la puissance de calcul.
Le B200 vaut-il la peine par rapport au H200 ?
Pour les inférences à fort volume et les grandes nouvelles sessions d'entraînement, oui. La prise en charge FP4 du B200 et sa bande passante de 8 TB/s peuvent réduire considérablement le coût par token à grande échelle, et ses 192 Go contiennent des modèles nécessitant deux H200. Mais il consomme 1 000 watts et nécessite un refroidissement liquide, donc si votre site est refroidi par air ou si votre volume est modeste, l'H200 est souvent le meilleur choix pratique.
Quelle GPU est la meilleure pour l'inférence LLM ?
Pour l'inférence de LLM limitée par la mémoire à grande échelle, le B200 domine clairement grâce à FP4 et à la bande passante, suivi par le H200, puis le H100. Si 141 Go suffisent pour votre modèle et que vous souhaitez la pile logicielle Hopper mature, le H200 est le choix judicieux ; optez pour le B200 pour le coût par jeton le plus bas en volume ou pour les modèles de plus de 141 Go.
Quel GPU est le meilleur pour la formation en IA ?
Le B200 offre environ 4 fois la capacité de traitement de formation du H100 sur des modèles transformateurs et constitue le choix pour de nouvelles grandes séries. Le H100 et le H200 entraînent à la même vitesse et demeurent des options solides, économiques, pour des formations plus petites ou sensibles au budget. De nombreuses équipes utilisent une flotte hybride : Blackwell pour l'inférence en production, Hopper pour la formation.
Le B200 nécessite-t-il un refroidissement liquide ?
En pratique, oui. À 1 000 watts par GPU, les racks B200 denses dépassent ce que le refroidissement par air peut gérer, et le GB200 NVL72 à l’échelle de l’armoire à 120 kW ou plus nécessite un refroidissement liquide direct sur puce sans option uniquement à l’air. Les H100 et H200 à 700 watts sont conçus pour fonctionner à l’air dans des racks standard de 20 à 45 kW.
Combien de VRAM ont le H100, le H200 et le B200 ?
Le H100 dispose de 80 GB de HBM3, le H200 possède 141 GB de HBM3e, et le B200 dispose de 192 GB de HBM3e. Pour référence, un modèle de 70B en FP16 nécessite environ 140 GB, il tient donc sur un seul H200 ou B200, mais pas sur un seul H100. Le Blackwell Ultra B300 repousse la capacité jusqu'à 288 GB.
Combien coûtent les H100, H200 et B200 en 2026 ?
Les nouvelles cartes H100 et H200 coûtent environ 25 000 à 40 000 dollars, selon le format et le volume, avec des H100 d'occasion se vendant à un prix inférieur. La B200 coûte environ 30 000 à 40 000 dollars neuve. La location en nuage coûte environ 2 à 3 dollars par heure de GPU pour le H100, un peu plus pour le H200, et environ 5 à 6 dollars en demande pour la B200, avec des tarifs spot proches de 2 dollars.
Devrais-je acheter ou louer ces GPU ?
Louez lorsque votre charge de travail est intermittente, que vous choisissez toujours du matériel, ou que vous avez besoin de Blackwell rapidement, car le stock de B200 est en rupture de stock. Achetez lorsque le taux d'utilisation est suffisamment élevé pour que la possession soit plus rentable que la facturation à l'heure, ce qui pour une carte bien utilisée dure généralement quelques mois. Sur site, tenez compte du refroidissement et de l'alimentation nécessaires à la carte, en particulier pour le B200 refroidi par liquide.
Sources et crédits des images
Spécifications issues des fiches produit NVIDIA H100, H200 et B200 ; chiffres de performance issus des résultats NVIDIA et MLPerf Inference ; prix 2026 selon les tarifs des clouds publics. Photo macro de héros d’un GPU NVIDIA par Fritzchens Fritz (CC0) et photo de cluster GPU par CSIRO (CC BY 3.0), toutes deux via Wikimedia Commons, recadrées et retouchées pour MillionMiner. Diagrammes : graphiques originaux de MillionMiner.
Le H100 et le H200 partagent la même puce Hopper et des capacités de calcul identiques ; le H200 ajoute uniquement de la mémoire (141 Go HBM3e à 4,8 TB/s contre 80 Go HBM3 à 3,35 TB/s pour le H100). Le B200 est une nouvelle architecture Blackwell avec 192 Go, environ 8 TB/s de bande passante, une précision FP4 native et environ 4 fois le débit d'entraînement du H100, mais il nécessite un refroidissement liquide.
Le H200 est-il plus rapide que le H100 ?
Uniquement pour les tâches limitées par la mémoire. Parce qu'ils utilisent le même die, le H100 et le H200 sont identiques pour les tâches liées au calcul, comme la majorité des entraînements. Pour le déploiement de grands modèles, la bande passante et la capacité supplémentaires du H200 offrent jusqu'à 1,9 fois le débit d'inférence sur des modèles de classe 70B, et environ 25 à 35 pour cent dans les cas typiques limités par la mémoire.
Les H100 et H200 ont-ils les mêmes performances ?
En calcul, ils sont identiques, car les deux utilisent la puce GH100 avec les mêmes Tensor Cores et fréquences. L'avantage du H200 réside entièrement dans la mémoire : 141 Go contre 80 Go et 4,8 To/s contre 3,35 To/s. Cela concerne l'inférence de modèles larges et le fait de faire tenir un modèle de 70 milliards sur une seule carte, mais pas pour l'entraînement limité par la puissance de calcul.
Le B200 vaut-il la peine par rapport au H200 ?
Pour les inférences à fort volume et les grandes nouvelles sessions d'entraînement, oui. La prise en charge FP4 du B200 et sa bande passante de 8 TB/s peuvent réduire considérablement le coût par token à grande échelle, et ses 192 Go contiennent des modèles nécessitant deux H200. Mais il consomme 1 000 watts et nécessite un refroidissement liquide, donc si votre site est refroidi par air ou si votre volume est modeste, l'H200 est souvent le meilleur choix pratique.
Quelle GPU est la meilleure pour l'inférence LLM ?
Pour l'inférence de LLM limitée par la mémoire à grande échelle, le B200 domine clairement grâce à FP4 et à la bande passante, suivi par le H200, puis le H100. Si 141 Go suffisent pour votre modèle et que vous souhaitez la pile logicielle Hopper mature, le H200 est le choix judicieux ; optez pour le B200 pour le coût par jeton le plus bas en volume ou pour les modèles de plus de 141 Go.
Quel GPU est le meilleur pour la formation en IA ?
Le B200 offre environ 4 fois la capacité de traitement de formation du H100 sur des modèles transformateurs et constitue le choix pour de nouvelles grandes séries. Le H100 et le H200 entraînent à la même vitesse et demeurent des options solides, économiques, pour des formations plus petites ou sensibles au budget. De nombreuses équipes utilisent une flotte hybride : Blackwell pour l'inférence en production, Hopper pour la formation.
Le B200 nécessite-t-il un refroidissement liquide ?
En pratique, oui. À 1 000 watts par GPU, les racks B200 denses dépassent ce que le refroidissement par air peut gérer, et le GB200 NVL72 à l’échelle de l’armoire à 120 kW ou plus nécessite un refroidissement liquide direct sur puce sans option uniquement à l’air. Les H100 et H200 à 700 watts sont conçus pour fonctionner à l’air dans des racks standard de 20 à 45 kW.
Combien de VRAM ont le H100, le H200 et le B200 ?
Le H100 dispose de 80 GB de HBM3, le H200 possède 141 GB de HBM3e, et le B200 dispose de 192 GB de HBM3e. Pour référence, un modèle de 70B en FP16 nécessite environ 140 GB, il tient donc sur un seul H200 ou B200, mais pas sur un seul H100. Le Blackwell Ultra B300 repousse la capacité jusqu'à 288 GB.
Combien coûtent les H100, H200 et B200 en 2026 ?
Les nouvelles cartes H100 et H200 coûtent environ 25 000 à 40 000 dollars, selon le format et le volume, avec des H100 d'occasion se vendant à un prix inférieur. La B200 coûte environ 30 000 à 40 000 dollars neuve. La location en nuage coûte environ 2 à 3 dollars par heure de GPU pour le H100, un peu plus pour le H200, et environ 5 à 6 dollars en demande pour la B200, avec des tarifs spot proches de 2 dollars.
Devrais-je acheter ou louer ces GPU ?
Louez lorsque votre charge de travail est intermittente, que vous choisissez toujours du matériel, ou que vous avez besoin de Blackwell rapidement, car le stock de B200 est en rupture de stock. Achetez lorsque le taux d'utilisation est suffisamment élevé pour que la possession soit plus rentable que la facturation à l'heure, ce qui pour une carte bien utilisée dure généralement quelques mois. Sur site, tenez compte du refroidissement et de l'alimentation nécessaires à la carte, en particulier pour le B200 refroidi par liquide.
Sources et crédits des images
Spécifications issues des fiches produit NVIDIA H100, H200 et B200 ; chiffres de performance issus des résultats NVIDIA et MLPerf Inference ; prix 2026 selon les tarifs des clouds publics. Photo macro de héros d’un GPU NVIDIA par Fritzchens Fritz (CC0) et photo de cluster GPU par CSIRO (CC BY 3.0), toutes deux via Wikimedia Commons, recadrées et retouchées pour MillionMiner. Diagrammes : graphiques originaux de MillionMiner.
