GPU & AIサーバーのベンチマーク

AIを比較する
GPUパフォーマンス概要

現在のGPUのAI推論速度、VRAM、トレーニングスループットを一目で比較できる表です。ワークステーションカードからデータセンターのBlackwellハードウェアまで。参考数字を掲載し、作業負荷に適したGPU選びに役立ててください。

AIハードウェアの販売 ↗︎ 私たちのチームにご相談ください ↗︎

403

トップインデックス

288 GB

最大 VRAM

カード比較

GPU比較

AIサーバ

=100

RTX 3090 にインデックス化された

4–288 GB

VRAM範囲

2つ選んでください

直接対決を比較

在庫あり

私たちが販売しているものと関連しています

*リーダーボード (01)

The トップ3, ランク付けされた

業界最高のAI推論指数。以下のすべての数値はRTX 3090を100として比較されています。

2 銀

RTX Pro 5000 Blackwell

48 GB VRAM · Flagship

285インデックス

High-throughput production inference

1 Gold

RTX Pro 6000 Blackwell

96 GB VRAM · Flagship

403インデックス

Largest LLMs without quantization, multi-tenant serving

ショップで見る ↗︎

3 ブロンズ

RTX 4090 Pro

48 GB VRAM · High-end

238インデックス

Best price-to-performance for serious inference

ショップで見る ↗︎

全てのフィールド

すべて :GPUの数、1つの表

VRAMでフィルターし、任意の列で並べ替え、任意の2つの行の+をタップすると、それらが直接下のヘッド・ツー・ヘッドアリーナに送られます。

A vs B 最初の選択はAになり、2番目はBとなります — 彼らはその後、直接対決します。比較にジャンプ ↓

GPU ↕	VRAM ↕	AIインデックス ▼	FP16 TFLOPS ↕	トレーニング ↕	最適な用途
RTX Pro 6000 Blackwell ショップ内 Flagship	96 GB	403	—	—	Largest LLMs without quantization, multi-tenant serving
RTX Pro 5000 Blackwell Flagship	48 GB	285	—	—	High-throughput production inference
RTX 4090 Pro ショップ内 High-end	48 GB	238	—	—	Best price-to-performance for serious inference
RTX 5090 ショップ内 High-end	32 GB	207	419.1	—	Fastest single-GPU inference & image generation
A100 40GB ショップ内 High-end	40 GB	152	312.0	1,396 img/s	Proven data-center training workhorse
RTX Pro 4500 Blackwell ショップ内 Mid	32 GB	146	—	—	Balanced training + inference workstation
RTX 4080 Super Pro Mid	32 GB	139	—	—	Mid-range inference & light fine-tuning
RTX 4090 ショップ内 Mid	24 GB	133	165.2	1,301 img/s	Best all-round price-to-performance card
RTX 3090 ショップ内 Mid	24 GB	100	35.6	905 img/s	Budget-friendly entry into serious AI work
V100 32GB Entry	32 GB	84	125.0	—	Legacy data-center training
RTX Pro 4000 Blackwell ショップ内 Entry	24 GB	83	—	—	Compact workstation inference
V100 16GB Entry	16 GB	62	125.0	833 img/s	Light training / dev environments
RTX 4070 Ti Super Mid	16 GB	56	—	—	Hobbyist projects & prototyping
RTX A4000 Entry	16 GB	51	19.2	—	Entry-level dev work, small models
RTX Pro 6000 Blackwell Max-Q ショップ内 Flagship	96 GB	—	—	—	Power-efficient Max-Q variant for dense workstation builds
RTX Pro 6000 Blackwell Workstation ショップ内 Flagship	96 GB	—	—	—	Boxed workstation edition, same silicon as Server Edition
B200 SXM Flagship	180 GB	—	2,250.0	—	Largest-scale multi-GPU training clusters
B100 SXM ショップ内 Flagship	192 GB	—	1,750.0	—	Massive-context LLM training & serving
Instinct MI350X Flagship	288 GB	—	2,306.9	—	Massive VRAM pool for huge models, AMD ROCm stacks
Instinct MI325X Flagship	256 GB	—	1,307.4	—	Large-model inference with huge memory headroom
H200 SXM ショップ内 Flagship	141 GB	—	989.5	—	High-bandwidth-memory LLM serving at scale
H200 NVL ショップ内 Flagship	141 GB	—	989.5	—	PCIe/NVLink-bridge alternative to SXM for air-cooled racks
Gaudi 3 Flagship	128 GB	—	1,835.0	—	Intel-based large-scale training alternative
Instinct MI300X Flagship	192 GB	—	1,307.4	—	Single-GPU serving of very large open-weight models
H100 SXM5 ショップ内 Flagship	80 GB	—	989.5	—	Industry-standard large-model training & inference
RTX 6000 Ada Flagship	48 GB	—	—	—	Top-tier workstation for training & rendering
RTX 5090 Blower ショップ内 High-end	32 GB	—	419.1	—	Blower-style RTX 5090 for dense multi-GPU builds
RTX 5090D V2 (China) ショップ内 High-end	24 GB	—	—	—	China-compliant RTX 5090 variant, cost-efficient rigs
H100 NVL ショップ内 High-end	94 GB	—	835.5	—	Dual-GPU NVLink inference for very large models
H100 PCIe High-end	80 GB	—	756.5	—	PCIe-server LLM training & inference
H800 ショップ内 High-end	80 GB	—	756.5	—	China-compliant H100 equivalent, reduced NVLink bandwidth
A800 80GB ショップ内 High-end	80 GB	—	312.0	—	Export-compliant A100 alternative for restricted regions
A100 80GB ショップ内 High-end	80 GB	—	312.0	—	Proven large-batch training workhorse
A800 40GB ショップ内 High-end	40 GB	—	312.0	—	China-compliant A100 equivalent for large-scale training
L40S ショップ内 High-end	48 GB	—	733.0	—	Mixed training + inference + rendering server card
RTX 5000 Ada ショップ内 High-end	32 GB	—	—	—	High-end workstation training & inference
Instinct MI250X High-end	128 GB	—	383.0	—	Large-memory AMD training clusters
RTX 4070 Ti Mid	12 GB	—	40.1	—	Strong price-to-performance for local inference
L4 Mid	24 GB	—	242.0	—	Low-power inference & video AI at scale
L40 ショップ内 Mid	48 GB	—	181.1	—	Graphics + AI mixed workloads on one card
Instinct MI210 ショップ内 Mid	64 GB	—	181.0	—	PCIe AMD training/inference card
Instinct MI100 Mid	32 GB	—	184.6	—	Earlier-gen AMD CDNA training/inference card
L20 ショップ内 Mid	48 GB	—	119.5	—	Efficient server inference with large VRAM
Radeon RX 7900 XTX Mid	24 GB	—	122.8	—	AMD consumer flagship for local inference
RTX 4080 Super Mid	16 GB	—	104.4	—	Strong mid-range inference & gaming/AI hybrid use
Radeon RX 7900 XT Mid	20 GB	—	103.2	—	AMD mid-high consumer inference card
RTX 4080 Mid	16 GB	—	97.5	—	Solid mid-range inference workstation card
Quadro RTX 8000 ショップ内 Mid	48 GB	—	32.6	—	Large-VRAM legacy workstation for bigger models
A40 Mid	48 GB	—	149.7	—	Large-VRAM data-center inference card
A30 ショップ内 Mid	24 GB	—	165.0	—	Efficient shared-server inference
A10 ショップ内 Mid	24 GB	—	125.0	—	Cost-efficient cloud inference card
RTX 4500 Ada ショップ内 Mid	24 GB	—	39.6	—	Workstation training with large VRAM headroom
RTX A6000 Mid	48 GB	—	38.7	—	Large-VRAM workstation for bigger models
RTX 3090 Ti Mid	24 GB	—	40.0	—	High-VRAM consumer card for local models
RTX 3080 Ti Mid	12 GB	—	34.1	—	Strong mid-range gaming/AI hybrid card
Arc A770 Mid	16 GB	—	39.4	—	Budget Intel card for OpenVINO/local inference
T4 Entry	16 GB	—	65.0	—	Very low-power cloud inference card
RTX A5000 Entry	24 GB	—	27.8	—	Reliable mid-VRAM workstation card
RTX A4500 ショップ内 Entry	20 GB	—	23.6	—	Small-batch workstation training
RTX 4000 Ada ショップ内 Entry	20 GB	—	26.7	—	Compact single-slot workstation inference
RTX 4000 SFF Ada ショップ内 Entry	20 GB	—	38.4	—	Small-form-factor workstation inference
RTX 3080 Entry	10 GB	—	29.8	—	Affordable gaming/AI hybrid card
RTX 2000 Ada ショップ内 Entry	16 GB	—	24.0	—	Low-power small-form-factor inference
Quadro RTX 5000 ショップ内 Entry	16 GB	—	22.3	—	Legacy Turing workstation card, small models
Intel Flex 170 ショップ内 Entry	16 GB	—	138.0	—	Media/video-AI inference card
RTX 3070 Entry	8 GB	—	20.3	—	Cheapest realistic entry point for small models
RTX 4060 Ti 16GB Entry	16 GB	—	22.1	—	Budget 16GB card for local LLM experiments
RTX A2000 ショップ内 Entry	12 GB	—	8.0	—	Ultra-low-power dev / edge inference
RTX 4070 Entry	12 GB	—	29.1	—	Affordable current-gen dev/inference card
Radeon RX 7800 XT Entry	16 GB	—	74.4	—	AMD mid-tier card with generous VRAM
Tesla P100 ショップ内 Entry	16 GB	—	18.7	—	Legacy Pascal data-center training card
RTX 4060 Entry	8 GB	—	15.1	—	Cheapest current-gen entry inference card
Instinct MI50 Entry	32 GB	—	26.8	—	Cheap secondhand AMD VRAM for local inference
Radeon RX 7600 Entry	8 GB	—	43.5	—	Budget AMD card for light local inference
T1000 ショップ内 Entry	8 GB	—	—	—	Ultra-low-power display/dev card, not AI-focused
Quadro P2200 ショップ内 Entry	5 GB	—	—	—	Legacy budget workstation card, minimal AI use
T400 ショップ内 Entry	4 GB	—	2.2	—	Display-output card, not suitable for real AI workloads
Quadro P1000 ショップ内 Entry	4 GB	—	—	—	Ultra-budget entry GPU, not recommended for AI workloads

表示 78 von 78 Karten

マルチGPUシステム

AIサーバー — 総合システム計算能力

マルチGPUサーバーは単一のカードのように評価されません。重要なのは、その中にあるすべてのGPUの総合的な計算能力です。以下のTotal Computeは、上記の表から一致したカード当たりのFP16 TFLOPSの数値を取り、それをGPUの数に掛け合わせたもので、サーバーは同じベンチマークスケール上にとどまります。 48 現在当社のAIハードウェアカタログに掲載されているシステム数 — 任意の名前をタップして完全な仕様と価格を確認してください。

サーバー	GPUの設定	合計VRAM	合計コンピューティング能力（FP16 TFLOPS）	価格
NVIDIA DGX B200 DGX / Desktop	8x Blackwell GPUs, 1,440GB	1,440 GB	18,000.0	$515,000
Gigabyte G893-SD1-AAX5 Rack Server	8x B200 SXM (HGX B200)	1,440 GB	18,000.0	見積もりを依頼
Gigabyte G893-ZD1-AAX5 Rack Server	8x B200 SXM (HGX B200)	1,440 GB	18,000.0	見積もりを依頼
HGX B200 8-GPU Baseboard Baseboard	8x B200, 1,536GB HBM3e	1,536 GB	18,000.0	見積もりを依頼
NVIDIA DGX H100 DGX / Desktop	8x H100 SXM5, 640GB	640 GB	7,916.0	$6,700
NVIDIA DGX H200 DGX / Desktop	8x H200 SXM5, 1,128GB	1,128 GB	7,916.0	見積もりを依頼
ASRock Rack 6U8X-EGS2 Rack Server	8x H200 SXM	1,128 GB	7,916.0	$2,500
ASUS ESC N8-E11 Rack Server	8x H200 SXM (HGX)	1,128 GB	7,916.0	$2,600
Dell PowerEdge XE9680 Rack Server	8x H100 SXM	640 GB	7,916.0	$22,000
Gigabyte G593-SD2-AAX1 Rack Server	8x H100 SXM, 640GB	640 GB	7,916.0	$5,600
Gigabyte G593-ZD2 (H100 Barebone) Rack Server	8x H100 SXM5 (barebone)	640 GB	7,916.0	$45,000
Gigabyte G593-ZD2 (H200 Barebone) Rack Server	8x H200 SXM5 (barebone)	1,128 GB	7,916.0	見積もりを依頼
Lenovo ThinkSystem SR675 V3 Rack Server	8x H100 SXM	640 GB	7,916.0	$300,000
Lenovo HGX H200 8-GPU Server Rack Server	8x H200 SXM, 141GB each	1,128 GB	7,916.0	見積もりを依頼
Quanta S7PH H100 Rack Server	8x H100 SXM	640 GB	7,916.0	$280,000
Quanta S7PH H200 (Barebone) Rack Server	8x H200 SXM (barebone)	1,128 GB	7,916.0	$20,000
HGX H100 Baseboard (Liquid) Baseboard	8x H100 SXM5, 640GB, liquid-cooled	640 GB	7,916.0	$3,400
HGX H100 8-GPU Baseboard Baseboard	8x H100 SXM5, 640GB	640 GB	7,916.0	$3,400
HGX H200 8-GPU Baseboard (Air) Baseboard	8x H200 SXM, 1,128GB, air-cooled	1,128 GB	7,916.0	見積もりを依頼
HGX H200 8-GPU Baseboard (Liquid) Baseboard	8x H200 SXM, 1,128GB, liquid-cooled	1,128 GB	7,916.0	見積もりを依頼
NVIDIA DGX H800 DGX / Desktop	8x H800 SXM5, 640GB	640 GB	6,052.0	見積もりを依頼
Supermicro HGX H800 SYS-821GE Rack Server	8x H800 SXM	640 GB	6,052.0	$5,499
HGX H200 4-GPU Baseboard Baseboard	4x H200 SXM, 564GB	564 GB	3,958.0	$180,000
Lenovo HGX H200 4-GPU Board Baseboard	4x H200 SXM, liquid-cooled	564 GB	3,958.0	$7,800
Supermicro SYS-741GE-TNRT Compact	4x H100 PCIe	320 GB	3,026.0	$5,999
NVIDIA DGX A100 DGX / Desktop	8x A100 SXM4, 640GB	640 GB	2,496.0	見積もりを依頼
Exeton Quasar 640X Rack Server	8x A100 SXM, 640GB NVLink	640 GB	2,496.0	見積もりを依頼
Gigabyte G492-ZD0 (Used) Rack Server	8x A100 SXM	640 GB	2,496.0	見積もりを依頼
Supermicro AS-4124GO-NART+ Rack Server	8x A100 HGX	640 GB	2,496.0	$13,000
HGX A100 8-GPU Baseboard (640GB) Baseboard	8x A100 SXM4, 640GB	640 GB	2,496.0	$5,600
HGX A100 8-GPU Baseboard (320GB) Baseboard	8x A100 SXM4 40GB, 320GB total	320 GB	2,496.0	見積もりを依頼
NVIDIA DGX Station A100 DGX / Desktop	4x A100, 160GB	160 GB	1,248.0	$85,000
RTX 5090 Full System Compact	Pre-built RTX 5090 AI workstation	32 GB	419.1	$6,000
ASUS Ascent GX10 DGX / Desktop	GB10 Grace Blackwell Superchip	128 GB	—	見積もりを依頼
ASUS ESC8000A-E12P Rack Server	Dual EPYC 9004, up to 8x GPU	—	—	見積もりを依頼
ASUS XA NB3I-E12 Rack Server	8x B300 NVL (HGX B300 NVL8)	—	—	$7,999
Gigabyte H263-S67 (2U 4-Node) Compact	2U 4-node high-density chassis	—	—	$18,000
NVIDIA DGX Spark DGX / Desktop	GB10 Grace Blackwell Superchip	128 GB	—	見積もりを依頼
NVIDIA Jetson AGX Orin Dev Kit Edge	Edge AI module, 64GB	64 GB	—	見積もりを依頼
QuantaGrid D74H-7U Rack Server	8-GPU chassis (barebone)	—	—	見積もりを依頼
Supermicro AS-8125GS-TNHR (Refurb) Rack Server	8-GPU server (refurbished)	—	—	見積もりを依頼
Supermicro AS-8126GS-NB3RT Rack Server	8x B300 NVL (HGX B300 NVL8)	—	—	$450,000
Supermicro GH200 SuperServer DGX / Desktop	NVIDIA GH200 Grace Hopper Superchip (used)	—	—	見積もりを依頼
Supermicro SYS-111C-NR-G1 Compact	1U GPU-ready server	—	—	$5,600
Supermicro SYS-212H-TN-G1 Compact	2U GPU-ready server	—	—	見積もりを依頼
Supermicro SYS-511E-WR-G1 Compact	1U GPU-ready server	—	—	$3,500
Supermicro SYS-521C-NR-G1 Compact	2U GPU-ready server	—	—	$4,500
Supermicro SYS-522GA-NRT Compact	RTX PRO 6000 / L40S multi-GPU	—	—	見積もりを依頼

対決

任意の2枚のカードをリングに置いてください

すでにお気に入りのGPUをいくつか見つけましたか？任意の二つを選び、VRAM、推論インデックス、FP16計算、トレーニングスループットで対決させてください。それぞれの勝者とその理由についてわかりやすい判断をします。

ファイターA

RTX Pro 6000 Blackwell

Flagship

403推論指標

ショップで見る ↗︎

戦闘機 B

RTX 3090

Mid

100推論指標

ショップで見る ↗︎

96 GB VRAM 24 GB

403 AI推論指数 100

— （FP16 TFLOPS） 35.6

— トレーニングスループット 905 img/s

判断結果勝者が AI推論でについて 4.0× にて敗者をリードしています。また、より多くのVRAM (96 GB vs 24 GB)を搭載しているため、より大きなモデルに適しています。

RTX 3090に対して指数化されたデータ = 100 · 「—」は、その正確なカードの公開されたベンチマークがないことを意味します

方法論

これらの数字の意味

公開されたベンチマークを収集してください

私たちは公開されているGPUクラウドのベンチマークデータから始めます — 誰もが確認できる検証可能な数値であり、内部の推測ではありません。

3つの実負荷をスコアリングしてください

すべてのカードは、LLM推論、画像生成、ビジョンを問わず測定されます—AIハードウェアが実際に一日中行っている作業です。

LLM推論

人気のオープンウェイトモデルにおけるトークン生成速度、軽量な8Bアシスタントから70B超のヘビーユーザーまで。

画像生成

拡散モデルのスループットとレイテンシー、高速ターボパイプラインからの生産品質レンダリングまで、すべてを網羅します。

ビジョンとOCR

現実的な同時負荷下におけるマルチモーダル画像理解とドキュメントOCRのスループット

すべてをRTX 3090=100にインデックス化してください

すべてのスコアは100点満点のスケールで評価されており、RTX 3090を基準としています — そのため、二つのカードを一目で比較できます。

トレーニングスループット

独立して公開されたシングルGPUの数値（画像/sec）、該当するカードのベンチマークが存在する場合に表示します。

参照データは参考のみです — 実際の結果はソフトウェアスタック、ドライバ、バッチサイズ、作業負荷によって異なります。性能保証を意味するものではありません。

これらの用語は初めてですか？ AI GPUの選び方に関する平易なガイドをお読みください

チームへの直接連絡先

ハードウェアが見つかりませんか？お気軽にお尋ねください。

特定のGPU、完全なサーバー構築、またはこのページの数字に関する質問がある場合でも、お気軽にご連絡ください。通常、2時間以内にエンジニアがお返事いたします。

✓ 78 GPUs と48サーバーが掲載されています — さらに数百台を調達可能です
✓ 世界中で無料のDDP配送、暗号通貨対応
✓ B2Bおよび大量購入の料金はお問い合わせください
✓ 義務なし — 質問です、コミットメントではありません

名前 / 会社 *

WhatsApp / 電話

メール

何をお探しですか。

お問い合わせには、お名前とWhatsApp番号またはメールアドレスをご記入ください。

ありがとうございます — ご依頼を承りました。私たちのチームは2時間以内に返信いたします。

私たちはお客様のデータを共有しません。回答は通常2時間以内に、24時間年中無休で行います。

適切なカードを選択してください

どのGPUがあなたの作業負荷に適していますか

GPUのティアと実際に稼働させる計画に合わせた大まかなガイド

フラッグシップ

絶対的なトップレベル—一度に何千人ものユーザーにAIを提供する企業向けに構築されています。

相対的パフォーマンス

70B＋モデル、量子化なし
マルチテナント製品提供
大規模バッチ微調整

一般的なカードRTX Pro 6000 · H200 · B200

ハイエンド

要求の厳しいチームと重い日々の作業負荷に対する本格的な生産能力。

相対的パフォーマンス

30B–70B 推論
リアルタイム画像生成
小規模トレーニング

一般的なカードRTX 5090 · H100 · A100

中・上級

ちょうど良いポイント — 小規模なチームが正当化できる価格での安定した性能。

相対的パフォーマンス

8B–30Bモデル推論
最高の価格対性能
ソロ開発者の作業負荷

一般的なカードRTX 4090 · RTX 3090 · L40S

エントリー

お手頃な方法で参入—学習し、プロトタイプを作成し、より小さなモデルをローカルで実行します。

相対的パフォーマンス

試作と学習
小型モデルの微調整
軽量開発環境

一般的なカードRTX A4000 · RTX 4060 Ti · T4

よくある質問

AI推論指数とは何を意味しますか？

これは、GPUがLLM推論、画像生成、ビジョンタスクを総合的にどの程度性能を発揮しているかを示す相対的な数値で、RTX 3090を常に100としたスケールです。スコアが200の場合、RTX 3090のおおよそ2倍の総合スループットを意味します。

最も高いAI推論インデックスを持つGPUはどれですか。

RTX Pro 6000 Blackwellは現在、AI推論インデックス403で私たちのランキングをリードしています — RTX 3090のベースラインの推論スループットの約4倍に相当します — また、量子化なしで最大のLLMに対応する96 GBのVRAMを搭載しています。

AI推論に最適なコストパフォーマンスのGPUは何ですか？

RTX 5090（AI Inference Index 207、32 GB）とRTX 4090（Index 133、24 GB）は、シングルGPUによる推論と画像生成において最もコストパフォーマンスが高いです。RTX 4090 Proモデルは、より大きなモデル向けに48 GBのVRAMを追加しながら、消費者向けの価値を維持しています。

大規模言語モデルの実行に最適なGPUは何ですか？

量子化されていない最大のLLMを提供する場合、RTX Pro 6000 Blackwell（96 GB）、H200（141 GB）、およびInstinct MI300X（192 GB）のようなフラッグシップのデータセンターカードは、モデル全体を常駐させるためのメモリ余裕を提供します。8Bから30Bのモデルには、RTX 5090またはRTX 4090の単一カードで、優れたスループットをコストのごく一部で実現できます。

こちらのハードウェアは、MillionMinerからご購入いただけますか？

はい — 最新世代のNVIDIA GPUと完全なAIサーバーは、当社のAIハードウェアカタログからご利用いただけます。世界中へのDDP配送とB2B価格はお問い合わせください。

なぜRTX 3090が基準ラインなのですか？

それは最も広く展開されているAI対応GPUの一つであり、新旧のハードウェアを比較するための実用的で理解しやすい基準点となっています。

より多くのVRAMが常により良いパフォーマンスを意味するわけではありません。

いいえ。VRAMは、どのモデルサイズとバッチサイズが適合するかを決定しますが、速度自体を決定するものではありません。VRAMが少ないカードでも、アーキテクチャとメモリ帯域幅が優れていれば、より高い推論インデックスを示すことがあります。

最も大量のVRAMを搭載したGPUは、NVIDIAのA100 80GBまたはH100 80GBモデルです。

AMD Instinct MI350Xは288 GBでトップを飾り、次いでMI325Xが256 GBです。NVIDIAのカードでは、B100 SXMが192 GB、H200が141 GBのハイバンド幅メモリを搭載しています。より多くのVRAMにより、より大きなモデルやバッチを複数のGPUに分割することなくロードできます。

AI推論インデックスとFP16 TFLOPSの違いは何ですか

FP16 TFLOPSは、メーカーが公表した理論上のピーク演算性能の数値であり、ハードウェアの最大値を示しています。AI推論指数は、LLM、画像、ビジョンタスクにおける公開されたベンチマークから構築された、ワークロードに基づく測定スコアです。カードは理論上のTFLOPSが高くても、メモリ帯域幅やソフトウェアのサポートが制約となる場合、実際の指数は低くなることがあります。

NVIDIA H100とH200の比較についての情報は、私の知識の範囲（2023年10月まで）では公開されていません。それ以降の最新モデルや仕様については、NVIDIAの公式発表や信頼できる技術情報源をご参照されることをお勧めします。

両者ともHopperアーキテクチャのデータセンターGPUで、989.5 FP16 TFLOPSの性能を誇ります。違いはメモリにあり、H200はより高速なHBM3eを141 GB搭載しているのに対し、H100は80 GBです。そのため、より大きなモデルや長いコンテキストウィンドウを高い持続的スループットで処理できます。ほとんどの新しいLLMサービング展開には、H200の方が優れた選択です。

はい、2つの特定のGPUを直接比較することが可能です。

はい。このページの比較アリーナを使用して、当社がリストアップした78台のGPUの中から2台を選び、AI推論インデックス、VRAM、FP16 TFLOPS、トレーニングスループットを並べて比較し、各指標の勝者をハイライトしてください。

AIモデルのトレーニングに必要なGPUは、用途や予算によって異なりますが、一般的には以下のようなGPUがおすすめです。 NVIDIAのGPUは深層学習の分野で広く使用されており、特にCUDA対応のGPUが最適です。 - NVIDIA RTX A6000：大規模なモデルやデータセットのトレーニングに最適。メモリ容量が高く、高性能な計算能力を持ちます。 - NVIDIA RTX 4090 / 4080：高性能でコストパフォーマンスも良く、個人や中小規模の研究に適しています。 - NVIDIA Teslaシリーズ（例えばTesla V100やA100）：最先端の研究や大規模な産業用途に適しています。それ以外にも、GPUのメモリ容量と演算性能（FP32やFP16の性能など）を確認し、トレーニングするモデルの規模に応じて選択してください。

トレーニングは推論よりもはるかにメモリと計算資源を大量に消費するため、H100、H200、B200、または Instinct MI300X クラスの大容量VRAMと高いFP16 TFLOPSを持つフラッグシップカードが有利です。私たちのトレーニングスループットの列は、公開されているベンチマークが存在する場合、単一GPUによる画像処理速度（秒あたりの画像数）を示しています。例えば、A100 40GBでは1,396 img/sに対し、RTX 3090では905 img/sです。

完全なマルチGPU AIサーバーも販売していますか。

はい。78台の個別GPUに加え、H100、H200、Blackwellアクセラレータを搭載したHGXおよびDGXクラスのシステムを含む、48台の完全なマルチGPU AIサーバーを掲載しています。大規模トレーニングや生産推論に対応可能です。構成やB2B価格についてはお問い合わせください。

ベンチマークにはAMDおよびIntelのGPUも含まれていますか、それともNVIDIAのみですか。

すべて網羅されています。NVIDIAの全ラインアップに加え、AMD Instinctアクセラレーター（MI350X、MI325X、MI300X、MI250X）とRadeonカード、さらにIntel Gaudi 3とArcを含んでいますので、1つの一貫した指数でベンダー間を比較できるようになっています。

これらのベンチマーク数値の正確性はどの程度ですか？

すべての数字は、公開されているベンチマークおよびメーカーのデータから抽出され、一貫した指標にまとめられています。実際の結果は、ソフトウェアスタック、ドライバー、バッチサイズ、およびワークロードによって異なるため、これらの数字は性能の保証ではなく比較の目安としてご参考ください。

このデータはどの頻度で更新されますか。

新しいGPU世代の発売や、さらに多くのベンチマークデータが利用可能になるにつれて、私たちは数字を見直し、更新します。

まだ比較中ですか？

直接お問い合わせください

上記のお問い合わせフォームからご質問を送信するか、WhatsAppでメッセージを送ってください。数分以内にご回答いたします。

お問い合わせフォームへ ↗︎ WhatsApp ↗︎