すべてのHGX B300 NVL8システムには同じNVIDIAの心臓部が搭載されているため、正直な表現方法は共有された複合体を一度だけ記載し、その後にメーカーが実際に決定した内容にページを割くことです。これはASUSの構築であり、その決定はIntelのホストと運用重視のシャーシです。共有された複合体は一度だけ記載します。NVIDIA Blackwell Ultra B300 SXM GPUを8基、各288GBのHBM3eを搭載し、ノード全体で2,304GBをプールします。これはこのカタログで最大のシングルノードメモリ容量です。第5世代のNVLinkは、完全メッシュのNVSwitchを介して各GPUを1.8 TB/sで接続します。NVIDIAはこの世代の高密度FP4を1.5倍の性能と評価しており、これは回答前に推論するモデルのサービング経済性を意図しています。チェーン・オブ・ソートのトレースや長いコンテキストがKVキャッシュを増幅し、メモリ容量がバッチサイズとマージンを決定します。2.3TBのノードはフロンティアの重みとこれらのキャッシュを一緒に保持します。マザーボードには独自のネットワーキングも搭載されており、8つのConnectX-8 InfiniBandポート（各GPUに1つ）が800Gで動作します。これは前世代の2倍の速度であり、そのためこのクラスのシステムではもう何十ものPCIeスロットがアダプタで埋まる必要がなくなりました。ファブリックトポロジーのGPUDirect RDMAは工場出荷時に組み込まれています。
Intelホストケース。この構築はIntel Xeon 6700Pシリーズのデュアルプロセッサを基準にしています。Xeon 6のパフォーマンスコアプラットフォームは、1ソケットあたり86コアに達し、350Wです。2つの点がこのIntelの選択を実質的なものにしています。第一に、AMX、Xeon 6 Pコア全体に存在するマトリクス拡張は、8GPUノードが生成するホスト側の作業を加速します：トークナイゼーション、前処理、埋め込み作業、そしてCPU上にある推論ステージの混合パイプラインです。第二に、現場の現実：Intelを標準とした組織は、Xeon最適化されたツール、コアごとのライセンスポジション、検証済みのイメージ、および運用プレイブックを持ち、そのためIntel B300ノードは認証された並列プラットフォームなしに導入できるものです。各プロセッサには8つのDDR5メモリチャネルがあり、このプラットフォーム世代では高帯域幅MRDIMMモジュールもサポートしています。これにより、ホストのメモリシステムはGPU複合体とバランスが取れるように設計されています。実際のメモリとストレージの構成は見積もりに明記されています。
ASUSのエンジニアリングケース。このシャーシはモジュラー式で、内部配線は最小限に抑えられています。このパワークラスでは、そのフレーズは実質的な意味を持ちます。ケーブルは、数キロワットの熱を移動させる機械の空気流を妨げます。すべてのコネクタは、長時間持続運用が期待されるノードの故障点です。サービス時間は生産時間でもあります：8つのBlackwell Ultra GPUがアイドリングし、ファン交換を待っている間にです。ASUSのモジュラー組立はこれらの問題を減少させ、これはベンチマークに現れないメリットであり、運用ログには常に記録され続けます。電力は80 PLUS Titaniumの5+5冗長構成で、変換損失がこの規模では誤差にならない効率レベルです。
Blackwell Ultra兄弟の選択。このカタログにはHGX B300 NVL8システムが2台含まれており、そのGPU性能は構造上全く同じです。SupermicroのAS-8126GS-NB3RTは、最大192コアを持つAMD EPYC 9005ホストと最大6TBのDDR5を搭載し、AMD標準のフリートやコア密度重視の前処理に最適です。このASUS構築は、AMXとIntelのエステートの利点を持つIntel Xeon 6ホストを搭載し、サービス性を考慮したシャーシに収められています。MillionMinerは両者を比較し、既存のインフラストラクチャへの推奨を行います。好みではありません。
ランクに対する決定。1.4TB/ノード内で作業するチームは通常、Gigabyte HGX B200の方が適しており、Hopperの範囲内のチームはLenovoまたはASUS H200システムを選びます。B300は、KVキャッシュ、フロンティアモデルのサイズ、または800Gファブリックの標準化により経済性が決定される場合に価値があります。上位にはGB200およびGB300ラックスケールシステムがあり、その72-GPU NVLinkドメインと液冷設備の約束があり、実際に8GPUを超える並列性のある例外的なケースに対応します。
Blackwellクラスのアクセラレータは米国の輸出規制の対象であり、MillionMinerはすべての見積もりの一部として出荷先の適格性を確認します。各システムは受注生産され、テストされ、関税と通関手続きを含めて全世界にDDP出荷されます。展開計画やホスティングは、MillionMinerの独自のデータセンターにて、現場でラック電源を調達したくないチーム向けにも提供されています。
