Beli GPU untuk Dijual: NVIDIA RTX 5090, A100, H100 dan RTX PRO 6000

Keduanya menggunakan die GPU Hopper GH100 yang sama dan memberikan FLOPS komputasi yang identik (~3,9 PFLOPS FP8 sparse). H200 menggantikan HBM2e dengan memori HBM3e: kapasitas meningkat dari 80 GB menjadi 141 GB dan bandwidth meningkat dari 3,35 TB/dtk menjadi 4,8 TB/dtk. Oleh karena itu, H200 lebih unggul untuk beban kerja yang berat dalam inferensi di mana model besar harus muat dalam satu GPU dan throughput tinggi diperlukan.

Untuk beban kerja inferensi ya — kapasitas 96 GB ECC GDDR7-nya melebihi H100 PCIe yang sebesar 80 GB dan cocok di slot workstation PCIe standar mana pun. Untuk pelatihan, faktor bentuk H100/H200 SXM dengan NVSwitch menawarkan bandwidth antar-GPU yang jauh lebih tinggi dan FLOPS mentah yang lebih besar dengan TDP yang sama. RTX PRO 6000 adalah pilihan yang lebih baik ketika Anda membutuhkan kapasitas VRAM tinggi secara lokal tanpa infrastruktur NVSwitch.

GPU SXM (H100 SXM5, H200 SXM5) dipasang pada papan dasar khusus alih-alih slot PCIe dan terhubung satu sama lain melalui fabric NVSwitch, memungkinkan bandwidth antar-GPU sebesar 900 GB/s per GPU. Varian PCIe cocok untuk server dan workstation standar tetapi terbatas pada NVLink Bridge (2 GPU) atau bandwidth PCIe (x16, sekitar 64 GB/s) untuk komunikasi multi-GPU. Untuk klaster dengan 8+ GPU yang membutuhkan komunikasi all-to-all, sistem SXM NVSwitch adalah mutlak.

Pada presisi FP16 (16-bit) sebuah model 70B membutuhkan sekitar 140 GB VRAM — satu H200 (141 GB) mampu menangani ini dengan margin. Pada kuantisasi INT8, diperlukan sekitar 70 GB. Pada INT4 (GGUF Q4), sekitar 35–40 GB, cocok dengan H100 80 GB atau sepasang RTX 4090. RTX PRO 6000 Blackwell (96 GB) mampu menjalankan model INT8 70B pada satu GPU dengan ruang untuk cache KV.

RTX 5090 sangat cocok untuk inferensi AI lokal, pembuatan gambar (Stable Diffusion, Flux, DALL-E 3 replika), sintesis video, dan penyesuaian model kecil hingga sedang. Memori 32 GB GDDR7-nya cukup untuk menjalankan model 13B dalam FP16 dan model 70B dalam INT4. Untuk klaster pelatihan multi-GPU, GPU data centre tetap lebih disukai karena bandwidth NVLink dan kapasitas memori yang lebih besar.

NVIDIA A100 (Arsitektur Ampere, 2020) tetap menjadi GPU AI yang mampu dan banyak digunakan. Dikirim dalam konfigurasi HBM2e 40 GB dan 80 GB, menawarkan performa Tensor Core FP16 sebesar 312 TFLOPS. Dengan pasokan yang lebih longgar dibandingkan H100, harga A100 menjadi lebih terjangkau. Untuk inferensi dan beban kerja pelatihan sedang, tetap kuat. Untuk riset mutakhir atau model terbesar, H100/H200 sekarang lebih disukai.

Ya. MillionMiner melayani pelanggan dari bidang perusahaan, riset, dan infrastruktur cloud dengan pesanan GPU dalam jumlah besar. Hubungi tim penjualan kami untuk harga pembelian H100, H200, A100, dan RTX PRO 6000 dengan jumlah banyak. Kami dapat mengatur logistik pengiriman, penataan, dan penagihan dalam berbagai mata uang termasuk crypto.

Tim kami tersedia 24/7 melalui WhatsApp (+49 176 777 888 33), email, dan telepon. Kami membantu dalam pemilihan GPU untuk beban kerja pelatihan vs inferensi, desain klaster multi-GPU, dan pengadaan B2B. Hubungi kami atau kunjungi FAQ kami untuk jawaban instan.