GPU's te koop: NVIDIA RTX 5090, A100, H100 en RTX PRO 6000

Beide maken gebruik van dezelfde GH100 Hopper GPU-lichaam en leveren identieke reken FLOPS (~3,9 PFLOPS FP8 sparse). De H200 vervangt HBM2e door HBM3e geheugen: de capaciteit neemt toe van 80 GB tot 141 GB en de bandbreedte groeit van 3,35 TB/s tot 4,8 TB/s. De H200 is daarom beter geschikt voor inference-zware workloads waar grote modellen op een enkele GPU moeten passen en een hoge doorvoer vereist is.

Voor inference workloads ja — de 96 GB ECC GDDR7- capaciteit overschrijdt die van een H100 PCIe met 80 GB en past in elk standaard PCIe werkstationslot. Voor training biedt de H100/H200 SXM-formaat met NVSwitch een aanzienlijk hogere inter-GPU-bandbreedte en meer ruwe FLOPS bij dezelfde TDP. De RTX PRO 6000 is de betere keuze wanneer u lokale hoge VRAM-capaciteit nodig heeft zonder NVSwitch-infrastructuur.

SXM GPU's (H100 SXM5, H200 SXM5) worden op een gespecialiseerde onderplaat gemonteerd in plaats van een PCIe-slot en onderling verbonden via NVSwitch-bekabeling, waardoor een inter-GPU bandbreedte van 900 GB/s per GPU mogelijk is. PCIe-varianten passen in standaard servers en werkstations, maar zijn beperkt tot NVLink Bridge (2 GPU's) of PCIe-bandbreedte (x16, ~64 GB/s) voor multi-GPU communicatie. Voor clusters van 8+ GPU's die all-to-all communicatie vereisen, zijn SXM NVSwitch systemen verplicht.

Bij FP16 (16-bit) precisie vereist een 70B-model ongeveer 140 GB VRAM — een enkele H200 (141 GB) handelt dit net aan. Bij INT8-kwantisatie is ongeveer 70 GB nodig. Bij INT4 (GGUF Q4), ongeveer 35–40 GB, passend binnen een H100 80 GB of een paar RTX 4090s. De RTX PRO 6000 Blackwell (96 GB) verwerkt INT8 70B-modellen op een enkele GPU met ruimte voor KV-cache.

De RTX 5090 is uitstekend voor lokale AI-inferentie, beeldgeneratie (Stable Diffusion, Flux, DALL-E 3-replicaties), videosynthese en het fijn afstemmen van kleine tot middelgrote modellen. De 32 GB GDDR7 is voldoende voor het uitvoeren van 13B-modellen in FP16 en 70B-modellen in INT4. Voor multi-GPU trainingsclusters blijven data centre GPU's de voorkeur houden vanwege NVLink-bandbreedte en grotere geheugen capaciteit.

De NVIDIA A100 (Ampere-architectuur, 2020) blijft een krachtige en veelgebruikte AI GPU. Hij wordt geleverd in configuraties van 40 GB en 80 GB HBM2e, met een prestatie van 312 TFLOPS FP16 Tensor Core. Aangezien de voorraad zich heeft aangepast ten opzichte van H100, is de prijs van de A100 aantrekkelijker geworden. Voor inferentie en matige trainingswerkzaamheden blijft hij krachtig. Voor baanbrekend onderzoek of de grootste modellen worden nu H100/H200 aanbevolen.

Ja. MillionMiner bedient ondernemingen, onderzoeksinstellingen en cloud-infrastructuurklanten met grootschalige GPU-bestellingen. Neem contact op met ons verkoopteam voor prijzen op meerheidsaankopen van H100, H200, A100 en RTX PRO 6000. Wij kunnen freight logistiek, staging en facturering in meerdere valuta's regelen, inclusief crypto.

Ons team is 24/7 bereikbaar via WhatsApp (+49 176 777 888 33), e-mail en telefoon. Wij helpen bij het kiezen van GPU's voor training versus inference workloads, het ontwerpen van multi-GPU clusters, en B2B inkoop. Neem contact met ons op of bezoek onze FAQ voor directe antwoorden.