Ce este un sistem HGX față de un sistem DGX?

DGX (Data Centre GPU) este sistemul complet de marcă al NVIDIA — placa GPU, NVSwitch, CPU, memorie, stocare, rețea, BMC și carcasă sunt toate asamblate și validate de NVIDIA. HGX este platforma OEM: NVIDIA furnizează placa de bază GPU cu NVSwitch și module GPU partenerilor precum Supermicro, Dell EMC, HPE și Lenovo, care își construiesc propriul carcasă de server completă în jurul acesteia. Sistemele HGX oferă mai multă flexibilitate în alegerea carcasei, opțiuni de rețea și configurații de stocare; sistemele DGX sunt validate ca referință și sunt echipate cu software-ul NVIDIA Base Command.

Câtă energie necesită un DGX H100?

DGX H100 consumă până la 10,2 kW. Necesită două conexiuni C19/C20 de la circuite separate de 30A, 240V în America de Nord sau o alimentare triphasată de 32A în Europa. Un circuit rezidențial standard de 20A, 120V este complet inadecvat. Planificați pentru PDU-uri dedicate sau alimentare directă de la panou și verificați capacitatea UPS-ului înainte de comandă.

Are AI serverele necesare răcire cu lichid?

Servere AI de entry și de gamă medie (configurații PCIe cu 2–8 GPU) pot utiliza răcire aeriană cu flux de aer ridicat, deși zgomotul ventilatoarelor de mare viteză și căldura de evacuare de peste 10 kW fac recomandabilă utilizarea schimbătoarelor de căldură pe spate. DGX H100 și HGX H100/H200 în form factor SXM sunt proiectate pentru răcire aeriană la nivelul sistemului, dar generează o căldură semnificativă la nivelul rack-ului — răcirea lichidă devine practic necesară peste 20–30 kW pe rack. GB200 NVL72 la 120 kW pe rack necesită răcire directă cu lichid, fără opțiune doar aer.

Pot să rulez un model de 175B pe un DGX H100?

La FP16, un model de 175B necesită aproximativ 350 GB de VRAM — mai mult decât cei 640 GB pe care îi poate găzdui un DGX H100 după contabilizarea suprasarcinii cache-ului KV pentru inferență. În practică, cuantizarea INT8 reduce această nevoie la ~175 GB, fiind potrivită pentru utilizare. DGX H200 (1,1 TB HBM3e) poate rula modele de 175B în FP16 cu spațiu de rezervă. Un GB200 NVL72 (13,5 TB) poate rula mai multe instanțe de modele de 175B simultan.

Ce tip de rețea este necesar între mai multe servere AI?

Pentru antrenament pe mai multe noduri, o rețea RDMA de mare viteză este esențială. NVIDIA InfiniBand HDR (200 Gb/s) sau NDR (400 Gb/s) reprezintă standardul pentru rețeaua clusterelor DGX/HGX. Alternativ, RoCEv2 (RDMA peste Ethernet convergent) cu NIC-uri ConnectX-7 de 400 GbE este o opțiune mai economică pentru clusterelor de inferență. Operațiunile colective all-to-all (AllReduce) în timpul antrenamentului sunt extrem de sensibile la lățimea de bandă și latența între noduri — comutatoarele obișnuite de 25/100 GbE introduc întârzieri inacceptabile în antrenamentele de scară largă.

Oferiți servicii de instalare sau integrare?

Da. Pentru comenzile mari de servere AI, putem organiza configurarea din fabrică, testarea burn-in și logistica către data centre-ul sau facilitățile de colocation ale dumneavoastră. Contactați echipa noastră de vânzări pentru a discuta despre calendarul implementării și cerințele infrastructurii. Lucrăm cu furnizori de colocation din Europa, EAU și America de Nord.

Cum pot contacta MillionMiner pentru o ofertă de server?

Echipa noastră este disponibilă 24/7 prin WhatsApp (+49 176 777 888 33), email și telefon. Achizițiile de servere AI implică de obicei configurații personalizate și tarifare în funcție de volum — vom potrivi cerințele dumneavoastră de trafic de lucru cu platforma potrivită și vă vom furniza o ofertă detaliată, inclusiv logistica.

Cumpărați servere GPU și stații de lucru AI: pre-asamblate, testate, gata de utilizare

Achiziționați servere GPU pre-asamblate și stații de lucru AI la MillionMiner, asamblate conform specificațiilor, testate pentru încărcare și expediate gata pentru utilizare. Configurațiile disponibile variază de la stații de lucru cu un singur GPU RTX 5090 până la sisteme cu dual-GPU Threadripper PRO cu 128 de benzi PCIe 5.0, până la noduri cu patru și 8-GPU, cu un nod RTX 5090 cu 8-GPU care oferă aproximativ 838 TFLOPS FP32.

Fiecare server vine nou, cu garanție și DDP gratuit la nivel mondial, astfel încât prețul de finalizare include costul total de livrare, cu stabilitatea validată înainte de plecare. Achiziționați pentru a le folosi personal sau implementați-le în rețeaua noastră de hosting din SUA cu management la distanță. Cumpărați servere GPU și stații de lucru AI mai jos.

5.0

4.97

4.5

Cumpărați servere GPU și stații de lucru AI: pre-asamblate, testate, gata de utilizare

Filtru și Sortare

Supermicro

Supermicro SuperServer SYS-741GE-TNRT Server AI H100 cu 4 GPU

4U Rackmount / Tower (convertible) Up to 4 double-width NVIDIA GPUs (H100, H100 NVL 94GB, A100, L40S, RTX PRO 6000) on PCIe 5.0 x16

Contact pentru preț

Supermicro

Supermicro AS-4124GO-NART+ 8x A100 HGX Server pentru AI

4U Rackmount 8x NVIDIA A100 80GB SXM4 (HGX baseboard)

Contact pentru preț

NVIDIA

Sistem NVIDIA DGX A100 pentru învățare profundă (8x A100, 640GB)

8x NVIDIA A100 Up to 640 GB

Contact pentru preț

NVIDIA HGX H100 640GB SXM5 placă de bază cu răcire lichidă (8-GPU)

214.166665 935-24287-0000-000

Contact pentru preț

Sisteme de calitate industrială

Configurat, testat și verificat pentru perioada de stabilizare

Logistică de transport

Paletizat asigurată și transport aerian, la nivel mondial

Crypto Acceptat

Plătiți cu BTC, ETH, USDT și altele

Suport Expert

Arhitecți de infrastructură AI disponibili

Sisteme de Servere AI

Servere AI Multi-GPU: De la stații de lucru cu 2-GPU la noduri HGX cu 8-GPU

Un server AI nu este pur și simplu un PC cu un GPU adăugat. Infrastructura AI serioasă necesită platforme construite special: rețele NVSwitch de mare lățime de bandă pentru comunicarea GPU-la-GPU, memorie DDR5 de capacitate mare, procesoare enterprise-grade cu suficiente canale PCIe pentru a alimenta fiecare GPU, stocare NVMe pentru I/O rapid în checkpoint-uri și sisteme de alimentare evaluate la peste 10 kW per unitate rack. Oferim platforme complete de servere AI — de la sisteme tower cu 2 GPU pentru laboratoare de cercetare până la noduri NVIDIA HGX H100/H200 cu 8 GPU și noua arhitectură GB200 NVL72 de scară rack — gata pentru implementare imediată.

Numărul de GPU DGX H100

8 × H100 SXM5

640 GB total HBM2e prin NVSwitch

Număr GPU NVL72

72 GPUs

GB200 într-un singur rack — 1 unitate logică

DGX H100 AI Performanță

32 PFLOPS

FP8 sparsit — combinat 8 × H100

Memorie HGX H200

1.1 TB HBM3e

8 × H200 SXM5 — 38,4 TB/s lățime de bandă agregată

Comparatie platformă server AI

Platforme cheie pe care le furnizăm

NVIDIA DGX H100

8 × H100 SXM5, 640 GB

Supercomputer AI complet în cutie. NVSwitch full-mesh la 900 GB/s pe GPU. Dual Xeon sau AMD Epyc, 2 TB DDR5. Platformă de referință pentru AI enterprise.

NVIDIA DGX H200

8 × H200 SXM5, 1.1 TB

Succesor al DGX H100. 4,8 TB/s HBM3e per GPU. Preferat pentru inferența modelelor mari la scară largă, unde capacitatea de memorie este critică.

NVIDIA HGX H100/H200

OEM platform (8-GPU)

Placa GPU + complexul NVSwitch expediate către partenerii OEM (Supermicro, Dell, HPE, Lenovo). Permite o rețea GPU identică în șasiu de server personalizat.

NVIDIA GB200 NVL72

72 × GB200 GPUs

Sistem de scară unică. 36 procesoare Grace + 72 module GPU Blackwell. 1,44 ExaFLOPS FP4. NVLink 5 fabric — întregul rack funcționează ca un singur GPU.

4-GPU Tower / Rack (RTX PRO 6000)

Up to 4 × 96 GB

Server de clasă Workstation pentru laboratoare de cercetare și startup-uri AI. Dual-socket Xeon W9 sau Threadripper Pro, 4 × RTX PRO 6000 BW prin perechi NVLink Bridge.

2-GPU Inference Server (A100 / H100 PCIe)

2 × 80 GB HBM2e

Noduri pentru inferență eficiente din punct de vedere al costurilor. Carcasie standard 2U, sloturi dual PCIe 5.0. Se pot monta în colocare rack standard fără răcire lichidă.

1U Edge Inference (L4 / A2)

4–8 × 24 GB PCIe

Inferență de înaltă densitate și consum redus de energie. GPU-uri L4 cu un singur slot, 72 W fiecare. Până la 8 GPU-uri în 1U la sub 600 W total — ideale pentru co-lo edge PoPs.

Arhitectura din spatele serverelor AI

De ce serverele AI sunt fundamental diferite de serverele standard

Distincția fundamentală între un server de scop general și un server AI este rețeaua GPU. Într-un server standard, GPU-urile comunică prin PCIe — o arhitectură de magistrală evaluată la aproximativ 32–64 GB/s bidirecțional per slot. Într-un server AI bazat pe NVSwitch, fiecare GPU din sistem se conectează simultan la toate celelalte GPU-uri prin intermediul ASIC-ului NVSwitch la 900 GB/s per GPU (H100) sau 1,8 TB/s per GPU (H200 / Blackwell). Aceasta nu reprezintă o îmbunătățire a punctului de blocaj — este o schimbare calitativă care permite paralelismul modelului între GPU-uri ca și cum ar fi un singur dispozitiv mai mare.

Subsystemul CPU și memorie trebuie să corespundă cerințelor de lățime de bandă ale GPU-ului. DGX H100 asociază fabricul NVSwitch cu 8-GPU și procesoare Intel Xeon Platinum duali și 2 TB de memorie DDR5 ECC — suficientă memorie de sistem pentru a pregăti seturile de date pentru antrenare, pentru a rula fluxurile de preprocesare și pentru a gestiona I/O-ul punctelor de control fără a deveni punctul de blocare. Benzile PCIe 5.0 sunt distribuite cu grijă astfel încât fiecare GPU să aibă o conexiune directă x16 către fabricul CPU.

Distribuția de energie reprezintă o provocare în sine. Un DGX H100 complet încărcat consumă aproximativ 10,2 kW — necesitând circuite de 2 × 30A, 240V în America de Nord sau 3-fazic 32A în Europa. Răcirea este la fel de solicitantă: designul de referință NVIDIA utilizează un schimbător de căldură în ușa din spate sau răcirea directă cu lichid pentru modulul GPU în configurațiile DGX. Planificarea alimentării și răcirii facilității dvs. înainte de comandă nu este opțională — este primul pas.

Inteligență artificială la scară rack

NVIDIA GB200 NVL72: 72 GPU-uri ca un Accelerator Logic\u00e2n

GB200 NVL72 este cea mai ambițioasă arhitectură de sistem a NVIDIA de până acum. Un singur rack găzduiește 36 module CPU Grace și 72 cipuri GPU Blackwell GB200, toate conectate printr-un fabric NVLink de a cincea generație la 1,8 TB/s per GPU — permițând întregului rack să se comporte ca un singur accelerator logic. Capacitatea aggregate FP4 pentru calcul spațial sparse din toate cele 72 de GPU depășește 1,44 ExaFLOPS, iar memoria totală HBM3e atinge 13,5 TB.

Fiecare modul GB200 asociază un CPU Grace Arm cu două cipuri GPU Blackwell prin NVLink-C2C la 900 GB/s — eliminând complet interfața PCIe dintre CPU și GPU. CPU-ul acționează ca un controler de memorie cu lățime de bandă înaltă și motor de orchestrare, nu ca un bottleneck. Acest design face ca NVL72 să fie deosebit de capabil pentru inferența modelului de trilioane de parametri cu latență scăzută: întregul model se potrivește în memoria rack-ului, operațiunile all-reduce au loc în interiorul rețelei NVLink, și nu este necesar un network între noduri pentru servirea unui singur model.

Din punct de vedere al facilității, NVL72 consumă până la 120 kW și necesită răcire directă cu lichid — o alimentare electrică dedicată pe 3 faze și infrastructură de răcire cu lichid a facilității sunt obligatorii. Economia este convingătoare la scară hiperscală: un rack NVL72 înlocuiește ceea ce anterior necesita întregi rânduri de noduri DGX H100 pentru o capacitate de inferență echivalentă.

Specificații GB200 NVL72

Fișa tehnică completă pentru rack complet

GPU se defectează 72 × Blackwell GB200

Module CPU 36 × Grace Arm (72 cores each)

Memorie GPU 13.5 TB HBM3e total

Lățime de bandă a memoriei GPU 345.6 TB/s aggregate

Performanță AI 1.44 ExaFLOPS FP4 sparse

Interconectare GPU NVLink 5.0 — 1.8 TB/s per GPU

Legătură CPU-GPU NVLink-C2C — 900 GB/s bidirectional

Memorie de sistem Up to 13.5 TB LPDDR5X

Consumul de energie Up to 120 kW per rack

Răcire Direct Liquid Cooling (mandatory)

Rețea 8 × 400 GbE / InfiniBand per rack

Ghid de cumpărare

Care este serverul AI potrivit pentru cazul dumneavoastră de utilizare?

De la experimentarea la scară de laborator până la implementarea completă la scară hiperscală — adaptați sarcina dvs. de lucru la nivelul potrivit al platformei.

Cercetare / Laborator

2–4 GPU Tower or 2U Rack

GPU-uri A100 80GB / RTX PRO 6000

Memorie GPU 160–384 GB GPU VRAM

Putere 2–4 kW total draw

Ajustarea fină a modelelor, dezvoltarea RAG, inferența locală, reproducibilitatea cercetării. Se pot amplasa sub un birou sau într-un rack standard. În mod normal, nu sunt necesare actualizări ale facilității.

Startup / IMM</assistant>

HGX H100 OEM 8-GPU

GPU-uri 8 × H100 SXM5 80GB

Memorie GPU 640 GB HBM2e

Putere ~10 kW draw

Personalizare completă a modelelor 13–70B. Inferență de producție pentru produse AI-native. Necesită energie trifazică sau alimentare duală de 30A. Răcirea cu aer este posibilă cu schimbător de căldură la ușa din spate.

Întreprindere

DGX H200 / HGX H200

GPU-uri 8 × H200 SXM5 141GB

Memorie GPU 1.1 TB HBM3e

Putere ~11 kW draw

Antrenament complet cu parametri pentru modelele 70–400B. Inferență cu latență redusă pentru modele foarte mari. Recomandată răcirea lichidă. Standardul actual din industrie pentru sarcini AI serioase.

Hyperscale

GB200 NVL72

GPU-uri 72 × Blackwell GB200

Memorie GPU 13.5 TB HBM3e

Putere Up to 120 kW

Pre-antrenarea modelului cu trilioni de parametri și inferența pe loturi mari. Răcirea complet lichidă și alimentarea dedicată cu 3 faze sunt obligatorii. Arhitectură Rack-ca-un- singur-GPU prin NVLink 5.

Întrebări frecvente

Întrebări frecvent adresate

Gata pentru a implementa infrastructura dvs. AI?

Răsfoiți întreaga noastră gamă de platforme AI pentru servere de mai sus, de la noduri cu 2 GPU de calitate pentru cercetare până la sistemele rack-scale DGX H200 și GB200 NVL72. Echipa noastră vă va ajuta să planificați, de la alimentare, răcire, rețele și până la logistică, totul de la un capăt la altul.

Răsfoiește servere AI Contactați Vânzările