Gigabyte G593-ZD2-AAX1 Barebone AMD H200 Server 8-GPU (141GB SXM)

Aceeași platformă, GPU mai mare. Ambele sunt aceeași Barebone Gigabyte G593-ZD2 AMD-host; acest model utilizează placa de bază HGX H200 la 141GB pe GPU și 1,1TB pe nod, în timp ce configurația H100 are 640GB. Ingineria gazdei este identică și modelul de configurare personalizabil; H200 reprezintă upgrade-ul de memorie. Alegeți această opțiune atunci când volumul de lucru solicită 640GB, iar varianta twin H100 când se potrivește, pentru cele mai bune condiții economice.

NVIDIA HGX H200: opt8 SXM GPU-uri la 141 GB fiecare de HBM3e, 1.128 GB pe nod cu o lățime de bandă totală apropiindu-se de 38 TB/s, un întreg mesh NVSwitch la 900 GB/s pe GPU, throughput FP8 peste 30 petaFLOPS, și MIG până la 56 de instanțe. În termeni de sarcină de lucru: ajustare fină în clasamentele de 70B pentru precizie completă într-un singur nod, servire de contexte lungi cu spațiu real pentru cache-ul KV și antrenament și inferență limitate de memorie.

Complexul și carcasele GPU sunt expediate fixed, placa de bază HGX H200, carcasa, alimentarea și răcirea, precum și componentele gazdă sunt la alegere dumneavoastră: procesoarele EPYC, popularea memoriei și stocarea. Pentru echipele cu cerințe speciale de număr de nuclee, capacitate sau stocare, nodul este livrat adaptat la volumul de lucru, mai degrabă decât la un pachet fix, iar MillionMiner configurează părțile deschise în funcție de ofertă.

Densitatea nucleului și lățimea de bandă a memoriei, cele două aspecte pe care trebuie să le aibă un gazdă GPU. Opt GPUs necesită multe nuclee pentru încărcarea și preprocesarea paralelă a datelor, precum și un subsistem de memorie care să nu le limiteze. EPYC 9004 pe Zen 4 oferă un număr ridicat de nuclee și DDR5 pe 12 canale per socket, cea mai largă lățime de bandă a memoriei din clasa sa, motiv pentru care este o gazdă solidă pentru un nod cu 8 GPUs care necesită flux intens de date.

Se diferențiază în privința gazdei și modelului de configurare. Lenovo SR680a V3 oferă o infrastructură de nivel superior; ASRock 6U8X conduce în privința densității pe 6U și a economicității; ASUS N8-E11 este construit în jurul unui cluster în primul rând, cu o rețea de tip one-NIC-per-GPU; Quanta S7PH H200 conduce în privința serviciabilității in-rack ODM. Acest Gigabyte este un barebone AMD host pe care îl configurați singur, cu lățime de bandă EPYC pe 12 canale. MillionMiner stabilește decizia privind infrastructura, densitatea, fabricul și prioritățile de configurabilitate ale dumneavoastră.

Când volumul dvs. de lucru încape confortabil în 640GB. Versiunea H100 a acestei platforme exacte costă mai puțin și oferă același inginerie pentru gazdă și control barebone; 1,1TB a H200-ului își justifică suplimentarea doar pentru activități limitate de memorie, fine-tuning în precizie completă de clasa 70B și servire pe contexte lungi. Soluția formulează trecerea în funcție de volumul dvs. real de lucru, mai degrabă decât să ghicească.

Platforma rulează DDR5 cu 12 canale pe socket, pe cele 24 de sloturi DIMM, iar deoarece este un barebone, popularea memoriei vă aparține să o specificați. Regula aplicabilă în întregul catalog este ca memoria sistemului să fie egală sau peste pool-ul GPU de 1,1TB, iar MillionMiner o dimensionează în funcție de sarcina dvs. de lucru la cota rather decât la o valoare implicită fixă.

Prin intermediul adaptorilor de rețea PCIe Gen5 pentru expansiunea rețelei, care transportă fabrici pentru GPUDirect RDMA, topologia care transferă gradientii între noduri fără a utiliza procesoarele, pe InfiniBand sau Ethernet de mare viteză specificat pentru fiecare implementare. Ca sistem de bază, configurația rețelei este adaptată planului dumneavoastră pentru cluster, iar MillionMiner oferă consultanță privind arhitectura switch-urilor pe măsură ce implementările depășesc un nod.

Optiuni de 8 bay-uri hot-swap de 2,5 inci Gen5, suport NVMe, SATA sau SAS-4, alimentare redundantă de 3000W Titanium și extindere PCIe Gen5 pentru rețea și stocare suplimentară. Ca sistem de bază, popularea unităților de disc este configurată în funcție de sarcina dvs. de lucru, iar consumul exact de PSU pentru o configurație completă cu opt GPU H200 este confirmat în ofertă.

Trimiteți detaliile despre sarcina de lucru și implementare prin formularul de ofertă. Un specialist MillionMiner configurează CPU-urile EPYC, memoria și stocarea, confirmă condițiile de garanție, eligibilitatea destinației conform controlului de export din SUA aplicabil acceleratorelor de clasă Hopper și livrarea. Fiecare sistem este testat înainte de expediere și expediat în întreaga lume DDP cu taxe gestionate, cu hosting disponibil în propriile centre de date ale MillionMiner.