Quanta S7PH H200 Server GPU D74H-7U Barebone

Quanta Cloud Technology este producătorul de proiectare originală din spatele unei mari părți a infrastructurii hyperscale din lume, compania către care cele mai mari cloud-uri contractează pentru a proiecta și construi flotele lor. Achizițiile direct de la ODM sunt modul în care cei mai sofisticați cumpărători de infrastructură achiziționează hardware, bazându-se pe inginerie în loc de premium de brand. S7PH aduce acest concept pe piața deschisă sub forma unui barebone, iar MillionMiner testează fiecare unitate înainte de expediere.

Permite îndepărtarea și înlocuirea componentelor fără a demonta serverul din rack. Pe un nod care deține 1,1 TB de GPU H200, un eveniment de mentenanță care necesită dezracking-ul oprește întreaga mașină și poate bloca un job de antrenament; serviciul în rack transformă acest proces într-o înlocuire rapidă. Pe hardware-ul frontier, această mentenabilitate înseamnă uptime, iar uptime înseamnă randament, motiv pentru care pagina live îl evidențiază în primul rând și la această listare.

NVIDIA HGX H200: optimi GPU SXM la 141GB de HBM3e fiecare, 1.128GB pe nod, cu lățime de bandă agregată ce se apropie de 38 TB/s, NVSwitch la 900 GB/s pe GPU, performanță FP8 peste 30 petaFLOPS, și MIG până la 56 de instanțe. În termeni de sarcină de lucru: fine-tuning de precizie completă din clasa 70B în interiorul unui nod, servicii cu context lung și spațiu de memorie KV, și densitate de inferență multi-tenant.

Complexul GPU și șasiul de transport au fost decise, iar componentele gazdă, procesoarele, memoria și stocarea sunt în sarcina dumneavoastră de a le specifica. Pentru echipele cu cerințe specifice privind numărul de nuclee, capacitatea sau stocarea, această controlare înseamnă că nodul ajunge adaptat la sarcina de lucru, mai degrabă decât la un pachet fix, iar MillionMiner configurează piesele deschise în funcție de ofertă.

Da, alături de GPUDirect RDMA non-blocant. GPUDirect Storage este calea directă de la NVMe în memoria GPU care evită buffer-ul de salt al CPU-ului, unde în mod convențional datele trec mai întâi în memoria CPU-ului. Aceasta este deosebit de utilă în cazul în care opt GPU-uri sunt alimentate dindate locale, antrenament cu seturi de date mari, reîncărcări de punct de control de sute de gigabytes și sarcini de recuperare, iar platforma o suportă în mod nativ.

Complexul GPU este identic din punct de vedere al construcției, astfel încât decizia depinde de relație. Lenovo aduce o organizație de servicii globală de nivel unu și un stack de management; acest Quanta aduce proveniență în ingineria ODM, serviciabilitate în rack și modelul barebone. Întreprinderile conduse de patrimoniu preferă Lenovo; cumpărătorii care apreciază mentenabilitatea și controlul asupra gazdei aleg aici, iar MillionMiner citează ambele.

Toate trei concurează cu Lenovo pe diferite puncte forte. ASRock conduce în densitatea 6U și în economia de challenger. ASUS este construit în jurul unui cluster care prioritizează configurația cu un NIC pe GPU. Quanta se evidențiază prin servicii ODM, compatibilitate înainte și configurabilitatea barebone. Achiziționatorii de densitate analizează ASRock, echipele de planificare a clusterelor aleg ASUS, cei preocupați de întreținere și control preferă aceasta, iar estimarea costurilor determină decizia.

Familia Intel Xeon Scalable de a 4-a generație pe 32 sloturi DDR5, cu modelele CPU și popularea memoriei specificate pentru fiecare configurație deoarece platforma este un barebone. Regula aplicabilă în toate cazurile din acest catalog se menține, memoria sistemului fiind egal sau peste 1,1TB în piscina GPU, iar designul admite procesoare de generație următoare pentru upgrade-uri viitoare. Hosterul configurat este confirmat cu oferta dumneavoastră.

Prin intermediul GPUDirect RDMA non-blocant pe adaptoare de rețea specificate pentru fiecare implementare, topologia care transferă gradientii între noduri fără a atinge procesoarele, pe InfiniBand sau Ethernet de mare viteză. Ca bază, configurația rețelei este adaptată planului dumneavoastră de cluster, iar MillionMiner oferă consultanță privind arhitectura switch-urilor pe măsură ce implementările depășesc un nod.

Trimiteți detaliile despre sarcina de lucru și implementare prin formularul de ofertă. Un specialist MillionMiner configurează gazda, confirmă termenii garanției de 3 ani, eligibilitatea destinației conform controlelor de export din SUA aplicabile acceleratoarelor de clasă Hopper și livrarea. Fiecare sistem este testat înainte de expediere și expediat worldwide DDP cu taxele vamale gestionate, cu posibilitatea de găzduire în propriile centre de date ale MillionMiner.