Server Gigabyte G492-ZD0 HGX A100 cu 8 GPU, Dual AMD EPYC 7742, 4U (Utilizat)

Acestea sunt noduri extrase din centre de date din cicluri de flotă, hardware care și-a consumat durata de viață în unități profesionale în condiții de climat controlat. Înainte de livrare, fiecare unitate trece diagnosticări complete ale GPU-urilor pe toate cele opt module A100, verificări ale istoricului corecției erorilor HBM, verificări ale sănătății legăturilor NVLink și NVSwitch, teste de funcționare a ventilatoarelor și surselor de alimentare și teste de încărcare susținută. Unitățile care nu trec orice verificare nu sunt expediate. Detalii despre condiția unității specifice în ofertă sunt confirmate în cotația dumneavoastră.

Pentru că cei mai mari operatori AI cicloază flotele. Pe măsură ce hyperscalers și laboratoare mută capacitatea către generațiile Hopper și Blackwell, infrastructura lor A100 intră pe piața secundară. Oferta este un produs secundar al ciclurilor de upgrade, nu al eșecului, și acesta este motivul pentru care capacitatea reală de antrenament NVSwitch este acum disponibilă la o fracție din costul inițial al platformei.

Fani și sursele de alimentare, ambele componente interchangeable calificate pe această platformă. Modulele A100 SXM4 în sine nu au piese mobile, iar siliciul operat în limitele specificației termice nu se degradează în intervale de timp ale datacentrelor. Îngrijorarea legitimă cu privire la GPU-urile second-hand sunt deteriorările ascunse, iar acestea sunt măsurabile mai degrabă decât o chestiune de încredere: istoricul erorilor HBM, starea NVLink și comportamentul termic sunt vizibile din hardware, ceea ce exact verifică testele de pre-trimitere.

Opt8 NVIDIA A100 80GB SXM4 GPU-uri pe un NVSwitch cu plasă completă, 600 GB/s pe GPU, pooling de 640 GB de HBM2e. Aceasta suportă ajustarea fină completă a modelelor din clasa 30B până la 70B cu paralelism, antrenament cu loturi mari pentru modele mai mici și, prin MIG, până la 56 de instanțe GPU izolate hardware pentru inferență multi-tenanți dintr-un singur sistem de 4U.

Este ușor sub limita stabilită de acest catalog, memoria sistemului fiind la sau peste memoria totală a GPU-ului, față de piscina GPU de 640GB. Pentru multe sarcini de ajustare fină și inferență, este suficient; pentru pipeline-uri de preprocessare intensive, acesta este primul lucru care trebuie actualizat. Șaisprezece dintre cele treizeci și doi sloturi DIMM ale platformei sunt libere, astfel încât aducerea gazdei la 1TB reprezintă un element de cost estimat, mai degrabă decât o reproiectare, iar MillionMiner dimensionează configurația împreună cu dumneavoastră, în funcție de sarcina dumneavoastră reală.

Optiunea constă în opt NIC-uri de 200 Gb/s, câte unul pentru fiecare GPU, conform topologiei GPUDirect RDMA clustering care necesită: GPU-urile din noduri diferite schimbă date direct prin rețea fără implicarea CPU-ului. Nodul devine pregătit pentru cluster, iar extinderea peste o singură maşină reprezintă o problemă de switch și cablare, după cum recomandă MillionMiner în timpul ofertei.

Aceeași configurare fundamentală GPU pentru toate cele patru: opt GPU A100 80GB SXM4 pe NVSwitch. DGX A100 adaugă stack-ul software NVIDIA și suportul din partea unui singur vânzător la costurile economice ale aparatului. Supermicro AS-4124GO-NART+ este noua construcție configurabilă. Exeton Quasar 640X este noua construcție fixă. Nodonul folosit Gigabyte reprezintă nivelul de valoare: aceeași capacitate de antrenament la cel mai redus cost de intrare, cu condiție verificată prin testare și nu prin sigiliu de fabrică. Clienții cu buget redus încep aici; MillionMiner cotați toate cele patru opțiuni onest.

Când memoria sau lățimea de bandă reprezintă deja limita. Sarcini de lucru care depășesc 640GB pe nod, programe de antrenament în care lățimea de bandă a Engine-ului Transformer FP8 comprimă timpii cu valoare pentru afaceri, sau servirea de context lung peste capacitatea GPU-urilor de 80GB indică sistemele H800, H200 și B200 din acest catalog. Dacă modelele dumneavoastră se potrivesc confortabil în gamă A100, nodul utilizat este achiziția rațională, iar economiile finanțează mult timp de calcul.

Versiuni complete și actuale ale CUDA și toate cadrele majore, PyTorch, TensorFlow, JAX, TensorRT, Triton, vLLM, au suport matur pentru Ampere, iar flotele A100 contin în continuare o cotă semnificativă din capacitatea globală de AI în cloud, ceea ce menține ecosistemul activ întreținut. MIG, NVLink și uneltele GPUDirect sunt toate dovedite de mult timp pe această platformă.

Trimiteți detaliile sarcinii de lucru și ale implementării prin formularul de ofertă. Un specialist MillionMiner confirmă raportul de stare al unității specifice, acoperirea inclusă, orice adăugări de configurare precum upgrade-ul de memorie și planul de livrare. Fiecare Miner este testat înainte de transport și livrat la nivel mondial DDP cu taxele și formalitățile vamale gestionate. Hosting-ul în propriile centre de date ale MillionMiner este disponibil ca alternativă la implementarea pe site.