NVIDIA RTX 5090 32GB Blower — Konfiguracja wielogpu w trybie Dual-Slot

Żaden standardowy partner NVIDIA AIB nie produkuje chłodzonego powietrzem RTX 5090. AFOX RTX 5090 Professional jest jedyną półoficjalną wersją blower ($5 999 USD detal). Większość blowerów 5090 dostępnych na rynku to konwersje rynkowe: karty 5090 sprzedawane detalicznie, rozmontowane i przebudowane na niestandardowych dwuslotowych płytkach PCB typu blower.

Gęstość Multi-GPU. Standardowe otwarte RTX 5090 o szerokości od 2,5 do 3,5 slotu nie mieszczą się fizycznie więcej niż 2 w dowolnej obudowie, a kaskada termiczna między kartami sprawia, że nawet 2 są problematyczne. Dual-slotowy wentylator umożliwia umieszczenie od 4 do 8 kart w obudowie serwera dla racków do wnioskowania AI, farm wynajmu GPU oraz operacji kopania.

Do 8 w obudowie serwera z odpowiednią liczbą slotów PCIe, dostawą mocy i chłodzeniem zgodnie z dokumentacją Tom's Hardware. Osiem kart: 256 GB łącznej pamięci VRAM, około 838 TFLOPS FP32, pobór mocy GPU 4 600 W. Wymaga przemysłowej infrastruktury zasilania, wysokiej pojemności rozdzielnic zasilających i odpowiedniego przepływu powietrza w obudowie serwera.

Tak. Ta sama płytka GB202: 21 760 rdzeni CUDA, 680 rdzeni Tensor, 170 rdzeni RT, 32GB GDDR7 przy 1 792 GB/s, ~104,8 TFLOPS FP32, PCIe Gen 5. Wentylator wpływa tylko na projekt termiczny, nie na wydajność układu scalonego. Prędkości zegara zwiększone: 2 017 MHz bazowe, 2 407 MHz boost.

Nie zostało jeszcze oficjalnie opublikowane dla konwersji 5090 (nowsza od modułu 4090 48GB, który ma około 2% udokumentowanej awaryjności od GPU Lab). Proces naprawy przemysłowej w renomowanych chińskich warsztatach (CT itp.) wykorzystuje stacje do napraw BGA i profesjonalne protokoły testowe, ale ponowne lutowanie układów GPU zawsze wiąże się z ryzykiem w porównaniu z montażem fabrycznym. Rezerwuj budżet na potencjalne jednostki zastępcze w wdrożeniach wielogPU.

8x blower 5090: ~838 TFLOPS FP32, 256GB GDDR7 przy 1 792 GB/s na kartę, brak NVLink, PCIe Gen 5, sterowniki konsumenckie. 8x A100 80GB (HGX): 156 TFLOPS FP32, 640GB HBM2e przy 2 039 GB/s na kartę, NVLink przy 600 GB/s, 7 MIG na kartę, sterowniki przedsiębiorstwa. Węzeł 5090 zapewnia 5,4 razy więcej obliczeń FP32 przy o 60% mniejszej pamięci. Dla inferencji (obliczenia ograniczone): 5090 zdecydowanie wygrywa pod względem przepustowości na dolar. Dla treningu (pamięć i interkonekt ograniczający): A100 HGX wygrywa pod względem NVLink i pasma HBM.

Osiem kart o mocy 575W: pobór prądu GPU 4 600W. Całkowite węzeł z dwoma CPU, pamięcią, pamięcią masową i chłodzeniem: około 5 500W do 6 500W. Wymaga przemysłowego zasilania trójfazowego, wysokiej pojemności PDU i odpowiedniego doboru bezpiecznika obwodowego. Standardowa instalacja elektryczna w domu lub małym biurze nie jest w stanie obsłużyć tego obciążenia.

Tak samo jak Fan Style, ta sama zdolność wydobycia. Projekt wentylatora jest właściwie bardziej pożądany dla rigów do kopania, ponieważ gęstość wielu kart jest standardową konfiguracją rigów do kopania. Osiem kart kopiących niezależnie przy zysku dziennym wynoszącym 0,83 USD każda: około 6,64 USD na węzeł dziennie przy stawce 0,10 USD/kWh. Wynajem GPU może generować znacznie więcej.

RTX 5090 Blower: ~104,8 TFLOPS FP32, 32GB GDDR7, 575W, sterowniki konsumenckie, hardware aftermarket, do 8 sztuk na chassis. RTX PRO 6000 Max-Q: ~120 TFLOPS FP32, 96GB GDDR7 ECC, 300W, sterowniki profesjonalne, fabryczne NVIDIA, do 4 sztuk na stację roboczą. Na kartę: PRO 6000 Max-Q oferuje 3 razy więcej pamięci, niezawodność profesjonalną oraz certyfikację ISV przy niższym poborze mocy. Na nod: osiem blowerów RTX 5090 zapewnia większą łączną moc obliczeniową. Różne poziomy niezawodności dla różnych tolerancji ryzyka.

Równoczesne serwowanie inferencji: osiem niezależnych instancji modeli 13B do 25B obsługujących równoczesne żądania użytkowników. Generowanie partii osadzeń na dużych zbiorach dokumentów. Serwowanie wielu modeli (różne modele na różnych GPU). farmy renderujące. Wynajem GPU dla stron trzecich za pośrednictwem Clore.ai, Vast.ai lub podobnych platform.