Kim jest Exeton i czy marka powinna mnie interesować?

Exeton jest specjalistycznym integratorem serwerów AI, a nie marką klasy first-tier, taką jak Supermicro czy NVIDIA. Komponenty wewnątrz są standardowe: GPU NVIDIA A100, procesory Intel Xeon Platinum, dyski SSD dla przedsiębiorstw. To, co wnosi integrator, to konfiguracja, a karta techniczna odznacza się dojrzałym i doświadczonym osądem. Każdy Miner dostarczany przez MillionMiner jest pozyskiwany i testowany przed wysyłką, objęty trzyletnią ochroną części zamiennych i jest obsługiwany bezpośrednio przez MillionMiner, więc marka na obudowie nie zmienia tego, kto stoi za Państwa sprzętem.

Czy konfiguracja jest ustalona, czy mogę ją dostosować?

Stała konfiguracja, a to jest właśnie cel tego produktu. Quasar 640X to kompletny, przemyślany zestaw dla klientów, którzy chcą jedno wyceny i jeden sprawdzony sprzęt. Jeśli potrzebuje Pan/i innej platformy CPU, pojemności pamięci lub układu dysków, to Supermicro AS-4124GO-NART+ w tym katalogu jest konfigurowalną ścieżką z 8x A100, a MillionMiner oferuje obu.

Jak porównuje się Quasar 640X do NVIDIA DGX A100?

Obie dostarczają osiem kart A100 80GB z NVLink i 640GB łącznej pamięci GPU. DGX dodaje pełny stos oprogramowania NVIDIA, Base Command, certyfikowane kontenery NGC oraz wsparcie od jednego dostawcy, w cenie urządzenia. Quasar zapewnia tę samą klasę obliczeń GPU w kompletnym, stałym zestawie, korzystając z ekonomii integratora, przy czym Wy to obsługujecie za pomocą standardowych otwartych narzędzi. Klienci korporacyjni skupieni na pewności wciąż wybierają DGX; zespoły ceniące wartość i korzystające z standardowego ekosystemu CUDA wybierają ten drugi.

Jak wypada w porównaniu z Supermicro AS-4124GO-NART+?

Supermicro to konfigurowalna platforma, na której samodzielnie określa się procesory, pamięć, storage oraz sieć, działająca na hostie AMD EPYC. Quasar to gotowa konfiguracja Intel Xeon, w której te wybory są już dokonane, w tym 1TB pamięci i 200G NIC InfiniBand w podstawowej specyfikacji. Wybierz Supermicro, aby dostosować hosta; wybierz Quasar, aby całkowicie pominąć konfigurację.

Dlaczego jest wyprodukowane z 1TB pamięci systemowej?

Ponieważ zasada działania dla węzła treningowego z 8 GPU jest taka, że pamięć systemowa musi być równa lub większa od łącznej pamięci GPU. Ładowanie danych, wstępne przetwarzanie i augmentacja dla ośmiu A100 wymaga zapasu na stronie hosta, a niewystarczający host powoduje głodzenie akceleratorów za które Państwo zapłacili. Z 640 GB pamięci GPU w węźle, 1 TB pamięci ECC systemu spełnia tę zasadę z marginesem, co dokładnie wyjaśnia, dlaczego wybrano tę konfigurację.

Jaka jest logika układu przechowywania?

Oddzielenie obowiązków. Dwa dyski SSD Enterprise 960GB obsługują system operacyjny, a dedykowany dysk U.2 NVMe o pojemności 7,68TB przechowuje zestawy danych i punkty kontrolne. Zadania treningowe stale odczytują zestawy danych i zapisują punkty kontrolne; odseparowanie tych operacji I/O od woluminu rozruchowego zapobiega konfliktom i zapewnia responsywność zarówno systemu operacyjnego, jak i pipeline'u treningowego. To jest układ, który doświadczony operator i tak by określił.

Czy mogę klastrować wiele jednostek Quasar 640X?

Tak, a podstawowa konfiguracja to przewiduje. Dołączony interfejs NIC InfiniBand 200G zapewnia port sieci obliczeniowej do komunikacji GPU z GPU między węzłami, podczas gdy podwójny Ethernet 10 Gigabit obsługuje ruch zarządzania. Skalowanie z jednego węzła do kilku jest kwestią połączeń i przełączników, a nie modernizacji sprzętu, i MillionMiner doradza w zakresie projektowania sieci podczas konfiguracji.

Na 640GB pamięci GPU można trenować lub serwować modele głębokiego uczenia się, takie jak: - Duże modele językowe (np. GPT, BERT) - Zaawansowane modele wizji komputerowej (np. ResNet, EfficientNet) - Modele generatywne (np. GAN, VAE) - Systemy rekomendacyjne - Złożone symulacje i obliczenia naukowe - Trenowanie dużych modeli dla multimodalnych zastosowań (tekst, obraz, dźwięk) - Serwowanie modeli o dużej skali w środowiskach produkcyjnych

Pełne dostrajanie modeli z klasy 30B do 70B z paralelizmem na ośmiu GPU, trenowanie mniejszych modeli przy bardzo dużych rozmiarach partii oraz jednoczesne obsługiwanie wielu zadań wnioskowania z klasy 70B. Dzięki MIG, węzeł dzieli się na do 56 odizolowanych od sprzętu instancji GPU, z których każda jest dostosowana do obsługi modeli z klasy 7B do 13B, co czyni jeden serwer kompletną platformą wnioskowania wielo-tenantowego.

Jaką moc i środowisko jest potrzebne?

To jest maszyna z Rechenzentrum. Cztery wysokowydajne zasilacze o mocy 3000W wyznaczają ramy, a węzeł A100 z ośmioma GPU pobiera kilka kilowatów przy utrzymującym się obciążeniu treningowym z wysokim przepływem powietrza od przodu do tyłu, które jest niezbędne. MillionMiner potwierdza dokładny plan zasilania i chłodzenia dla Państwa lokalizacji podczas konfiguracji, a hosting w własnych obiektach MillionMiner jest dostępny, jeśli nie chcą Państwo samodzielnie zapewniać infrastruktury.

Jak złożyć zamówienie i co jest w jego składzie?

Prześlij szczegóły swojego obciążenia i wdrożenia za pomocą formularza wyceny, a specjalista MillionMiner odpowie pełną ofertą obejmującą system, trzyletową gwarancję na części zamienne oraz dostawę. Każdy Miner jest testowany przed wysyłką i dostarczany na cały świat DDP z obsługą cłową i celna. Dostępne są wskazówki dotyczące integracji z rackiem oraz wdrożenie w modelu hosted.

Exeton Quasar 640X 8x A100 640GB AI Server

Name: Exeton Quasar 640X 8x A100 AI Serwer (640GB NVLink)
SKU: MM2026EXTQUASAR640X
Availability: BackOrder

Istnieją trzy sposoby zakupu węzła z osiemoma GPU A100, a katalog MillionMiner obejmuje je wszystkie uczciwie. NVIDIA DGX A100 to zamknięte urządzenie: stos oprogramowania NVIDIA i wsparcie od jednego dostawcy, przy ekonomii urządzenia. Supermicro AS-4124GO-NART+ to platforma konfigurowalna: sam określa się hosta. Exeton Quasar 640X to trzecia opcja, gotowa konfiguracja: kompletny, stały zestaw, w którym integrator podjął wszystkie decyzje dotyczące hosta, a karta parametrów pokazuje, że zrobił to dobrze. Dla zespołów, które chcą ocenić jedną ofertę, zatwierdzić jeden element i wdrożyć jedną sprawdzoną maszynę, to najkrótsza droga do 640GB pamięci NVLinked A100 do obliczeń. Kompleks GPU.… Ośmiu NVIDIA A100 80GB GPU łączy się przez NVLink, współdzieląc 640GB pamięci HBM2e GPU w całym węźle. W praktyce pozwala to na pełne dostrajanie modeli w zakresie od 30B do 70B parametrów, wykorzystując równoległość między GPU, trening mniejszych modeli na bardzo dużych partiach danych oraz jednoczesne obsługiwanie wnioskowań wielu modeli klasy 70B. Każdy A100 można podzielić na do siedmiu instancji MIG, dzięki czemu węzeł może oferować aż 56 odizolowanych od sprzętu GPU dla wielości najemców, co pozwala jednej maszynie trenować przez całą noc i obsługiwać dziesiątki odizolowanych zadań w ciągu dnia. A100 pozostaje najbardziej sprawdzonym uczeniem maszynowym akceleratorem w produkcji, z doskonałym wsparciem w najnowszych wydaniach CUDA, PyTorch, TensorFlow, JAX, TensorRT, Triton i vLLM. Host, komponent po komponencie, oraz dlaczego każdy domyślny wybór jest właściwy. Dualne procesory Intel Xeon Platinum 8358 zapewniają 64 rdzenie i 128 wątków na platformie serwerowej Intel Ice Lake z PCIe Gen 4 i ośmiokanałową pamięcią, co wystarcza do preprocessingu i zasilania ośmiu akceleratorów bez stawania się wąskim gardłem. Pamięć systemowa to 1TB DDR4 ECC na 32 modułach: zasada dla węzła treningowego brzmi, że pamięć systemowa powinna być na poziomie lub powyżej całkowitej pamięci GPU, a 1TB nad 640GB pulą GPU zapewnia margines. Pamięć masowa jest podzielona według funkcji: dwa dyski SSD enterprise 960GB dla systemu operacyjnego i 7,68TB U.2 NVMe dla zbiorów danych, tak aby zapisy checkpointów i odczyty zbiorów danych nie konkurowały z woluminem rozruchowym. Sieć obsługuje oba żywoty węzła: podwójne 10 Gigabit Ethernet zajmuje się zarządzaniem, monitorowaniem i ogólnym ruchem, podczas gdy wbudowany 200G NIC InfiniBand zapewnia port na fabricę obliczeniową, który zamienia pojedynczy serwer w członka klastra w dniu dodania drugiego węzła. Zasilanie stanowią cztery wysokowydajne źródła 3000W, odporny zasilacz nadwymiarowy, jakiego wymaga ta klasa maszyn. Kto kupuje tę konfigurację. Zespoły zstandardyzowane na hostach Intel, które chcą spójności floty. Grupy badawcze i firmy potrzebujące możliwości klasy DGX A100, ale które preferują pełną, stałą ofertę zamiast opłaty premium za urządzenie lub konfiguracyjnego wyzwania. Operatorzy wniosków, którzy cenią gęstość 56-instancji MIG. oraz nabywców rozszerzających się na szkolenie w wielu węzłach, którzy chcą mieć port fabrici InfiniBand od dnia pierwszego, zamiast odkrywać go jako brakujący element później. Na pytanie o markę, odpowiedź jest jasna. Exeton to specjalistyczny integrator, a specyfikacja jest miejscem, gdzie to ukazuje się jako przewaga: wybory konfiguracji to te, które dokonał doświadczony inżynier infrastruktury AI, na warunkach integratora zamiast urządzenia. W środku zastosowany jest standardowy sprzęt NVIDIA i Intel. Każda jednostka dostarczana przez MillionMiner jest sprowadzana i testowana przed wysyłką, obejmowana trzyletnią gwarancją na części zamienne i dostarczana na cały świat DDP z obsługą ceł i opłat celnych. Wsparcie w zakresie wdrożeń i hosting w własnych centrach danych MillionMiner jest dostępne dla zespołów, które wolą nie zapewniać energii i chłodzenia na miejscu. Udostępnij swoje obciążenie pracą poprzez formularz ofertowy, a specjalista potwierdzi dopasowanie w ciągu jednego dnia roboczego.

Czytaj więcej Show Less