GIGABYTE G593-SD2-AAX1 HGX H100 Server 8-GPU (5U, Dual Xeon)

NVIDIA HGX H100: delapan GPU SXM5 dengan 80GB HBM3 masing-masing, 640GB per node dengan bandwidth gabungan di atas 26 TB/s, jaringan NVSwitch penuh dengan 900 GB/s per GPU, throughput FP8 lebih dari 30 petaFLOPS, dan MIG hingga sebanyak 56 instance. Dalam hal beban kerja: penyesuaian penuh ke dalam kelas 70B dalam satu node, pelatihan berbatch besar yang terhubung, dan densitas penyajian produk.

Keluarga Gigabyte G593 yang sama, berbeda host dan model konfigurasi. SD2 ini menjalankan dua Intel Xeon Scalable dengan AMX dan hingga 8TB DDR5, sebagai bangunan lengkap yang sudah dikonfigurasi secara penuh. ZD2 menjalankan dua AMD EPYC dengan bandwidth memori 12-saluran, sebagai barebone yang Anda konfigurasi sendiri. Intel estate, pipeline AMX, dan kebutuhan memori besar pada host ditempatkan di sini; armada AMD dan pembeli yang ingin konfigurasi sendiri memilih ZD2, dan MillionMiner menawarkan kedua model tersebut.

Ini adalah memori host terbesar dalam sistem H100 katalog, dan itulah tempat di mana host melakukan pekerjaan berat: preprocessing yang memerlukan memori, kumpulan data besar di dalam memori dan fitur, serta virtualisasi padat atau multi-tenancy di samping GPU. Aturan yang berlaku di seluruh katalog ini adalah memori sistem harus setidaknya sebesar pool GPU 640GB; 8TB melampaui itu berkali-kali lipat untuk beban kerja yang membutuhkannya.

SXM dengan NVSwitch. Delapan GPU berada di papan dasar HGX, terhubung dengan kecepatan 900 GB/s dalam topologi mesh penuh, yang merupakan topologi pelatihan yang benar-benar terkoneksi di mana semua GPU sinkron pada bandwidth penuh. Server PCIe H100, seperti Lenovo SR675 V3 di sini, menjalankan kartu secara lebih mandiri. Untuk pelatihan terdistribusi, mesh SXM merupakan pilihan utama; untuk pekerjaan GPU independen, platform PCIe dapat menjadi pilihan yang lebih cocok.

Dua hal di luar kapasitas 8TB. Ekstensi matriks AMX pada Xeon Scalable mempercepat pekerjaan tensor di sisi host, tokenisasi, embedding, preprocessing, serta tahap-tahap yang menggerakkan delapan GPU. Dan standardisasi estate: organisasi di Intel mempertahankan alat, lisensi, dan gambar tervalidasi mereka. Generasi prosesor yang disebutkan untuk unit Anda dikonfirmasi dalam penawaran.

Delapan slot hot-swap Gen5 2,5 inci dengan NVMe, SATA, atau SAS untuk penyimpanan lokal yang fleksibel, dan jaringan dasar 10GbE ganda melalui pengontrol Intel X710. Jaringan compute untuk klasterisasi ditentukan sesuai dengan penyebaran dalam ekspansi PCIe Gen5. Konfigurasi yang tepat dikonfirmasi dengan penawaran Anda.

Ketiga node adalah SXM H100. Dell adalah perusahaan terkemuka berbasis Intel dengan pengelolaan iDRAC; Quanta adalah bangunan ODM hyperscale; Gigabyte unggul dalam kapasitas memori host sebesar 8TB dan nilai Gigabyte. Pembeli yang dipimpin oleh properti cenderung memilih Dell, pembeli nilai ODM memilih Quanta, pembeli yang membutuhkan memori besar dan nilai memilih ini, dan MillionMiner menentukan keputusan.

Pasokan Titanium 3000W redundan dalam chassis berpendingin udara 5U, penyediaan dalam kelas sepuluh-kilowatt untuk konstruksi lengkap delapan GPU plus host. Jumlah PSU dan konsumsi daya yang tepat dari konfigurasi Anda dikonfirmasi dalam penawaran, dan hosting di fasilitas milik MillionMiner tersedia untuk tim yang lebih memilih pengelolaan daya rak.

Melalui adaptor kain PCIe Gen5 yang ditentukan per penempatan, yang mendukung GPUDirect RDMA sehingga gradien bergerak antar node tanpa menyentuh CPU, pada InfiniBand atau Ethernet berkecepatan tinggi. MillionMiner memberikan saran tentang arsitektur switch dan kain saat penempatan melebihi satu node.

Kirimkan rincian beban kerja dan penyebaran Anda melalui formulir penawaran. Seorang spesialis MillionMiner mengonfirmasi konfigurasi, ketentuan garansi 3 tahun, kelayakan destinasi sesuai dengan kontrol ekspor AS yang berlaku untuk akselerator kelas Hopper, dan pengiriman. Setiap sistem diuji sebelum pengiriman dan dikirim ke seluruh dunia DDP dengan bea cukai dikelola, dengan hosting di data centre MilelionMiner sendiri yang tersedia.