GIGABYTE G893-SD1-AAX5 HGX B200 8-GPU Sunucu

NVIDIA HGX B200: her biri 180GB HBM3e olan sekiz B200 SXM GPU, düğüm başına 1.440GB havuz, 64 TB/s toplam bant genişliği ve NVSwitch üzerinden GPU başına 1,8 TB/s hızında beşinci nesil NVLink, teknik çizelgedeki 1,8 TB/s rakamı GPU başına ağ hızı anlamına gelir. İkinci nesil Transformer Engine üzerinden FP4 hesaplama, düğüm başına 144 petaFLOPS'a ulaşmaktadır.

Bir yerde, Hoster. Bu SD1 yapısı, kapasite öncelikli düzenlemede AMX ile çift Intel Xeon Scalable ve 32 DDR5 yuvası çalıştırır; ZD1 ise, bant genişliği öncelikli düzenlemede, her sokette 192 çekirdeğe kadar AMD EPYC çiftleri ve 24 yuva ile donatılmıştır. Kasaları, GPU kompleksleri, güç, genişleme ve soğutma ortak kullanılır. Intel devreleri ve AMX farkındalıklı iş akışları buraya gelir; AMD filoları ve çekirdek yoğunluğu açgözlü ön işlemeleri ZD1 üzerinde yer alır; ve MillionMiner her ikisini de teklif eder.

Üç şey. Her çekirdek boyunca AMX matris uzantıları, bir 8-GPU düğümünün üretmiş olduğu ana taraf yapay zeka çalışmalarını hızlandırır: tokenizasyon, gömme ve ön işleme. 32 yuvalı bellek düzeni, 24 yuvalı tasarımların yapamayacağı kapasite planlaması alanı sağlar. Ve filo standardizasyonu: Intel kurulumları, araç takımlarını, lisanslamayı ve doğrulanmış görüntüleri koruyarak, Blackwell'i eklerken ikinci bir platformu sertifikalandırmadan devam eder.

GPU başına: H200'ün 141GB'sine karşılık 180GB HBM3e, yaklaşık 8 TB/s bant genişliğine karşı 4,8 ve NVLink ikiye katlanarak 1,8 TB/s oldu. Düğüm başına: 1,4TB karşılık 1,1TB, ayrıca NVIDIA'nın H100 nesline karşı gerçek zamanlı trilyon parametre çıkarımında 15 katlara varan FP4 hassasiyeti, bu bir satıcının fiziksel değişikliklere dayanan bir rakamıdır. Hopper kapsama alanındaki takımlar hâlâ Hopper ekonomisini satın alıyor; sınırlarını zorlayan takımlar burada adım atıyor.

Üç durumda: sınır ölçekli çıkarım filolarında FP4 yaklaşık olarak token/watt başına iki katına çıkar, eğitim programlarında ise iki katlı donanım ve bant genişliği zaman çizelgelerini sıkıştırarak iş değeri sağlar ve H200'ün GPU başına bellek sınırlarını aşan çalışan yüklerde. Bu eşiklerin altında, Lenovo ve ASUS H200 sistemleri mantıklı satın alma olarak kalır ve iki yolu da değerlendiren teklif modelleri sunar.

Baz ağ yapısı gemiye kurulu, Intel X710 denetleyicisi üzerinden çift 10GbE. Hesaplama ağı, her dağıtım için belirlenmiştir: sekiz tek yuvalı PCIe 5.0 yuvası, Quantum-2 InfiniBand veya Spectrum-X Ethernet üzerinde bir GPU başına 400 Gb/sn adaptör alır, CPU'lara dokunmadan düğümler arasında gradyanları taşıyan GPUDirect RDMA topolojisi. Dört çift yuvalı pozisyon depolama ve yönetim ağı için ayrılmıştır.

Otuz iki DDR5 RDIMM yuvası, soket başına sekiz kanal ve her kanal başına iki modül. Ticaret: her kanal başına bir modül zirve hızını tutar, iki modül ise hızdan çok slot sayısı ve kapasite sınırı ile takas yapar. Bu yapı, büyük veri merkezi belleği ve aşamalı genişleme için uygun olan kapasite tarafına odaklanmıştır. Kural değişmedi: sistem belleği 1,4TB GPU havuzunun veya üzerindeki seviyede olmalı ve doğrulanmış maksimum değer ile donanımınız teklifte onaylanmıştır.

Yerel veri seti katmanı için 8 adet 2.5 inç Gen5 hot-swap yuvası, NVMe veya SATA, ayrıca önyükleme ortamını veri yolundan ayıran iki M.2 yuvası, bu katalogda her eğitim düğümünde önerilen ayırımı sağlar. Kesin disk uyumu, teklifinizle belirlenir ve MillionMiner, depolama planı bilindiğinde önceden doldurulmuş birimler gönderir.

İki adet 6+6 yedekli 3000W 80 PLUS Titanium güç kaynağı, sadece GPU karmaşasının sürekli yük altında sekiz kilowatt çekebildiği alanı tanımlar, ana bilgisayar sayılmadan. 8U tasarım hava soğutmasıyla soğutur ve bu kurulumu sıradan veri merkezleri içinde barındırmayı mümkün kılar. MillionMiner, teklif sırasında yapılandırmanızın tam tüketimini doğrular ve alternatif olarak kendi tesislerindeki barındırma hizmetini sunar.

İş yükünüzü, barındırma tercihinizi ve dağıtım detaylarınızı teklif formu aracılığıyla gönderiniz. Bir MillionMiner uzmanı yapılandırmayı, SD1 ve ZD1 yönlendirmesinin hâlâ açık olup olmadığını, Blackwell sınıfı hızlandırıcılar için geçerli Amerikan ihracat denetimleri kapsamında varış noktası uygunluğunu ve teslimatı onaylar. Her sistem sevkiyat öncesinde test edilir ve vergiler dahil DDP şeklinde dünya çapında gönderilir.