Model Lenovo ini yang tepat apa?

Set spesifikasi, sebuah chassis pendingin udara 8U dengan prosesor Intel Xeon Scalable Generasi ke-5 dual, memori TruDDR5, lima belas kipas N+1, dan delapan sumber daya 2600W yang membawa motherboard HGX H100 atau H200, mendefinisikan platform GPU pendingin udara Lenovo 8U ini. MillionMiner mengonfirmasi penunjukan model Lenovo yang tepat dan konfigurasi pada penawaran Anda, karena Lenovo menawarkan kompleks GPU ini dalam varian pendingin udara Intel, AMD, dan cair.

Haruskah saya mengonfigurasinya dengan GPU H100 atau H200?

Rangka menerima baik papan dasar ataupun keputusan terkait memori. H100 membawa 80GB HBM3 per GPU, 640GB per node, dan tetap sangat cocok untuk model yang muat di dalamnya. H200 membawa 141GB HBM3e per GPU, 1,1TB per node, dengan bandwidth 43 persen lebih tinggi, dan mendapatkan nilai tambahnya saat Anda melakukan fine-tuning model kelas 70B dengan presisi penuh, melayani inferensi konteks panjang, atau menjalankan pekerjaan Mixture-of-Experts yang terikat memori. Jika beban kerja Anda sudah membebani GPU 80GB, H200 adalah jawabannya; jika tidak, konfigurasi H100 menutupi perbedaan tersebut.

Apakah benar dapat mendinginkan delapan GPU 700W hanya dengan udara saja?

Ya, dan itu adalah rekayasa mendasar dari platform ini. Lima belas kipas hot-swap dalam susunan redundan N+1 mengalirkan udara melalui 8U volume chassis, menjaga papan dasar HGX berdaya penuh sesuai spesifikasi tanpa pendinginan cair langsung. Makna praktisnya: setiap data centre yang memiliki daya cukup dan pendinginan konvensional dapat menampung mesin ini, tanpa unit distribusi cairan, perpipaan, atau pemeliharaan loop cairan.

Apa yang disediakan oleh satu node untuk pelatihan dan inference?

1,128GB HBM3e gabungan di delapan GPU, bandwidth memori agregat mendekati 38 TB/s, throughput FP8 Transformer Engine lebih dari 30 petaFLOPS, dan NVLink 900 GB/s antara setiap pasangan GPU melalui NVSwitch. Dalam hal beban kerja: penyempurnaan presisi penuh dari model dengan 70 miliar parameter dalam satu node, inferensi konteks panjang dengan ruang kepala cache KV nyata, dan hingga tujuh partisi MIG per GPU untuk layanan multi-penyewa.

Bagaimana perbandingannya dengan NVIDIA DGX H200?

Kelas GPU kompleks yang sama: delapan GPU H200 SXM pada motherboard NVSwitch. DGX adalah perangkat tertutup NVIDIA dengan tumpukan perangkat lunaknya dan dukungan dari vendor tunggal dengan ekonomi perangkat. Platform Lenovo ini adalah jalur OEM: host yang dapat dikonfigurasi sesuai pilihan Anda untuk memori, penyimpanan, dan jaringan, dengan organisasi layanan global Lenovo dan manajemen XClarity di belakangnya, biasanya dengan biaya platform yang lebih rendah secara signifikan. Pembeli yang mengutamakan kepastian cenderung memilih DGX; perusahaan yang mengutamakan fleet dan nilai biasanya memilih di sini.

Bagaimana perbandingannya dengan server ASUS HGX H200 dalam katalog ini?

Kedua perangkat memiliki dasarboard NVIDIA HGX H200 8-GPU yang sama, jadi kinerja GPU setara. Keputusan terletak pada host dan hubungan dengan vendor. Kasus Lenovo adalah standardisasi perusahaan: organisasi yang sudah menjalankan armada server Lenovo mempertahankan satu bidang manajemen, satu kontrak dukungan, dan satu strategi suku cadang. MillionMiner menawarkan penawaran untuk keduanya dan akan merekomendasikan berdasarkan infrastruktur yang sudah Anda miliki, bukan berdasarkan preferensi.

Kapan H200 membenarkan peningkatan dari sistem A100 dalam katalog ini?

Ketika memori atau throughput telah menjadi batasan. Sistem A100 memberikan 640GB per node dan tetap menjadi jalur nilai untuk fine-tuning dan serving dalam kerangka tersebut. Node H200 membawa 1,1TB, 76 persen lebih banyak memori dan 43 persen lebih banyak bandwidth per GPU, ditambah throughput FP8 Transformer Engine yang tidak dimiliki generasi Ampere. Tim yang melatih model yang lebih besar, melayani konteks yang lebih panjang, atau mempercepat garis waktu pelatihan adalah mereka yang akan mendapatkan manfaat dari langkah ini.

Bisakah beberapa node diklusterkan?

Ya. Konektivitas dapat meningkat hingga 400 Gb/s per port, mendukung topologi satu-adapter-per-GPU yang diperlukan oleh GPUDirect RDMA, di mana GPU di node yang berbeda bertukar gradien secara langsung melalui fabric tanpa keterlibatan CPU. Enambelas slot NVMe lokal menyimpan dataset di node, dan MillionMiner memberikan saran tentang desain fabric dan switch ketika penggunaannya melewati satu mesin.

Apa saja kebutuhan daya dan fasilitas yang diperlukan?

Ini adalah mesin dengan kelas sekitar sepuluh kilowatt: delapan pasokan redundan hot-swap 2600W yang memberi daya delapan GPU 700W ditambah dengan host dual-CPU, dalam jejak rak 8U dengan aliran udara dari depan ke belakang berkapasitas tinggi. Mesin ini memerlukan distribusi daya pusat data tetapi bukan pendinginan cairan, yang merupakan keunggulan utamanya. MillionMiner mengonfirmasi rencana daya dan thermal untuk lokasi Anda selama konfigurasi, dan hosting di fasilitas milik MillionMiner sendiri tersedia sebagai alternatif.

Bagaimana cara memesan, dan apa saja yang termasuk?

Kirimkan beban kerja Anda, preferensi generasi GPU, dan rincian penyebaran melalui formulir penawaran. Seorang spesialis MillionMiner mengonfirmasi konfigurasi, memori host, penyimpanan, jaringan, dan perlindungan garansi tiga tahun, kemudian sistem diuji dan dikirim ke seluruh dunia DDP dengan bea cukai dan pabean ditangani sebelum pengiriman. Panduan integrasi rak dan penyebaran yang dihosting keduanya tersedia.

Server Lenovo NVIDIA HGX H200 141GB 700W 8-GPU

Name: Server Lenovo NVIDIA HGX H200 141GB 700W 8-GPU
Brand: Lenovo
SKU: MM2026LNVHGXH200SR680A
Price: 6700.00 USD
Availability: BackOrder

Server ini merupakan platform Lenovo 8U berpendingin udara yang dibangun sekitar papan dasar NVIDIA HGX H200 8-GPU, sebuah host dual-Intel yang dirancang secara khusus sehingga konfigurasi daya tertinggi dari generasi Hopper NVIDIA dapat berjalan di data center berpendingin udara biasa. Di pasar di mana node H200 berdaya penuh semakin mengadopsi pendinginan cair, keputusan rekayasa tunggal ini menentukan untuk siapa mesin ini: organisasi yang menginginkan kemampuan pelatihan generasi saat ini tanpa harus membangun ulang fasilitas mereka untuk mendapatkannya. Kompleks GPU. Delapan GPU NVIDIA H200 SXM dengan kelas daya 700W terpasang pada papan dasar HGX dan saling terhubung melalui NVSwitch… dalam mesh lengkap, setiap GPU menjangkau GPU lainnya dengan kecepatan 900 GB/detik tanpa menyentuh CPU atau jalur PCIe. Setiap GPU membawa 141GB HBM3e, deployment pertama HBM3e dalam lineup NVIDIA, memberi node memori GPU gabungan sebesar 1.128GB dan bandwidth total mendekati 38 TB/detik. Throughput FP8 dengan Transformer Engine melebihi 30 petaFLOPS per node. Dalam hal beban kerja: model 70B parameter disempurnakan dengan presisi FP16 penuh dalam satu node, inferensi long-context berjalan dengan ruang kepala KV yang tidak dapat disediakan oleh GPU kelas 80GB, dan arsitektur Mixture-of-Experts mengarahkan antar pakar dengan kecepatan NVLink. Setiap H200 juga dapat dibagi menjadi sebanyak tujuh instansi MIG sebesar 16,5GB, sehingga satu server dapat menampilkan lebih dari lima puluh irisan GPU yang terisolasi secara perangkat keras untuk layanan multi-penyewa. Rekayasa termal, yang menjadi alasan memilih chassis ini. Delapan GPU 700W plus dua CPU server menempatkan beban panas berkisar lima digit watt ke dalam satu kotak. Desain Lenovo menjawabnya dengan volume aliran udara 8U dan lima kipas hot-swap dalam pengaturan redundan N+1, menjaga papan dasar berdaya penuh sesuai spesifikasi hanya dengan pendinginan udara. Konsekuensi praktisnya cukup besar: tanpa unit distribusi pendingin cair, tanpa pipa fasilitas, tanpa kontrak pemeliharaan loop cair, dan tanpa pembatasan bagi data center minoritas yang sudah dilengkapi pendinginan cair langsung. Daya disesuaikan dengan standar yang sama: delapan suplai hot-swap redundan 2600W menyediakan ruang cadangan gangguan, menarik dari distribusi AC data center biasa. Platform host. Dua prosesor Intel Xeon Scalable generasi ke-5 mendukung node ini, dengan konfigurasi dalam kelas 48-core per socket. Tiga puluh dua slot DIMM membawa memori TruDDR5 5600MHz hingga 2TB, yang penting karena aturan dasar untuk node pelatihan adalah memori sistem setidaknya sama atau lebih besar dari total memori GPU, dan 2TB di atas kolam GPU 1,1TB mengaturnya dengan benar. Penyimpanan menggunakan enam belas slot NVMe PCIe 5.0 2,5 inci hot-swap, cukup kapasitas dataset lokal sehingga sebagian besar pekerjaan pelatihan tidak perlu mengakses data melalui jaringan. Konektivitas hingga 400 Gb/detik per port, mendukung topologi satu adaptor per GPU yang dibutuhkan oleh clustering GPUDirect RDMA ketika satu node menjadi beberapa. Satu chassis, dua generasi. Platform ini menerima baik papan dasar HGX H200 maupun HGX H100 dengan GPU 80GB HBM3. Fleksibilitas ini merupakan kekuatan pengadaan nyata: tim yang modelnya muat nyaman dalam 640GB per node dapat memilih H100 dan mengatur sisanya, sementara tim yang mendorong batas memori memilih H200 141GB. MillionMiner menampilkan kedua konfigurasi di platform ini. Posisi dalam katalog ini, secara tegas. Tiga sistem 8x A100 di sini, DGX A100, Supermicro AS-4124GO-NART+, dan Exeton Quasar 640X, menyediakan pelatihan NVSwitch yang terbukti dengan ekonomi paling terjangkau, 640GB per node. Platform Lenovo ini merupakan langkah naik generasi: 76 persen lebih banyak memori GPU, 43 persen lebih banyak bandwidth per GPU, throughput Transformer Engine FP8 yang tidak dimiliki generasi Ampere, dan NVLink sebesar 900 GB/detik dibandingkan 600. Pembeli yang cocok adalah tim yang beban kerjanya telah melebihi kapasitas memori A100 atau yang jadwal pelatihannya membenarkan throughput Hopper. Dibandingkan dengan NVIDIA DGX H200, ini adalah jalur OEM: host yang dapat dikonfigurasi, organisasi layanan global Lenovo dan manajemen XClarity di belakangnya, serta garansi tiga tahun, tanpa premium perangkat dari box NVIDIA sendiri. Dibandingkan dengan sistem ASUS HGX H200 yang juga ada dalam katalog ini, kasus Lenovo adalah standarisasi fleet perusahaan: organisasi yang sudah menjalankan infrastruktur server Lenovo menjaga satu tingkat pengelolaan, satu hubungan dukungan, dan satu buku panduan operasional. Setiap unit disusun berdasarkan konfigurasi, diuji, dan dikirim secara internasional DDP lengkap dengan bea dan cukai. Perencanaan penempatan dan hosting di data center milik MillionMiner tersedia untuk tim yang lebih memilih tidak menyediakan daya rak sekitar sepuluh kilowatt di lokasi.

Baca Selengkapnya Show Less