Server Gigabyte G492-ZD0 HGX A100 8-GPU, Dual AMD EPYC 7742, 4U (Bekas)

Ini adalah node yang diambil dari data centre yang melakukan siklus armada, perangkat keras yang telah menjalani masa layanan di fasilitas profesional yang dikendalikan iklim. Sebelum pengiriman, setiap unit menjalani diagnostik GPU lengkap meliputi delapan modul A100, pemeriksaan riwayat koreksi error HBM, verifikasi kesehatan link NVLink dan NVSwitch, pengujian fungsi kipas dan catu daya, serta pengujian beban berkelanjutan. Unit yang gagal dalam pemeriksaan apapun tidak dikirim. Rincian kondisi untuk unit spesifik yang ditawarkan dikonfirmasi dalam penawaran Anda.

Karena operator AI terbesar mengelola siklus armada. Saat hyperscalers dan laboratorium mengalihkan kapasitas ke generasi Hopper dan Blackwell, infrastruktur A100 mereka masuk ke pasar sekunder. Pasokan ini merupakan produk sampingan dari siklus peningkatan, bukan karena kerusakan, dan itulah alasan kemampuan pelatihan NVSwitch yang asli kini tersedia dengan harga yang jauh lebih terjangkau dibandingkan biaya platform aslinya.

Kipas dan catu daya, keduanya merupakan komponen komoditi yang dapat diganti saat menyala pada platform ini. Modul A100 SXM4 itu sendiri tidak memiliki bagian yang bergerak, dan silikon yang beroperasi dalam spesifikasi termal tidak menurun dalam skala waktu data centre. Kekhawatiran nyata terhadap GPU bekas adalah kerusakan tersembunyi, dan itu dapat diukur daripada hanya soal kepercayaan: Riwayat error HBM, kesehatan NVLink, dan perilaku termal dapat dibaca dari perangkat keras, yang sama persis dengan yang dibaca dari pengujian pra-pengiriman.

Delapan GPU NVIDIA A100 80GB SXM4 pada NVSwitch mesh penuh, 600 GB/s per GPU, menggabungkan 640GB HBM2e. Hal ini mendukung penyesuaian penuh dari model kelas 30B hingga 70B dengan paralelisme, pelatihan batch besar untuk model yang lebih kecil, dan melalui MIG, hingga 56 instance GPU yang diisolasi secara perangkat keras untuk inferensi multi-penyewa dari satu mesin 4U.

Ini sedikit di bawah aturan yang diajarkan oleh katalog ini, memori sistem pada atau di atas total memori GPU, melawan kumpulan GPU sebesar 640GB. Untuk banyak beban kerja penyetelan dan inferensi, ini sudah cukup; untuk pipeline preprocessing yang berat, ini adalah hal pertama yang harus ditingkatkan. Enambelas dari tiga puluh dua slot DIMM pada platform ini terbuka, sehingga membawa host ke kapasitas 1TB adalah item garis kutipan daripada redesain, dan MillionMiner menyesuaikannya dengan beban kerja nyata Anda.

Delapan NIC 200 Gb/s, satu per GPU, yang merupakan topologi yang diperlukan untuk cluster GPUDirect RDMA: GPU di node yang berbeda bertukar data secara langsung melalui fabric tanpa keterlibatan CPU. Node siap cluster, dan penskalaan melewati satu mesin adalah latihan switch dan kabel yang disarankan oleh MillionMiner selama penawaran.

Kompak GPU fundamental yang sama di keempatnya: delapan GPU A100 80GB SXM4 di NVSwitch. DGX A100 menambahkan tumpukan perangkat lunak NVIDIA dan dukungan dari satu vendor dengan ekonomi appliance. Supermicro AS-4124GO-NART+ adalah bangunan baru yang dapat dikonfigurasi. Exeton Quasar 640X adalah bangunan baru yang tetap. Node Gigabyte ini adalah standar nilai: kemampuan pelatihan yang sama dengan biaya masuk terendah, dengan kondisi yang diverifikasi melalui pengujian bukan segel pabrik. Pembeli yang berorientasi anggaran memulai dari sini; MillionMiner menawarkan harga keempatnya dengan jujur.

Ketika memori atau throughput sudah menjadi kendala. Beban kerja yang menekan melewati 640GB per node, program pelatihan di mana throughput Transformer Engine FP8 mempercepat waktu proses dengan nilai bisnis, atau layanan konteks panjang di luar kapasitas GPU 80GB semuanya mengarah ke sistem H800, H200, dan B200 dalam katalog ini. Jika model Anda cukup muat dalam wadah A100, node yang digunakan adalah pembelian yang rasional dan penghematan tersebut dapat menghemat banyak waktu komputasi.

Rilis CUDA terkini sepenuhnya dan setiap kerangka kerja utama, PyTorch, TensorFlow, JAX, TensorRT, Triton, vLLM, mendukung Ampere secara matang, dan armada A100 masih menyumbang bagian besar dari kapasitas AI cloud global, yang menjaga ekosistem tetap aktif dipelihara. Peralatan MIG, NVLink, dan GPUDirect semuanya telah terbukti lama di platform ini.

Kirimkan rincian beban kerja dan detail penyebaran Anda melalui formulir penawaran. Spesialis MillionMiner mengonfirmasi laporan kondisi unit tertentu, cakupan yang disertakan, penambahan konfigurasi seperti peningkatan memori, dan rencana pengiriman. Setiap sistem diuji sebelum pengiriman dan dikirim ke seluruh dunia DDP dengan bea dan bea cukai yang ditangani. Hosting di Rechenzentrum milik MillionMiner sendiri tersedia sebagai alternatif penyebaran di lokasi.