Million Miner Logo

ซื้อเซิร์ฟเวอร์ GPU และเวิร์กสเตชัน AI: สำเร็จรูป ทดสอบ พร้อมใช้งาน

ซื้อเซิร์ฟเวอร์ GPU สำเร็จรูปและเวิร์กสแตช AI ที่ MillionMiner ซึ่งประกอบตามสเปก ทดสอบโหลด และจัดส่งพร้อมใช้งานได้เลย ระบบที่มีให้เลือกตั้งแต่เวิร์กสแตช RTX 5090 แบบเดียวไปจนถึงระบบ Dual-GPU Threadripper PRO ที่มี PCIe 5.0 ถึง 128 เลน ไปจนถึงโนด Quad และ 8-GPU โดยมีโนด RTX 5090 8-GPU ที่ให้ประสิทธิภาพประมาณ 838 TFLOPS ของ FP32

ทุกเซิร์ฟเวอร์จัดส่งใหม่พร้อมการรับประกันและ DDP ฟรีทั่วโลก ดังนั้นราคาที่ชำระในขั้นตอนชำระเงินคือค่าใช้จ่ายปลายทางที่รวมทุกอย่างแล้ว โดยมีความเสถียรถูกตรวจสอบก่อนออกจากเรา ซื้อไปใช้งานเองหรือจะนำไปติดตั้งในโฮสติ้งของเราในสหรัฐอเมริกาพร้อมการจัดการระยะไกล เลือกซื้อเซิร์ฟเวอร์ GPU และเวิร์กสแตช AI ด้านล่าง

47 สินค้า
ตามคำขอ
Supermicro SuperServer SYS-741GE-TNRT 4-GPU H100 AI Server
Supermicro

Supermicro SuperServer SYS-741GE-TNRT เซิร์ฟเวอร์ AI H100 4-GPU

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
SUPERMICRO 8x A100 AI AS-4124GO-NART+ Server
Supermicro

ซูเปอร์ไมโคร AS-4124GO-NART+ 8x A100 HGX เซิร์ฟเวอร์ AI

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
NVIDIA DGX A100 Deep Learning System (8x A100, 640GB)
NVIDIA

ระบบ Deep Learning NVIDIA DGX A100 (8x A100, 640GB)

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
Exeton Quasar 640X AI Server

Exeton Quasar 640X 8x A100 เซิร์ฟเวอร์ AI (640GB NVLink)

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
Lenovo NVIDIA HGX H200 141GB 700W 8-GPU Server
Lenovo

เซิร์ฟเวอร์ Lenovo NVIDIA HGX H200 141GB 700W 8-GPU

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
Supermicro HGX H800 SuperServer SYS-821GE-TNHR
Supermicro

Supermicro HGX H800 SuperServer SYS-821GE-TNHR

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
GIGABYTE G893-ZD1-AAX5 HGX™ B200 8-GPU SERVER
Gigabyte

GIGABYTE G893-ZD1-AAX5 HGX B200 เซิร์ฟเวอร์ 8-GPU

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
Gigabyte G492-ZD0 HPC/AI Server – AMD EPYC™ 7742 – 4U DP HGX™ A100 8-GPU (USED)
Gigabyte

เซิร์ฟเวอร์ Gigabyte G492-ZD0 HGX A100 8-GPU, Dual AMD EPYC 7742, 4U (มือสอง)

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
Supermicro GPU A+ Server AS-8126GS-NB3RT NVIDIA HGX B300 NVL8
Supermicro

ซุปเปอร์ไมโคร GPU A+ เซิร์ฟเวอร์ AS-8126GS-NB3RT NVIDIA HGX B300 NVL8

ราคา ตามคำขอ
ดูสินค้า
ตามคำขอ
ASUS XA NB3I-E12 GPU Server
ASUS

เซิร์ฟเวอร์ GPU ASUS XA NB3I-E12 NVIDIA HGX B300 NVL8

ราคา ตามคำขอ
ดูสินค้า
มีสินค้าในสต็อก
Supermicro SYS-111C-NR-G1 1U Rackmount X13 UP Gold Series CloudDC SuperServer
Supermicro

Supermicro SYS-111C-NR-G1 1U Rackmount X13 UP Gold Series CloudDC SuperServer

ราคา $5,700.00
ดูสินค้า
มีสินค้าในสต็อก
Supermicro SYS-521C-NR-G1 2U Rackmount X13 UP Gold Series CloudDC SuperServer
Supermicro

Supermicro SYS-521C-NR-G1 2U รางติดตั้ง X13 UP Gold Series CloudDC SuperServer

ราคา $5,700.00
ดูสินค้า
สินค้า พลังงาน ราคา
Supermicro SuperServer SYS-741GE-TNRT เซิร์ฟเวอร์ AI H100 4-GPU ตามคำขอ ตามคำขอ ซูเปอร์ไมโคร AS-4124GO-NART+ 8x A100 HGX เซิร์ฟเวอร์ AI ตามคำขอ ตามคำขอ ระบบ Deep Learning NVIDIA DGX A100 (8x A100, 640GB) ตามคำขอ ตามคำขอ Exeton Quasar 640X 8x A100 เซิร์ฟเวอร์ AI (640GB NVLink) ตามคำขอ ตามคำขอ เซิร์ฟเวอร์ Lenovo NVIDIA HGX H200 141GB 700W 8-GPU ตามคำขอ ตามคำขอ Supermicro HGX H800 SuperServer SYS-821GE-TNHR ตามคำขอ ตามคำขอ GIGABYTE G893-ZD1-AAX5 HGX B200 เซิร์ฟเวอร์ 8-GPU ตามคำขอ ตามคำขอ เซิร์ฟเวอร์ Gigabyte G492-ZD0 HGX A100 8-GPU, Dual AMD EPYC 7742, 4U (มือสอง) ตามคำขอ ตามคำขอ ซุปเปอร์ไมโคร GPU A+ เซิร์ฟเวอร์ AS-8126GS-NB3RT NVIDIA HGX B300 NVL8 ตามคำขอ ตามคำขอ เซิร์ฟเวอร์ GPU ASUS XA NB3I-E12 NVIDIA HGX B300 NVL8 ตามคำขอ ตามคำขอ Supermicro SYS-111C-NR-G1 1U Rackmount X13 UP Gold Series CloudDC SuperServer มีสินค้าในสต็อก $5,700.00 Supermicro SYS-521C-NR-G1 2U รางติดตั้ง X13 UP Gold Series CloudDC SuperServer มีสินค้าในสต็อก $5,700.00
สินค้า ราคา
Supermicro SuperServer SYS-741GE-TNRT เซิร์ฟเวอร์ AI H100 4-GPU ตามคำขอ ตามคำขอ
ซูเปอร์ไมโคร AS-4124GO-NART+ 8x A100 HGX เซิร์ฟเวอร์ AI ตามคำขอ ตามคำขอ
ระบบ Deep Learning NVIDIA DGX A100 (8x A100, 640GB) ตามคำขอ ตามคำขอ
Exeton Quasar 640X 8x A100 เซิร์ฟเวอร์ AI (640GB NVLink) ตามคำขอ ตามคำขอ
เซิร์ฟเวอร์ Lenovo NVIDIA HGX H200 141GB 700W 8-GPU ตามคำขอ ตามคำขอ
Supermicro HGX H800 SuperServer SYS-821GE-TNHR ตามคำขอ ตามคำขอ
GIGABYTE G893-ZD1-AAX5 HGX B200 เซิร์ฟเวอร์ 8-GPU ตามคำขอ ตามคำขอ
เซิร์ฟเวอร์ Gigabyte G492-ZD0 HGX A100 8-GPU, Dual AMD EPYC 7742, 4U (มือสอง) ตามคำขอ ตามคำขอ
ซุปเปอร์ไมโคร GPU A+ เซิร์ฟเวอร์ AS-8126GS-NB3RT NVIDIA HGX B300 NVL8 ตามคำขอ ตามคำขอ
เซิร์ฟเวอร์ GPU ASUS XA NB3I-E12 NVIDIA HGX B300 NVL8 ตามคำขอ ตามคำขอ
Supermicro SYS-111C-NR-G1 1U Rackmount X13 UP Gold Series CloudDC SuperServer มีสินค้าในสต็อก $5,700.00
Supermicro SYS-521C-NR-G1 2U รางติดตั้ง X13 UP Gold Series CloudDC SuperServer มีสินค้าในสต็อก $5,700.00
กำลังแสดง 12 จาก 47

ระบบระดับโรงงาน

กำหนดค่า ทดสอบ และตรวจสอบการใช้งานอย่างสมบูรณ์

ลอจิสติกส์การขนส่งสินค้า

พาเลทและขนส่งทางอากาศที่มีประกันทั่วโลก

รองรับคริปโต

ชำระเงินด้วย BTC, ETH, USDT และอื่น ๆ

สนับสนุนเชิงลึก

สถาปนิกโครงสร้างพื้นฐาน AI พร้อมให้บริการ

ระบบเซิร์ฟเวอร์ AI

เซิร์ฟเวอร์ AI Multi-GPU: จากเวิร์กสเตชัน 2-GPU ถึงโหนด HGX 8-GPU

เซิร์ฟเวอร์ AI ไม่ใช่เพียงแค่คอมพิวเตอร์ทั่วไปที่ติดตั้ง GPU เท่านั้น โครงสร้างพื้นฐาน AI ที่จริงจังต้องการแพลตฟอร์มที่ออกแบบมาเฉพาะ: เครือข่าย NVSwitch ที่มีแบนด์วิดธ์สูงสำหรับการสื่อสาร GPU ต่อ GPU หน่วยความจำ DDR5 ความจุสูง ซีพียูระดับองค์กรที่มี PCIe lanes เพียงพอสำหรับให้ GPU ทุกตัวทำงานได้อย่างเต็มที่ ระบบจัดเก็บข้อมูล NVMe สำหรับการรับส่งข้อมูล checkpoint อย่างรวดเร็ว และระบบส่งมอบพลังงานที่มีความสามารถสูงสุดกว่า 10 กิโลวัตต์ต่อยูนิตแร็ค เราจัดหาแพลตฟอร์มเซิร์ฟเวอร์ AI ครบวงจร — ตั้งแต่ระบบ Tower 2-GPU สำหรับห้องปฏิบัติการวิจัย ไปจนถึงโหนด NVIDIA HGX H100/H200 ที่มี GPU 8 ตัว และสถาปัตยกรรมระดับแร็ค GB200 NVL72 ใหม่ล่าสุด — พร้อมสำหรับการใช้งานได้ทันที

จำนวน GPU DGX H100

8 × H100 SXM5

รวม HBM2e ขนาด 640 GB ผ่าน NVSwitch

จำนวน GPU ของ NVL72

72 GPUs

GB200 ในแร็คเดียว — 1 หน่วยเชิงตรรกะ

ประสิทธิภาพ AI DGX H100

32 PFLOPS

FP8 sparse — รวม 8 × H100

หน่วยความจำ HGX H200

1.1 TB HBM3e

8 × H200 SXM5 — รวมแบนด์วิดธ์ 38.4 TB/s


เปรียบเทียบแพลตฟอร์มเซิร์ฟเวอร์ AI

แพลตฟอร์มหลักที่เราให้บริการ

NVIDIA DGX H100

8 × H100 SXM5, 640 GB

ซุปเปอร์คอมพิวเตอร์ AI สมบูรณ์ในกล่อง NVSwitch แบบเต็มเมชที่ 900 GB/s ต่อ GPU แพลตฟอร์ม Dual Xeon หรือ AMD Epyc, DDR5 ขนาด 2 TB แพลตฟอร์มอ้างอิงสำหรับ AI เชิงพาณิชย์

NVIDIA DGX H200

8 × H200 SXM5, 1.1 TB

ผู้สืบทอดของ DGX H100 ความเร็ว HBM3e 4.8 TB/s ต่อ GPU เหมาะสำหรับการประมวลผลโมเดลขนาดใหญ่ในระดับเชิงพาณิชย์ที่ต้องการความจุหน่วยความจำสูง

NVIDIA HGX H100/H200

OEM platform (8-GPU)

การ์ด GPU + ชุด NVSwitch ที่จัดส่งให้กับพันธมิตร OEM (Supermicro, Dell, HPE, Lenovo) ช่วยให้สามารถใช้โครงสร้าง GPU เดียวกันในกรอบเซิร์ฟเวอร์แบบกำหนดเอง

NVIDIA GB200 NVL72

72 × GB200 GPUs

ระบบจัดการเดี่ยวแบบแร็คส์ หนึ่งระบบ ประกอบด้วย CPU Grace 36 ตัว + โมดูล GPU Blackwell 72 ตัว ทำงานได้ 1.44 ExaFLOPS FP4 NVLink 5 fabric — ทั้งแร็คส์ทำงานเป็น GPU เดียว

4-GPU Tower / Rack (RTX PRO 6000)

Up to 4 × 96 GB

เซิร์ฟเวอร์ระดับ Workstation สำหรับห้องปฏิบัติการวิจัยและสตาร์ทอัป AI. Dual-socket Xeon W9 หรือ Threadripper Pro, 4 × RTX PRO 6000 BW ผ่าน NVLink Bridge pairs.

2-GPU Inference Server (A100 / H100 PCIe)

2 × 80 GB HBM2e

โหนดอนุพันธ์ที่มีต้นทุนประสิทธิภาพสูง ตัวถังแบบ 2U มาตรฐาน ช่องเสียบ PCIe 5.0 คู่ เข้ากันได้กับการ colocate ในตู้แร็คมาตรฐานโดยไม่จำเป็นต้องใช้ระบบระบายความร้อนด้วยของเหลว

1U Edge Inference (L4 / A2)

4–8 × 24 GB PCIe

การวิเคราะห์ข้อมูลความหนาแน่นสูงและใช้พลังงานต่ำ. GPU L4 แบบช่องเดียวที่ 72 W ต่อเครื่อง. สูงสุด 8 GPU ใน 1U ใช้พลังงานรวมต่ำกว่า 600 W — เหมาะสำหรับโครงสร้าง co-lo edge PoPs.

สถาปัตยกรรมเบื้องหลังเซิร์ฟเวอร์ AI

ทำไมเซิร์ฟเวอร์ AI ถึงแตกต่างอย่างสิ้นเชิงจากเซิร์ฟเวอร์มาตรฐาน

ความแตกต่างพื้นฐานระหว่างเซิร์ฟเวอร์แบบทั่วไปและเซิร์ฟเวอร์ AI คือเนื้อผ้า GPU ในเซิร์ฟเวอร์มาตรฐาน GPUs สื่อสารผ่าน PCIe — สถาปัตยกรรมบัสที่มีความเร็วประมาณ 32–64 GB/s แบบสองทางต่อสล็อต ในเซิร์ฟเวอร์ AI ที่ใช้ NVSwitch ทุก GPU ในระบบเชื่อมต่อกับ GPU ตัวอื่น ๆ พร้อมกันผ่าน ASIC NVSwitch ที่ความเร็ว 900 GB/s ต่อ GPU (H100) หรือ 1.8 TB/s ต่อ GPU (H200 / Blackwell) นี่ไม่ใช่การปรับปรุงที่ทำให้เป็นคอขวด — เป็นการเปลี่ยนแปลงเชิงคุณภาพที่ช่วยให้สามารถทำโมเดลแบบขนานข้าม GPUs ได้เหมือนเป็นอุปกรณ์ชิ้นเดียวที่ใหญ่ขึ้น

ระบบ CPU และเมมโมรี่ต้องตรงกับความต้องการแบนด์วิดท์ของ GPU โครงสร้าง DGX H100 ผสมผสานระหว่าง Fabric NVSwitch 8-GPU กับ CPU Intel Xeon Platinum สองเครื่องและ RAM DDR5 ECC ขนาด 2 TB — หน่วยความจำระบบเพียงพอสำหรับจัดเตรียมชุดข้อมูลฝึกอบรม รันพายไลน์การเตรียมข้อมูลล่วงหน้า และจัดการ I/O จุดเช็คพอยต์โดยไม่เป็นอุปสรรค ลาย PCIe 5.0 ถูกแจกจ่ายอย่างรอบคอบเพื่อให้แต่ละ GPU มีการเชื่อมต่อโดยตรง x16 ไปยัง Fabric CPU

การจ่ายพลังงานเป็นความท้าทายด้านวิศวกรรมในตัวเอง DGX H100 ที่เต็มโหลดจะใช้พลังงานประมาณ 10.2 กิโลวัตต์ — ต้องการวงจร 2 × 30A, 240V ในอเมริกาเหนือ หรือ 3 เฟส 32A ในยุโรป การระบายความร้อนก็มีความต้องการเช่นกัน: การออกแบบอ้างอิงของ NVIDIA ใช้ตัวแลกเปลี่ยนความร้อนด้านหลังประตูหรือลิขสิทธิ์น้ำเย็นแบบตรงสำหรับโมดูล GPU ในการกำหนดค่าของ DGX การวางแผนพลังงานและการระบายความร้อนของโรงงานของคุณก่อนสั่งซื้อไม่ใช่ตัวเลือก — เป็นขั้นตอนแรก


เอไอในระดับแร็ค

NVIDIA GB200 NVL72: 72 GPU เป็นตัวเร่งความเร็วเชิงตรรกะเดียว

GB200 NVL72 เป็นโครงสร้างระบบที่ทะเยอทะยานที่สุดของ NVIDIA จนถึงปัจจุบัน ตู้แร็คเดียวประกอบด้วยโมดูล CPU Grace 36 โมดูล และชิป GPU Blackwell GB200 จำนวน 72 ชิ้น ซึ่งเชื่อมต่อกันผ่าน NVLink รุ่นที่ห้าด้วยความเร็ว 1.8 TB/s ต่อ GPU — ทำให้แร็คทั้งตัวทำงานเสมือนเป็นตัวเร่งความเร็วเชิงตรรกะเดียว การคำนวณแบบ sparse FP4 รวมของทั้ง 72 GPU เกินกว่า 1.44 ExaFLOPS และหน่วยความจำ HBM3e รวมถึง 13.5 TB

แต่ละโมดูล GB200 จับคู่ CPU Grace Arm กับชิป GPU Blackwell สองตัวผ่าน NVLink-C2C ที่ความเร็ว 900 GB/s — กำจัดอินเทอร์เฟซ PCIe ระหว่าง CPU และ GPU อย่างสมบูรณ์ CPU ทำหน้าที่เป็นคอนโทรลเลอร์หน่วยความจำความเร็วสูงและกลไกการประสานงาน ไม่ใช่อุปสรรคต่อประสิทธิภาพ การออกแบบนี้ทำให้ NVL72 มีความสามารถเฉพาะตัวในการประมวลผลโมเดลที่มีพารามิเตอร์เป็นล้าน ๆ แบบ inference ด้วยความหน่วงต่ำ: โมเดลทั้งโมเดลสามารถอยู่ในหน่วยความจำของแร็ค การดำเนินการ all-reduce เกิดขึ้นภายใน NVLink fabric และไม่จำเป็นต้องใช้งานเครือข่ายระหว่างโหนดสำหรับการให้บริการโมเดลเดียว

จากมุมมองของสถานที่, NVL72 ใช้พลังงานสูงสุด 120 kW และต้องการระบบระบายความร้อนด้วยของเหลวโดยตรง — การจ่ายไฟฟ้าแบบ 3 เฟสโดยเฉพาะและโครงสร้างพื้นฐานการระบายความร้อนด้วยของเหลวในสถานที่เป็นสิ่งจำเป็น เศรษฐศาสตร์จูงใจเป็นอย่างมากในระดับขยายใหญ่: ตู้ NVL72 หนึ่งตู้แทนที่การใช้งานเดิมที่ต้องใช้แถวของ Node DGX H100 ทั้งหมด สำหรับความสามารถในการประมวลผล inference เทียบเท่า

คุณสมบัติ GB200 NVL72

แผ่นข้อมูลสเปคของแร็คเต็ม

GPU เสีย 72 × Blackwell GB200
โมดูล CPU 36 × Grace Arm (72 cores each)
หน่วยความจำ GPU 13.5 TB HBM3e total
แบนด์วิดท์หน่วยความจำ GPU 345.6 TB/s aggregate
ประสิทธิภาพของ AI 1.44 ExaFLOPS FP4 sparse
การเชื่อมต่อ GPU NVLink 5.0 — 1.8 TB/s per GPU
ลิงก์ CPU-GPU NVLink-C2C — 900 GB/s bidirectional
หน่วยความจำของระบบ Up to 13.5 TB LPDDR5X
การใช้พลังงาน Up to 120 kW per rack
การระบายความร้อน Direct Liquid Cooling (mandatory)
เครือข่าย 8 × 400 GbE / InfiniBand per rack

คู่มือผู้ซื้อ

เซิร์ฟเวอร์ AI ใดที่เหมาะสำหรับกรณีการใช้งานของคุณ

จากการทดลองในระดับห้องปฏิบัติการสู่การใช้งานแบบเต็มรูปแบบในระดับ hyperscale — จับคู่ปริมาณงานของคุณกับระดับแพลตฟอร์มที่เหมาะสม

วิจัย / ห้องแลบ

2–4 GPU Tower or 2U Rack

GPU A100 80GB / RTX PRO 6000
หน่วยความจำ GPU 160–384 GB GPU VRAM
พลังงาน 2–4 kW total draw

การปรับแต่งโมเดล, การพัฒนา RAG, การอนุมานในท้องถิ่น, การทำซ้ำในการวิจัย เข้ากันได้ดีในพื้นที่ใต้โต๊ะหรือในแร็กมาตรฐาน โดยส่วนใหญ่ไม่จำเป็นต้องอัปเกรดสิ่งอำนวยความสะดวก

สตาร์ทอัพ / ธุรกิจขนาดกลางและขนาดย่อม

HGX H100 OEM 8-GPU

GPU 8 × H100 SXM5 80GB
หน่วยความจำ GPU 640 GB HBM2e
พลังงาน ~10 kW draw

การปรับแต่งเต็มของโมเดล 13–70B การอนุมานสำหรับผลิตภัณฑ์ที่เป็นพื้นฐาน AI ต้องการไฟฟ้า 3 เฟส หรือไฟฟ้าสองสาย 30A การระบายอากาศด้วยอากาศเป็นไปได้ด้วยระบบระบายความร้อน HX ประตูหลัง

องค์กร

DGX H200 / HGX H200

GPU 8 × H200 SXM5 141GB
หน่วยความจำ GPU 1.1 TB HBM3e
พลังงาน ~11 kW draw

การฝึกอบรมแบบเต็มพารามิเตอร์สำหรับโมเดล 70–400B การประมวลผลแบบดีเลย์ต่ำสำหรับโมเดลขนาดใหญ่มาก คำแนะนำให้ใช้การระบายความร้อนด้วยของเหลว มาตรฐานอุตสาหกรรมในปัจจุบันสำหรับงาน AI ที่จริงจัง

Hyperscale

GB200 NVL72

GPU 72 × Blackwell GB200
หน่วยความจำ GPU 13.5 TB HBM3e
พลังงาน Up to 120 kW

การฝึกโมเดลพารามิเตอร์เป็นล้านในการเรียนรู้ล่วงหน้าและการทำนายด้วยแบทช์ขนาดใหญ่ การระบายความร้อนของเหลวเต็มรูปแบบและไฟสามเฟสเฉพาะทางเป็นสิ่งจำเป็น สถาปัตยกรรมรอกที่เป็นเหมือน GPU เดียวผ่าน NVLink 5


คำถามที่พบบ่อย

คำถามที่พบบ่อย

DGX (Data Centre GPU) เป็นระบบครบถ้วนแบรนด์ของ NVIDIA — แผง GPU, NVSwitch, CPU, หน่วยความจำ, ที่เก็บข้อมูล, เครือข่าย, BMC, และตัวถังทั้งหมดประกอบและทดสอบโดย NVIDIA HGX เป็นแพลตฟอร์ม OEM: NVIDIA จัดหาแผงฐาน GPU พร้อม NVSwitch และโมดูล GPU ให้กับพันธมิตรเช่น Supermicro, Dell EMC, HPE และ Lenovo ซึ่งสร้างตัวถังเซิร์ฟเวอร์สมบูรณ์ของตนเองรอบๆ ระบบ ระบบ HGX มีความยืดหยุ่นมากขึ้นในการเลือกชัชซี, ตัวเลือกเครือข่าย, และการกำหนดค่าที่เก็บข้อมูล; ระบบ DGX เป็นแบบอ้างอิงที่ผ่านการตรวจสอบและมาพร้อมซอฟต์แวร์ NVIDIA Base Command

DGX H100 ใช้พลังงานสูงสุดถึง 10.2 กิโลวัตต์ ต้องเชื่อมต่อ C19/C20 สองชุดจากวงจรไฟฟ้า 30A, 240V แยกต่างหากในอเมริกาเหนือ หรือสายจ่ายไฟสามเฟส 32A ในยุโรป วงจรไฟฟ้าทั่วไปขนาด 20A, 120V สำหรับบ้านเรือนนั้นไม่เหมาะสมอย่างสิ้นเชิง วางแผนใช้ PDU แบบเฉพาะทางหรือสายจ่ายไฟตรงจากแผงวงจร และตรวจสอบความจุของ UPS ของคุณก่อนสั่งซื้อ

เซิร์ฟเวอร์ AI ระดับเริ่มต้นและระดับกลาง (การกำหนดค่า GPU PCIe 2–8) สามารถใช้ระบบระบายความร้อนด้วยอากาศแบบลมแรงได้ แม้เสียงพัดลมความเร็วสูงและความร้อนจากการระบายอากาศที่ 10 kW+ ทำให้การติดตั้งเครื่องแลกเปลี่ยนความร้อนที่ด้านหลังเป็นสิ่งที่แนะนำอย่างยิ่ง DGX H100 และ HGX H100/H200 ในรูปแบบ SXM ถูกออกแบบให้ใช้การระบายความร้อนด้วยอากาศในระดับระบบ แต่สร้างความร้อนที่คลังสินค้าอย่างมีนัยสำคัญ — การระบายความร้อนด้วยของเหลวจึงกลายเป็นสิ่งที่จำเป็นอย่างแท้จริงที่ระดับ 20–30 kW ต่อคลังสินค้า GB200 NVL72 ที่ 120 kW ต่อคลังสินค้า ต้องใช้งานระบายความร้อนด้วยของเหลวโดยตรงเท่านั้น ไม่มีตัวเลือกเป็นอากาศเท่านั้น

ใน FP16 โมเดลขนาด 175B ต้องการหน่วยความจำ VRAM ประมาณ 350 GB — มากกว่าที่ DGX H100 ที่มีความจุ 640 GB สามารถรองรับได้ หลังจากคำนึงถึง overhead ของ inference KV cache ในทางปฏิบัติ การ quantisation แบบ INT8 ลดความต้องการนี้ลงครึ่งหนึ่งเหลือประมาณ 175 GB ซึ่งพอดีอย่างสบาย DGX H200 (1.1 TB HBM3e) สามารถรันโมเดล 175B ใน FP16 พร้อมพื้นที่ว่างสำหรับการทำงานหลายงานได้ NVL72 GB200 (13.5 TB) สามารถรันอินสแตนซ์ของโมเดล 175B หลายตัวพร้อมกัน

สำหรับการฝึกสอนข้ามหลายโหนด เครือข่าย RDMA ความเร็วสูงเป็นสิ่งจำเป็น นวัตกรรม InfiniBand HDR (200 Gb/s) หรือ NDR (400 Gb/s) ของ NVIDIA เป็นมาตรฐานสำหรับเครือข่ายคลัสเตอร์ DGX/HGX หรือทางเลือกที่มีต้นทุนต่ำกว่าคือ RoCEv2 (RDMA ผ่าน Ethernet รวมกัน) กับ NICs ConnectX-7 400 GbE ซึ่งเหมาะสำหรับกลุ่มงาน inference การดำเนินการกลุ่มแบบ all-to-all (AllReduce) ระหว่างการฝึกสอน มีความไวต่อแบนด์วิดธ์และความหน่วงของโหนดอย่างมาก สวิตช์ 25/100 GbE มาตรฐานเชิงพาณิชย์สร้างความล่าช้าที่ไม่สามารถรับได้ในการฝึกสอนในระดับใหญ่

ใช่ สำหรับคำสั่งซื้อเซิร์ฟเวอร์ AI ขนาดใหญ่ เรายินดีจัดการการกำหนดค่าจากโรงงาน การทดสอบ burn-in และการดำเนินโลจิสติกส์ไปยังศูนย์ข้อมูลหรือสถานที่ colocations ของท่าน ติดต่อทีมขายของเราเพื่อพูดคุยเกี่ยวกับไทม์ไลน์การใช้งานและความต้องการของสถานที่ เราทำงานร่วมกับผู้ให้บริการ colocations ทั่วทั้งยุโรป สหรัฐอาหรับเอมิเรตส์ และอเมริกาเหนือ

ทีมงานของเราพร้อมให้บริการตลอด 24 ชั่วโมงผ่าน WhatsApp (+49 176 777 888 33), อีเมลและโทรศัพท์ การสั่งซื้อเซิร์ฟเวอร์ AI มักเกี่ยวข้องกับการกำหนดค่าที่กำหนดเองและราคาขายส่ง — เราจะปรับความต้องการของงานของคุณให้เข้ากับแพลตฟอร์มที่เหมาะสมและให้ใบเสนอราคาที่ละเอียดรวมถึงการดำเนินการด้านโลจิสติกส์

พร้อมที่จะปรับใช้โครงสร้างพื้นฐาน AI ของคุณหรือยัง

สำรวจช่วงผลิตภัณฑ์เซิร์ฟเวอร์ AI ครบถ้วนด้านบน ตั้งแต่โหนด GPU 2 ตัวระดับการวิจัย ไปจนถึงระบบระดับแร็ค DGX H200 และ GB200 NVL72 ระบบระดับแร็ค ทีมงานของเราจะช่วยคุณวางแผนด้านพลังงาน การระบายความร้อน ระบบเครือข่าย และโลจิสติกส์ตั้งแต่ต้นจนจบ