ซูเปอร์ไมโคร GPU ซูเปอร์เซิร์ฟเวอร์ ARS-111GL-NHR, NVIDIA GH200 (มือสอง)

มันรวม CPU และ GPU เข้าด้วยกันเป็นชิปเดียว GH200 Grace Hopper Superchip วาง CPU Grace Arm 72 คอร์และ GPU Hopper บนโมดูลเดียว เชื่อมต่อด้วย NVLink-C2C ที่ 900 GB/s ซึ่งเป็นการเชื่อมต่อแบบเดียวกับเซิร์ฟเวอร์ทั่วไปที่เชื่อมต่อ CPU และ GPU แยกกันด้วย PCIe ซึ่งชั้นของหน่วยความจำร่วมกันแทนที่จะเป็นกลุ่มแยกกัน มันเป็นสถาปัตยกรรมเซิร์ฟเวอร์ ไม่ใช่ GPU ที่คุณเพิ่มเข้าไปในเครื่องเดียว

หน่วยประมวลผล Grace CPU สามารถเข้าถึง LPDDR5X ได้สูงสุด 480GB และ GPU Hopper ที่มีความจุ 96GB HBM3 ได้ในพื้นที่เดียวกัน ซึ่งทั้งสองโปรเซสเซอร์จะมองเห็นเป็นพื้นที่เดียวกัน แทนที่จะเป็นอ่างข้อมูลสองชุดที่ต้องคัดลอกข้อมูลระหว่างกัน สำหรับงานที่มีการย้ายข้อมูลระหว่าง CPU และ GPU อย่างต่อเนื่อง หรือที่ต้องการหน่วยความจำมากกว่าที่ HBM ของ GPU แยกต่างหาก การออกแบบแบบรวมศูนย์นี้จะช่วยลดการคัดลอกข้อมูลและอุปสรรคของ PCIe ซึ่งเป็นข้อได้เปรียบหลักของ GH200

งานที่จำกัดโดยหน่วยความจำและเชื่อมต่อ CPU-GPU: การวิเคราะห์กราฟขนาดใหญ่และเครือข่ายประสาทเทียมกราฟ ระบบแนะนำที่มีตารางฝังตัวขนาดใหญ่ และการอนุมานแบบใช้งานหน่วยความจำสูงซึ่งเกินขีดจำกัดของ HBM ของ GPU แบบแยก สำหรับงานเหล่านี้ หน่วยความจำรวมแบบเป็นอันหนึ่งอันเดียวกันมีข้อได้เปรียบเชิงโครงสร้าง สำหรับการเทรนนิ่งเมทริกซ์แบบ multi-GPU แบบหนาแน่น ระบบ HGX SXM ในแค็ตตาล็อกนี้ยังคงเป็นเครื่องมือที่ดีกว่า

รูปแบบปัญหาที่แตกต่างกัน ระบบ HGX H100 และ H200 เป็นเมช NVSwitch ที่ประกอบด้วย GPU แปดตัวสำหรับการฝึกอบรมแบบกระจาย โดยมีหน่วยความจำ pooled HBM ตั้งแต่ 640GB ถึง 1.1TB นี่คือโหนดซุปเปอร์ชิป Grace Hopper เดียว ซึ่งเป็น CPU-GPU รวมกันแบบ fused ที่มีหน่วยความจำที่สอดคล้องกัน เลือกใช้ระบบ HGX สำหรับการฝึกอบรมแบบ multi-GPU; เลือกใช้ GH200 สำหรับงานที่หน่วยความจำเป็นข้อจำกัด งานกราฟ และงานที่เชื่อมโยงกัน ซึ่งหน่วยความจำแบบรวมกลุ่มเป็นจุดเด่น พวกเขาเติมเต็มซึ่งกันและกันไม่ใช่แข่งขันกัน

เป็นหน่วยตลาดรอง ตรวจสอบและยืนยันโดย MillionMiner ก่อนการจัดส่ง โครงสร้างเดียวกันกับระบบ A100 มือสองและ Hopper ที่ได้รับการปรับปรุงใหม่ในแคตตาล็อก โมดูล Grace Hopper ไม่มีชิ้นส่วนที่เคลื่อนไหวและซิลิกอนที่ทำงานภายในขอบเขตความร้อนจะไม่เสื่อมสภาพในระยะเวลานี้ ชิ้นส่วนที่สึกหรอคือพัดลมและแหล่งจ่าย กระบวนการตรวจสอบและความคุ้มครองสำหรับหน่วยเฉพาะนี้ได้รับการยืนยันในใบเสนอราคาของท่าน

เศรษฐศาสตร์และการเข้าถึง การซื้อเครื่องมือใช้แล้วนำเสนอสถาปัตยกรรมที่แตกต่างและมีราคาแพงซึ่งสามารถเข้าถึงได้สำหรับทีมที่ต้องการประเมิน Grace Hopper สำหรับงานที่มีการใช้หน่วยความจำสูงหรือการติดตั้งโดยไม่ต้องเสียค่าราคาหน่วยใหม่ กรอบการตรวจสอบเปลี่ยนความเสี่ยงเงื่อนไขเป็นหลักฐานที่วัดผลได้ และ MillionMiner ยืนยันว่าสิ่งที่หน่วยรวมอยู่ในใบเสนอราคานั้นประกอบด้วยอะไร

CPU Grace เป็น Arm Neoverse ไม่ใช่ x86 ดังนั้นสแตกซอฟต์แวร์จึงเป็นเป้าหมายที่ Arm ซึ่งระบบนิเวศ AI ของ NVIDIA, CUDA, เฟรมเวิร์ก และแคตตาล็อกคอนเทนเนอร์สนับสนุนโดยเนทีฟบน Grace Hopper ทีมควรยืนยันว่าสแตกแอปพลิเคชันเฉพาะของพวกเขารันบน Arm และ MillionMiner สามารถให้คำแนะนำเกี่ยวกับการพิจารณาซอฟต์แวร์ในระหว่างการขอใบเสนอราคา

ราง 1U ที่ติดตั้งในแร็คพร้อมช่อง PCIe 5.0 สองช่อง, การเก็บข้อมูล E1.S NVMe แบบ hot-swap, Power Supply Titanium สำรองแบบคู่ 2000W และพอร์ตจัดการ BMC 1GbE ที่ออกแบบมาโดยเฉพาะ การติดตั้งพื้นที่เก็บข้อมูลของหน่วยที่ใช้ตามคำเสนอราคาของคุณได้รับการยืนยันแล้ว

การปรับใช้ Grace Hopper ขยายขอบเขตผ่านเครือข่ายของโหนดและช่อง PCIe สำหรับตัวเชื่อมต่อ Fabric และแพลตฟอร์ม Grace Hopper ของ NVIDIA รองรับการเชื่อมต่อความเร็วสูงสำหรับการขยายข้ามหลายโหนด สำหรับหน่วยเดียวที่ใช้งานแล้ว MillionMiner แนะนำตัวเลือกเครือข่ายและ Fabric สำหรับการปรับใช้ของคุณในระหว่างการเสนอราคา

กรุณาส่งรายละเอียดงานและการปรับใช้งานของคุณผ่านแบบฟอร์มใบเสนอราคา ผู้เชี่ยวชาญจาก MillionMiner ยืนยันสภาพและความคุ้มครองของหน่วยงาน การกำหนดค่าการตั้งค่า ความสามารถในการจัดส่งตามข้อกำหนดของ US export controls สำหรับ Hopper-class accelerators และการจัดส่ง ทุกระบบได้รับการตรวจสอบก่อนการขนส่งและจัดส่งทั่วโลกแบบ DDP โดยดำเนินการชำระภาษีเรียบร้อยแล้ว พร้อมบริการโฮสติ้งใน Rechenzentrum ของ MillionMiner เองได้ตามความพร้อม