Supermicro GPU SuperServer ARS-111GL-NHR, NVIDIA GH200 (משומש)

זה משלב את ה-CPU וה-GPU לשבב אחד. ה-GH200 Grace Hopper Superchip מציב את ה-CPU גרייס ארם עם 72 ליבות ו-GPU הלופר במודול אחד, המחוברים באמצעות NVLink-C2C במהירות 900 GB/s, כאשר שרת קונבנציונלי מחבר בין CPU ל-GPU בנקודה של PCIe הרבה יותר איטית. הם גם משתפים זיכרון תואם במקום להחזיק באזורים נפרדים. זוהי ארכיטקטורת שרתים, ולא GPU שנוסף ליחידה.

ה-CPU Grace עם עד 480GB של LPDDR5X וה-GPU Hopper עם 96GB של HBM3 מזוהים כמרחב אחוד אחד ששת processor-ים רואים, במקום שני מאגרים נפרדים שאליהם מעבירים נתונים. לעומסי עבודה שממשיכים להזיז נתונים בין CPU ל-GPU, או הצריכים יותר זיכרון מ-HBM של GPU בודד, התכנון האחוד הזה מסיר העתקות ומוגבלות ה-PCIe, שבסיס היתרון של ה-GH200.

עבודה הקשורה לזיכרון ומחוברת למעבד- GPU: ניתוחים של גרפים גדולים ורשתות נוירונים גרפיים, מערכות המלצה עם טבלאות הטמעה עצומות, והסקת מסקנות כבדה בזיכרון שהיא מעבר ל-HBM של GPU בדיד. עבור אלה, הזיכרון המאוחד וההומוגני הוא יתרון מבני. לאימוני מטריצות מרובים ב-GPU צפופים, מערכות HGX SXM בתיק זה משמשות ככלי טוב יותר.

צורה שונה של הבעיה. מערכות HGX H100 ו-H200 הן רשתות NVSwitch עם שמונה GPU לאימון מבוזר, עם 640GB עד 1.1TB של HBM משותף. זהו צומת של superchip Grace Hopper אחד, מעורב של CPU-GPU עם זיכרון תואם. בחרו במערכות HGX לאימון מרובה GPU; בחרו ב-GH200 למשימות מוגבלות בזיכרון, גרפים ובעבודה משולבת שבה זיכרון מאוחד מנצח. הן משלימות זו את זוrather מסתם מתחרות.

זוהי יחידת שוק משני, שנבדקה ואושרה על ידי MillionMiner לפני המשלוח, באותו מסגרת שהוחלה על מערכות A100 בשימוש וקופסאות Hopper משופצות של הקטלוג. מודולי Grace Hopper אין חלקים נעים והסיליקון הפועל בטמפרטורה מומלצת אינו מתדרדר בטווחי זמן אלה; פריטי הבלאי הם מאווררים וספקים. מצבו וכיסויו של היחידת הספציפית מאושרים בהצעת המחיר שלכם.

כלכליות וגישה. רכישת משומש מספקת ארכיטקטורה שונה ובדרך כלל יקרה יותר בהישג יד, עבור צוותים המעוניינים להעריך את Grace Hopper לעומסי עבודה מבוססי זיכרון או לפרוס אותו ללא תמחור יחידת חדש. מסגרת האימות ממירה את סיכון התנאי לעדות מדידה, ו-MillionMiner מאשר מה הכלי כולל בהצעה.

מעבד Grace הוא Arm Neoverse, לא x86, ולכן שכבת התוכנה מכוונת ל-Arm, שעליו תומך באופן טבעי אקו-systēm NVIDIA AI, CUDA, המסגרות, ומוזאון הקונטיינרים ב- Grace Hopper. על הצוותים לאשר את ריצת שכבת היישום הספציפית על Arm, ו-MillionMiner יכולה לייעץ בעניין השיקולים בתוכנה במהלך הצעת המחיר.

יחידת מתקן אחסון 1U עם שני חריצי PCIe 5.0 חמים, אחסון E1.S NVMe עם החלפה חמה, שני ספקי כוח טיטניום מיותרים של 2000W, ויציאת ניהול BMC במהירות 1GbE ייעודית. תצורת האחסון המדויקת של היחידה המשומשת אושרה בהצעת המחיר שלכם.

פריסות Grace Hopper מתרחבות באמצעות רשתות ה-nodes וחריצי PCIe כמתאמי רשת, ופלטפורמות Grace Hopper של NVIDIA תומכות באינטגרציה במהירות גבוהה להקצאה מרובת-Node. עבור יחידת נקודה בודדת משומשת, MillionMiner מייעצת על אפשרויות הרשתות והאריגים לפריסתכם במהלך קבלת ההצעה.

שלחו את פרטי עומס העבודה והפריסה שלכם באמצעות טופס הצעת המחיר. מומחה מ-MillionMiner מאשר את מצב היחידה וכיסוי, את התצורה, את זכאות היעד תחת תקנות היצוא של ארה"ב החלות על מאיצי Hopper, ואת המשלוח. כל מערכת עוברת בדיקה לפני המשלוח ומשודרת ברחבי העולם DDP עם תשלומי מיסים, עם אירוח במרכזי הנתונים של MillionMiner הזמינים.