שרת Rack Dell PowerEdge XE9680 210-BFXH-BUNDLE עם 8 כרטיסי GPU H100

היות והפתר את שני חצי הרכישה של AI תאגידי בבת אחת, יכולת GPU בחזית באמצעות מערכת NVIDIA HGX H100, וניהול הרכוש באמצעות iDRAC9, OpenManage וארגון השירות הגלובלי של Dell, המודל לניהול ותמיכה של IT בארגון כבר פועל. זה הפך למוצר המהיר ביותר בציון ההיסטוריה של Dell, והתוצאה הפרקטית היא בשלות, כל מסגרת עיקרית ונתיב MLOps אובחנו ככלל בעוצמת ייצור נגד הצומת המדויק הזה.

שמונה GPU NVIDIA H100 SXM עם 80GB של HBM3 כל אחד, 640GB לכל צומת עם רוחב פס מצטבר של למעלה מ-26 טבייט לשנייה, רשת NVSwitch מלאה ב-900GB לשנייה לכל GPU, throughput ב-FP8 שמעל ל-30 פטהFLOPS, ו-MIG עד 56 מקרים. במונחי עומס עבודה: כוונון עדין מלא בקטגוריית 70B בתוך צומת אחת, אימון במבצעי קבוצה גדולים, ועומס ניתוח תעשייתי בדגש על תדירות.

זוהי עסקה של זיכרון ובגרות. הפלטפורמות H200 נושאות 141GB לכל GPU, 1.1TB לכל נוד, ומרוויחות את הפרימיום שלהן על תיבּּוּן מדויק קלאסי בדרגת 70B, שירות בהקשר ארוך, ועבודה התלויה בזיכרון. חבילת H100 זו נושאת את ההגדרה המאומתת ביותר בדור הזה ב-640GB, מספקת את חלק הארי של עומסי העבודה בארגונים, עם התנהגות תעשייתית שהכי טוב להבנה. לחיצה על תקרת הזיכרון מצביעה על כך; החיים בתוכה, מדובר בקנייה מוכחת, ודגמי הציטוט מציגים את שני הדברים האלה.

שתי יחידות ארון לכל נוד לעומת פלטפורמות ה-הופר ב-8U בקטלוג, המתאימות לביצועים הכי קומפקטיים כאן, שהן משולבות לאורך שורה בכל מקום שהמוגבלות היא במרחב. ההערה הכנה היא: רבים מהמוסדות מוגבלים בחשמל במקום במרחב בקטגוריית עשרת קילוואט, וכשכוח החשמל מוגבל, הר밀יות מהווה הכנה לעתיד. דגם מיליוןמיינר משקף את המגבלה האמיתית של המוסד שלכם בהצעה.

ניהול ללא פיצול. הצומת מנוהל באמצעות iDRAC9 ו-OpenManage, ולכן מדיניות הקושחה, קווי היסוד לביטחון, המעקב ושליטה בגישה של צי של PowerEdge קיימת מתארכים לתשתית ה-AI במקום להיבנות מחדש לצדה. עבור תעשיות מפוקחות וארגוני IT גדולים, זה לעיתים קרובות ההבדל בין אישור רכש לתהליך חריגה של שישה חודשים.

שני יצרני OEM מובילים, לכן ההחלטה מתחלקת בין שכבת הזיכרון לנכס. לנובו נושאת לוח אם H200 בסיסי ב-1,1TB לכל Node עם ארגון שירות גלובלי וממשק ניהול משלה; חבילת Dell כוללת את תצורת ה-H100 המוכחת ב-640GB בתוך מודל ניהול Dell. עומסי עבודה מוגבלים בזיכרון מצביעים על הלנובו; ציודי Dell הסטנדרטיים ועומסי העבודה בתוך 640GB מצביעים לכאן. מיילונימיינר מצטטים את שני הצדדים ללא כיוון.

כאשר התקציב קובע יותר מאשר הכיסוי של דרגת היחידה הראשונה החדשה. המפעיל המשודרג AS-8125GS-TNHR מספק את אותה קטגוריה של מערכות מורכבות בכלכלת השוק המשני עם הוכחת אישור, ומערכת H800 מכסה עבודה של Hopper בודד-node בקצה הערך של השוק החדש. רכש שדורש יחידת דרגת ראשון חדשה עם תמיכת OEM קונה זאת; רוכשי יכולת לפי תקציב בוחרים את הנתיבים לערך, והציטוט מציג את שלוש האפשרויות.

דרך הרחבת PCIe Gen5, שמחזיקה מתאם רשת אחד לכל GPU עבור GPUDirect RDMA, הטופולוגיה שמעבירה גרדיאנטים בין נקודות מבלי לגעת ב-CPU, על InfiniBand או Ethernet מהירות גבוהה המוגדרים לפי הפריסה. אחסון Front NVMe שומר על מערכי הנתונים במקומם, ו-MillionMiner מספקת ייעוץ בנוגע לארכיטקטורת המחלפים והכבילות ככל שהפריסות מתרחבות מעבר ל-Node אחד.

מעבדי Intel Xeon Scalable כפולים עם 32 חריצי DDR5, בגודל לפי הציטוט בהתאם לחוק שחלה על כל הקטלוג, זיכרון מערכת של או מעל ל-640GB מנוע GPU. אחסון ומארזי רשת מותאמים לפי הזמנה, הניהול מתבצע באמצעות iDRAC9, והקאטרש הקריר באוויר בגודל 6U מושבת במרכזי נתונים רגילים. הקונפיגורציה המדויקת של ה-host שלכם מאושרת עם הציטוט.

שלחו את פרטי עומס העבודה והפריסה שלכם באמצעות טופס הצעת המחיר. מומחה מ-MillionMiner מאשר את תצורת החבילה, התאמת האירוח, אפשרויות כיסוי Dell, התאמת היעד לפי תקנות היצוא של ארה"ב החלות על מזרזי Hopper-קלאס, ומסירת המוצרים. כל מערכת נשלחת במצב בדיקה, DDP עולמי עם תפעול מכס, עם אירוח במרכזי הנתונים של MillionMiner כאלטרנטיבה.