Supermicro SuperServer SYS-741GE-TNRT שרת AI עם 4-GPU H100

SYS-741GE-TNRT היא פלטפורמת GPU בקופסה בגודל 4U / טור של Supermicro, והיא פותרת בעיה ספציפית של רכש: איך לפרוס חישוב מסוג NVIDIA H100 מבלי להתחייב למכשיר HGX אטום עם שמונה GPU והוצאות ההון המתלוות. מדובר בשרת GPU עם PCIe, מה שאומר שבוחרים את ה-GPU, את הכמות ואת תבנית הפריסה, ומרחיבים על פי לוח הזמנים שלכם. תצורת GPU ומה שמתאים. המארז תומך עד ארבעה GPU בפ double-width, באורך מלא, ב-ארבעה חריצי PCIe 5.0 x16 כפולי-רוחב, ועוד שלושה חריצי PCIe 5.0 x16 בודדים לשם רשתות, בקרי אחסון או מאיצים בודדים. רשימת ה-GPU המאושרת של NVIDIA כוללת את ה-H100 PCIe, H100 NVL (94GB), A100, A30, L4, L40, L40S, ו-RTX PRO 6000 Blackwell Max-Q Workstation Edition, יחד עם הכרטיסים המקצועיים RTX Ada ו-Ampere. גם ה-AMD… Instinct MI210 מאושר. רוחב זה חשוב כי הוא מאפשר לפלטפורמה אחת לשרת עומסי עבודה של אימון (H100, H100 NVL), הנחה (L40S, L4), והדמיה (RTX PRO 6000, RTX 6000 Ada), תלוי בכרטיסים שתתקינו. איך היא שונה ממערכת HGX H100, ולמה זה חשוב לתקציב שלכם. פלטפורמת HGX H100 אמיתית משתמשת ב-SXM5 GPU והגישה ל-NVSwitch שמחברת שמונה GPU במהירות 900 GB/s כל אחת. זה הכלי הנכון לאימון מבוזר בקנה מידה עצום שבו רוחב הפס בין GPUs הוא הגורם המוגבל, והמחיר והתשתית תואמים. ה-741GE-TNRT משתמש ב-GPU עם PCIe שמתקשרים דרך PCIe 5.0, עם גשרים NVLink אופציונליים על זוגות תומכים. ליישומי inference, כוונון מדויק, שירות רב-משתמשים, עיבוד תלת-ממדי ועמדות AI עסקיות רבות שאינן דורשות רשת NVSwitch שמונה-כיוונית, הפלטפורמה עם PCIe מספקת את אותו חישוב H100 לכל כרטיס במחיר ומורכבות נמוכים יותר. אתם קונים את ה-GPU שאתם צריכים עכשיו ומוסיפים יותר כאשר השימוש מצדיק זאת. חישוב וזיכרון. Dual Socket E (LGA-4677) תומך במעבדי Intel Xeon Scalable דור 4 ודור 5, עד 64 ליבות ו-128 תהליכים לכל חריץ, עם עד 320MB מטמון לכל CPU. שישה עשר חריצי DIMM מסוג DDR5 מגיעים ל-4TB זיכרון ECC במהירות 4800 MT/s (דור 4) או 5600 MT/s (דור 5). בעומסי עבודה של AI, המקום במהירות המעבד והזיכרון חשוב יותר ממה שנראה: טעינת נתונים, עיבוד מוקדם, שדרוג והזנה של ארבעה GPU רעבים בלי צוואר בקבוק דורשים throughput אמיתי מהשרת, ושילוב CPU דק משותף מרעיב את המאיצים היקרים האלה. אחסון וקלט/פלט. שמונה תיבות אחסון עם החלפה חמה בגודל 3.5"/2.5" תומכות ב-NVMe, SATA ו-SAS, שניתן להגדיר ליותר מ-שמונה NVMe לאחסון נתונים בתפוקה גבוהה. שתי חריצי M.2 NVMe ייחודיים מתפקדים ככונן אתחול בנפרד, כך שהמערכת לא תחרות על קלט/פלט עם נתוני האימון. הרשת המובנית היא dual 10GbE באמצעות בקר Intel X550-AT2, עם החריצים הבודדים זמין לחיבורים של 25/100GbE או InfiniBand כאשר יש צורך במארג רשת מרובה צמתים. פריסה, חשמל וניהול. המארז משתנה בין טור מלא ל-4U בארגונית, כך שניתן להריץ אותו ליד השולחן ולשנות את מיקומו באחסון משולב ללא צורך ברכישת חומרה חדשה. ספקי הכוח הרזרביים מקבלים יעילות 80 PLUS Titanium (2000W עד 2700W בהתאם לקונפיגורציה), הרמה הגבוהה ביותר ליעילות, המפחיתה את ההוצאות החשמל על מכשיר שיכול להיות תחת עומס של ארבעה GPU. ארבעה מאווררי כבדות עם שליטה אופטימלית במהירות מווסתים את הטמפרטורות. ניהול וביטחון כוללים IPMI 2.0 עם KVM-over-LAN לניהול מרחוק, TPM 2.0 וביטול בטוח Secure Boot. הפלטפורמה מאושרת על ידי Red Hat Enterprise Linux, Oracle Linux, Windows Server 2022, ו-Citrix Hypervisor. היכן היא מתאימה בליין של MillionMiner. לצוותים שמעוניינים בגמישות מקסימלית ב-GPU בתוך מארז אחד ליד השולחן או ב-4U, ה-741GE-TNRT הוא כוכב העבודה. למערכות אימון עם שמונה GPU קבועים על SXM בגדול, המערכות HGX H100 ו-DGX הן השדרוג הבא. עבור הגבול המוחלט, פלטפורמת DGX GB200 Blackwell מובילה. בחברת MillionMiner קובעים את ההגדרות המתאימות לטעינת העבודה האופיינית שלכם במקום למכור לכם יותר פסיל של פלטפורמה ממה שדרוש. מכיוון שמספר ה-GPU, תבניות NVLink, אחסון ורשת משתנים, כל הזמנה מוגדרת ומוצעת באופן אישי, נבדקת ומסופקת בכל העולם בדלת לדלת עם מכס ומע"מ.]