שרת Gigabyte G492-ZD0 HGX A100 עם 8-GPU, כפול AMD EPYC 7742, 4U (משומש)

אלו הם צמתים שנמשכו ממרכז נתונים מגלגלת צי מהמניין, חומרה שהייתה בשירות במתקנים מקצועיים עם בקרת אקלים. לפני המשלוח, כל יחידה עוברת אבחוני GPU מלאים על כל שמונת מודולי A100, בדיקות היסטוריית תיקון שגיאות HBM, אימות תקינות קישור NVLink ו-NVSwitch, בדיקות תפקוד מאווררים ומספקי חשמל, ובדיקות עומס מתמשך. יחידות שנכשלות בכל בדיקה לא משולחות. פרטי מצב ספציפי עבור היחידה המוצעת מאושרים בציטוט שלכם.

מכיוון שהמתקנים הגדולים למפעילי בינה מלאכותית מחזורי ציוד. כיוון שההיפרסקיילרים והמעבדות מעבירים קיבולת לדורות Hopper ו-Blackwell, תשתית ה-A100 שלהם נכנסת לשוק המשני. ההיצע הוא תוצר לוואי של מחזורי שדרוג, ולא כשל, וזוהי הסיבה שכישורי ההכשרה ב-NVSwitch אמיתיים זמינים כעת במחיר חלקי מהעלות המקורית של הפלטפורמה.

מאווררים וספקי כוח, שני חלקי סחורות ניתנים להחלפה חמה בפלטפורמה זו. המודולים A100 SXM4 עצמם אינם כוללים חלקים נעים, וסיליקון הפועל במסגרת המפרט התרמי אינו מתדרדר על פני תקופות זמן של מרכז הנתונים. הדאגה הלגיטימית עם GPU משומשים היא נזק סמוי, וזה ניתן למדידה ולא רק לשיקול של אמון: היסטוריית שגיאות HBM, מצב NVLink, והתנהגות תרמית ניתנים לקריאה מ-החומרה, שעבור זה בדיוק משמשים בדיקת ה-pre-shipment.

שמונה GPUs NVIDIA A100 80GB SXM4 על NVSwitch מלא רשת, 600 GB/ש עבור כל GPU, מת pooling ל-640GB של HBM2e. זה תומך באופטימיזציה מלאה של מודלים מקבוצה של 30 מיליארד עד 70 מיליארד פריטים עם רוחות תקינה, אימון במקבילה עם במת-המון של מודלים קטנים יותר, ו- באמצעות MIG, עד 56 מופעי GPU מבודדים חומרתית עבור הסקת מסקנות מרובת שכונה מיחידת 4U.

זה מעט מתחת לכלל שמלמד הקטלוג הזה, זיכרון המערכת שווה או מעל לסך זיכרון ה-GPU, בניגוד לבריכת ה-GPU של 640GB. לרבות ממשקים של כיוון עדין והארכות inference זו מספקת; עבור תהליכי preprocessing כבדים זהו הדבר הראשון לשדרג. שישה עשר מתוך שלושים ושניים חריצי ה-DIMM בפלטפורמה פתוחים, לכן ההבאה של ה-host ל-1TB היא פריט ציטוט במקום תכנון מחדש, ו-MillionMiner מתאימה את ההספקת הזיכרון לפי עומס העבודה האמיתי שלכם.

שמונה NICs במהירות 200 Gb/s, אחד לכל GPU, שהטופולוגיה שלהן דורשת רכזת GPUDirect RDMA: ה-GPUים ב-nodes שונים מחליפים נתונים ישירות באמצעות הרשת מבלי מעורבות של המעבד המרכזי. ה-node מגיע במצב מוכן לרכזת, וההרחבה מעבר למכונה אחת היא תרגיל של מתג וחיבורים שה-MillionMiner מייעצת עליו במהלך ההצעה.

אותו מערך מיכשור עיקרי של GPU בכל ארבעה: שמונה GPU A100 80GB SXM4 על NVSwitch. ה-DGX A100 מוסיף את מחולל התוכנה של NVIDIA ותמיכה מיצרן יחיד במחיר של מכשיר. ה-Supermicro AS-4124GO-NART+ הוא הבנייה החדשה הניתנת להגדרה. ה-Exeton Quasar 640X הוא הבנייה החדשה הקבועה. הצומת של Gigabyte שהייתה בשימוש היא הרף הנמוך לערך: אותה יכולת אימון במחיר הכניסה הנמוך ביותר, עם Condition המאומת באמצעות בדיקה ולא תעודת אחריות מהמפעל. קונים המנחים תקציב מתחילים כאן; מיילוניימינר מציג את כל הארבע בכנות.

כאשר הזיכרון או ביצועי המעבדה הם כבר המגבלה. עומסי עבודה הדוחסים מעבר ל-640GB לכל נקודה, תכניות אימון שבהן תפוקת מפעיל Transformer FP8 מקצרת תהליכים עם ערך עסקי, או שירות בהקשר ארוך יותר ממה ש-GPU של 80GB מסוגלים להחזיק, מצביעים על מערכות H800, H200, ו-B200 במקטלוג זה. यदि המודלים שלכם מתאימים בנוחות לתיבה של A100, הנקודה המשומשת היא הרכישה ההגיונית וחסכון זה מממן הרבה זמן חישוב.

הגרסאות של CUDA העדכניות וכל המסגרות המרכזיות, PyTorch, TensorFlow, JAX, TensorRT, Triton, vLLM, תומכות במבוגרת בAmpere, וציויי A100 עדיין מחזיקים בחלק ניכר מנפח יכולות הבינה המלאכותית בענן העולמי, מה שממשיך לתחזק את המערכת האקולוגית באופן פעיל. כלי MIG, NVLink ו-GPUDirect הוכחו כארוכי טווח בפלטפורמה זו.

שלחו את עומסי העבודה ופרטי הפריסה שלכם באמצעות טופס הצעות המחיר. מומחה של MillionMiner מאשר את דוח מצב היחידה הספציפית, את הכיסוי הכלול معها, כל תוספת תצורה כגון שדרוג הזיכרון, ואת תכנית ההגעה. כל מערכת נבדקת לפני המשלוח ומסופקת ברחבי העולם DDP עם תשלומי מכס ומכס מטופלים. אירוח במרכזי הנתונים של MillionMiner עצמם זמין כחלופה לפריסה באתר.