באיזה מערך GPU באמת מצויד השרת הזה?

NVIDIA HGX B300 NVL8: שמונה GPU של Blackwell Ultra B300 SXM עם 288GB של HBM3e כל אחד, 2,304GB משותפים לכל צומת, מחוברים באמצעות NVSwitch על ידי NVLink שחמשת הדורות במהירות 1.8 טרה-ביט לשנייה לכל GPU. המספר של 1.800 GB/s של רוחב פס על דף המפרטים הוא זה של קצב NVLink לכל GPU. NVIDIA מעריכה את תוצאת FP4 הצפופה של הדור ב-1.5 פעמים את ה-HGX B200.

מה תורם נקודה בעומס העבודה?

מודלים בקנה מידה פרונטירי זמינים עם מרחב ראש KV מלא, מודלים במאות מיליארדי פרמטרים מיומנים בדיוק מלא בתוך عقدה אחת, ומערכות שיורעות או תורים ארוכי הקשר מחזיקות בגודל באצה שהפולימרים הקטנים יותר של הזיכרון אינם יכולים לעמוד בהם. מאגר ה-2.3TB קיים מכיוון שהגשת שרשרת מחשבה מכפילה את היקף הזיכרון המטמון, ועומק המטמון הוא זה שמגדיר את כלכלת ההגשה.

מדוע לבחור בשרת Intel Xeon 6700P?

שני סיבות עיקריות. הרחבות מטריצת AMX על פני ליבות הביצוע של Xeon 6 מזרזות את עבודת צד השרת שמייצרת צומת 8-GPU, כגון טוקניזציה, עיבוד מראש, ושלבים בצינור ה-CPU. וסטנדרטיזציה של הציוד הראשון: ארגונים המבוססים על אינטל נושאים כלים מכווננים Xeon, עמדות רישוי, וחבילות תפעול מאושרות, וכך גם צומת Blackwell Ultra שמצטרף לנכס זה מבלי לאשר פלטפורמה שנייה. עד 86 ליבות לכל חריץ ב-350W, עם שמונה ערוצי DDR5 לכל מעבד.

איך זה משווה למערכת Supermicro HGX B300 בקטלוג זה?

המתקן של ה-GPU זהה מבחינת הבנייה, לכן ההחלטה היא על ה-host והבנייה. ה-Supermicro רץ על AMD EPYC 9005 עם עד 192 ליבות לכל חריץ ועד 6TB זיכרון, הבחירה הטובה לציי AMD ועיבוד מקדים שמצריך צפיפות ליבות גבוהה. הבנייה של ASUS רצה על פלטפורמת Intel Xeon 6 עם AMX, בתוך מארז המתוכנן להפחתת תילובים ולשירות מהיר. MillionMiner מצטטים את שני המארזים וממליצים בהתאם לתשתיות הקיימות שלכם.

מדוע הרשת מופעלת על לוח האם במקום کارتיי PCIe?

מאחר שנייבדיה אינטגרציה את זה שם בגרסה HGX B300 NVL8. שמונה יציאות ConnectX-8 InfiniBand ב־800G, אחת לכל GPU, משולבות כחלק מהמינרוג GPU, מכפילות את קצב התעבורה של היציאות לעומת הדורות הקודמים של הרחבת הכרטיסים. הטופולוגיה של יציאה אחת לכל GPU שדורשת GPUDirect RDMA מובטחת על ידי תכנון, הפסקות בכבילה הפנימית, וקלאסטרים מרובים-אשכולות הופכים למשימה של Switch וכבילה מחוץ לתיבה במקום משימה של הרכבה בתוכה.

מה משמעות העיצוב המודולרי וללא כבלים מיותרים בפועל?

שלושה השפעות תפעוליות. פחות כבלי פנים פירושם פחות מחברים שעלולים להיכשל בשרת המיועד לפעול בעומס מתמשך במשך שנים. פחות חיווט פירושו פחות חסימות זרימת אוויר במארז שמועבר קילוואטים של חום. וכונסות מודולאריות משמעותן זמני שירות קצרים יותר, ולכן החלפת מאוורר או אספקה בזמני דקות במקום בשעות. אף אחד מהם לא מופיע בביקורות ביצועים; כל אחד מהם מופיע בימי פעולה.

מתי מערכת B300 מצדיקה את המעבר ממערכות B200 ו-H200 בקטלוג זה?

כאשר קיבולת הזיכרון או תקנון הרשת המהווה קריטריון כלכלי. תהליכים reasoning וצי רכבים ארוכים שבהם עומק מטמנת ה-KV מגדיר את גודל הקבוצה, פריסות שמשרתות מודלים שנדחפים מעבר ל-1.4TB של צומת ה-B200, ומפעילים שבונים גידול מרובה צמתים על רשת fabric של 800G – כל אלה נכנסים לכאן. עומסי עבודה שנוחים בתוך 1.4TB מועדיפים את ה-Gigabyte HGX B200, ואת אלו הנמצאים במסגרת Hopper מועדיפים את מערכות H200, ו-MillionMiner ידגמו את ההשוואה בהצעת המחיר שלכם.

כיצד צמתים מרובים מקבצים יחד?

על הרשת המשולבת: שמונה יציאות ConnectX-8 InfiniBand בגודל 800G כל אחת, אחת לכל GPU, הפועלות ב-GPUDirect RDMA כדי שגרדיאנטים ופעולות ינועו בין מכשירים ללא מעורבות המעבד המרכזי. הרחבה מעבר ל-node אחד היא תרגיל בארכיטקטורת מתגים, ו-MillionMiner מייעצים על עיצוב הרשת ככל שההפריסה גדלה.

איזה כוח ומתקנים זה דורש?

סידור נוסף 5+5 של ספקי 80 PLUS Titanium מגדיר את מעטפת החשמל, שמקומו באופן מוצק בתחום מרכז הנתונים בקצה עליונה של מחלקת הצמת יחיד. MillionMiner מאשר את הזרימה המדויקת ותוכנית החום של ההגדרה שציינתם במהלך ההצעה, והאירוח במתקני MillionMiner עצמם זמין לצוותים שמעדיפים לא לספק כוח ל rack בהיקף זה.

איך מזמינים, והאם קיימות שיקולי ייצוא?

שלחו את פרטי עומס העבודה, ההיקף והפרישה שלכם באמצעות טופס הציטוט. מומחה מ-MillionMiner יאשר את התצורה, את התאמת הזיכרון וההתקנה האחראית, את זכאות היעד לפי כללי הייצוא של ארה"ב החלים על מאיצי Blackwell, ותכנית ההספקה. כל מערכת נבדקת לפני המשלוח ומסופקת בכל העולם DDP עם מיסים ומע"מ מטופלים. ניתן לקבל הנחיות לאינטגרציית ה-ראק וממשק הפריסה המארחת.

שרת ASUS XA NB3I-E12 HGX B300 NVL8 AI

Name: שרת GPU ASUS XA NB3I-E12 NVIDIA HGX B300 NVL8
Brand: ASUS
SKU: MM2026ASUXANB3IE12
Price: 7999.00 USD
Availability: BackOrder

כל מערכת HGX B300 NVL8 מכילה את הלב של NVIDIA, כך שהדרך הכנה להציג אחת היא לציין את המכלול המשותף פעם אחת, ולאחר מכן להקדיש את הדף להחלטות שהיצרן באמת קבע. זהו המבנה של ASUS, והחלטותיו מתבססות על השרת של Intel ובעלת מארז הממוקד בפעולה. המכלול המשותף, מצוין פעם אחת. שמונה GPU של NVIDIA Blackwell Ultra B300 SXM, כל אחד עם 288GB של HBM3e, מאגר 2,304GB על פני הצומת, הזיכרון היחיד בקטלוג זה עם נפח כזה בשרת יחיד. NVLink דור רביעי דורש שכל GPU יצטרף במהירות של 1.8 TB/s דרך NVSwitch ברשת בטוחה. NVIDIA מעריכה כי בטכנולוגיית FP4 צפופה בדור זה, הקצב הוא פי 1.5 מ-HGX B200, במטרה לשפר את כלכלת השירות של מודלים שמסוגלים להסיק לפני מתן תשובה, כאשר מעקבי מחשבה ורקעים ארוכים מכפילים את קבצי ה-KV עד שמרגע… הזיכרון, ולא החישוב, קובע את גודל הח batch והמרחב. צומת בגודל 2.3TB מחזיק ביחד את המשקלים של הגבול ואת מטמון הזיכרון. לוח האם גם כולל תקשורת משלו: שמונה חיבורי ConnectX-8 InfiniBand במהירות של 800G, אחד לכל GPU, כפול מקצב הדור הקודם, ולכן מערכות מסוג זה אינן דורשות עוד חיבורי PCIe מלאים במתאמים. ארכיטקטורת הרשת ש- GPUDirect RDMA מעדיפה מובנית מראש במפעל. תיק השרת של Intel. שני מעבדי Intel Xeon 6700P מסייעים בבסיס זה, כאשר פלטפורמת ה-Xeon ב-6 ליבות מביאה עד 86 ליבות על כל חריץ ב-Watt 350. שני דברים הופכים את בחירת Intel למעשית יותר מאשר לטריביאלית. ראשון, AMX, התוספות למטריצות שמופיעות בכל ליבות Xeon 6, מזרזות בדיוק את העבודה בצד השרת שמפיקים 8 ה-GPU: טוקניזציה, עיבוד מקדים, עבודה בהטמעה, ושלבי המסקנה של צינורות מעורבבים. שנית, המציאות של הצי. ארגונים שהוטמעו ב-Intel מחזיקים בכלי עבודה מותאמים ל-Xeon, רישוי לפי ליבה, תמונות מאושרות, ומדריכי תפעול, ואלו הם שהצומת של B300 של Intel מתאים לארגון שלהם מבלי לצרף פלטפורמה מקבילה לאישור. שמונה ערוצי זיכרון DDR5 לכל מעבד, עם תמיכה במודולי MRDIMM עם רוחב פס גבוה, שומרים על מערכת הזיכרון של השרת ביחס למכלול ה-GPU שהוא מזין; תצורת הזיכרון ואחסון בוצעה על פי ההצעה שלכם. המקרה של ASUS בהנדסה. המארז מודולרי עם כבלים פנימיים מינימליים, ובדרגת כוח זו המשפט הזה משמעותי מאוד. הכבלים מפריעים לזרימת אוויר במכונה שתפקידה להעביר קילוואטים של חום; כל מחבר הוא נקודת תקלתיות בצומת שמיועד לפעול עומס קבוע שנים; וזמן שירות הוא זמן יצור כאשר שמונה GPU של Blackwell Ultra ממתינים להחלפת מאוורר. ההרכבה המודולרית של ASUS מצמצמת את כל השלושה, וזה היתרון שנוכחותו אינה נראית במבחני ביצועים והיא תמיד ניכרת ביומן תפעול. ההספק הוא מערכת רפדנית כפולה של ספקי 80 PLUS Titanium, שכבת היעילות שבה אובדן ההמרה הוא זניח ברמת גודל כזה. ההחלטה בין האחים Blackwell Ultra. בקטלוג זה קיימים שני מערכות HGX B300 NVL8, והביצוע של ה-GPU ביניהן זהה על פי התכנון. Supermicro AS-8126GS-NB3RT רץ את השרת AMD EPYC 9005 עם עד 192 ליבות על כל חריץ ועד 6TB של DDR5,בחירה לבסיסי ארגונים שמבוססים על AMD ומזוננים עיבוד מקדים עם דרישה ל-density גבוה. הבנייה של ASUS כוללת את השרת Intel Xeon ב-6 עם תכונות AMX ויתרונות מארז Intel, בתכנון שנבנה לתמיכה בשירות. מיליוןMiner מצטטים את שני המערכות וממליצים על הבסיס הקיים שלכם, ולא על העדפה. ההחלטה נגד שאר המדרג. צוותים שפועלים עם 1,4TB לכל צומת בדרך כלל מקבלים מענה מושלם עם Gigabyte HGX B200, וצוותים שמופיעים בטווח Hopper עם מערכות Lenovo או ASUS H200; ה-B300 מצטיין כשהכלכלה נקבעת על ידי קבצי KV עם קנה מידה של סיבות, גודל מודל הגבול, או תקן רשת של 800G. מעליו נמצאות המערכות GB200 ו-GB300 עם 72 ה-GPU של NVLink ומחויבות למרכזי קירור בלחץ נוזלים, למעט המיעוט שגורם למקבילות שלהן לעבור שמונה GPU בתוך תחום אחד. מאיצי Blackwell הם כפופים לבקרת יצוא אמריקאית, ו-MillionMiner מאשרת את זכאות היעד כחלק מכל הצעה. כל מערכת מותאמת לפי הזמנה, נבדקת ומועברת בדפדפן DDP בכל העולם עם מיסים ומכס מטופלים. תכנון פריסת הפריסה והתמיכה במרכזי הנתונים של MillionMiner זמינים לצוותים שמעדיפים לא לספק הספקת מתח לרדוקים במידת מעלה זו באתר.

קרא עוד Show Less