خادم Supermicro GPU A+ AS-8126GS-NB3RT NVIDIA HGX B300 NVL8

يعد Blackwell Ultra الجيل الأول من وحدات معالجة الرسوميات (GPU) التي تم تصميمها بعد أن تعلمت الصناعة مدى تكلفة نماذج الاستدلال في تقديم الخدمات. أجاب B200 على سؤال التدريب؛ وB300 يجيب على سؤال عصر الاستدلال الذي تبعه، والتغييرات هنا محددة وليست تجميلية فقط. منصة Supermicro A+ هذه هي العقدة التي تحتوي على 8 وحدات معالجة رسومية من نوع NVIDIA Blackwell Ultra B300 SXM. يجمع مجمع GPU على اللوحة الأساسية HGX B300 NVL8 ثمانية وحدات معالجة رسومية من نوع NVIDIA Blackwell Ultra B300 SXM، كل منها يحتوي على 288 جيجابايت من HBM3e، أي 60 بالمئة أكثر من B200، مما يسمح بتجميع 2,304 جيجابايت عبر العقدة. ينضم NVLink من الجيل الخامس إلى كل وحدة معالجة رسومية بسرعة 1.8 تيرابايت/ثانية عبر NVSwitch في شبكة كاملة. تصنف NVIDIA معدل throughput الكثيف لـ FP4 للعقدة B300 عند 1.5 ضعف معدل B200، مع زيادة مركزة تماما حيث يوجد استضافة الأحجام الكبيرة، والسبب في ذلك هو أن محرك Transformer من الجيل الثاني: المقياس micro-tensor هو الذي يجعل الاستنتاج ذو الأربعة بتات يحتفظ بدقة الإنتاج. يظل عرض النطاق الترددي للذاكرة لكل وحدة معالجة رسومية ضمن فئة 8 تيرابايت/ثانية؛ السعة هي العنوان الرئيسي، لأن السعة هي ما تنفذه عبء العمل في الاستدلال أولاً. لماذا تحدد السعة عصر الاستدلال. نموذج يفكر قبل الإجابة يولد رموزًا داخلية، وكل واحد منها يحتل مخزن KV طوال مدة الاستجابة. تتضاعف آثار تتبع الاستدلال الطويل، والنوافذ السياقية الممتدة، والخدمة بتزامن عالٍ. على العقد الصغيرة، يكون الناتج هو التحميل الزائد، أو انهيار حجم الدُفعة، أو كليهما، وتنخفض هوامش الخدمة معها. عقدة بسعة 2.3 تيرابايت تحتوي على أوزان على مستوى الحدود الأمامية والمؤشرات المؤقتة التي تولدها في آنٍ واحد، وهذه هي الفارق بين نموذج يناسب وبيئة نشر تربح.

النسيج المدمج، وما يغيره في الهيكل. تحمل لوحة الأساس HGX B300 NVL8 شبكتها الخاصة: ثمانية منافذ OSFP بسرعة 800 جيجابت/ثانية، واحدة لكل وحدة معالجة رسومية، وهو ضعف معدل كل منفذ من محولات الإضافة من الجيل السابق. لهذا السبب، تظهر ورقة المواصفات فقط منصتين للتمديد PCIe 5.0، حيث كانت أنظمة فئة B200 تحتوي على اثنتي عشرة منصة؛ كانت المنصات الاثنتي عشرة تستخدم لاستضافة NICs، وتلك NICs الآن موجودة على اللوحة الأساسية. بالنسبة لنشر العقد المتعددة، فإن النتيجة هي بنية أكثر نظافة، ونسيج أسرع، وتصميم موثوق لتوصيل GPUDirect RDMA مضمون بدلاً من التركيب حسب الطلب. المنصتان المتبقيتان تستضيفان التخزين وشبكة الإدارة.

الخادم Supermicro. المعالجان AMD EPYC 9005 أو 9004، حتى 192 نواة لكل مقبس على خط 9005، يوفران عمليات ما قبل المعالجة، والتوكن، وتحميل البيانات التي تتطلبها ثماني وحدات معالجة رسومية من هذا الطراز. تملأ 24 وحدة DDR5 بسرعة 6400 MT/ثانية منصة واحدة لكل قناة عبر اثني عشر قناة لكل معالج، وتتوفر بسعة تصل إلى 6 تيرابايت، مع الحفاظ على كامل عرض النطاق الترددي، بينما تكون بعيدًا عن تجمع وحدات معالجة الرسومات، وهو قاعدة الحجم التي يشرحها هذا الكتالوج، مع وجود مساحة كافية. تحتوي ثمانية فتحات NVMe أمامية قابلة للتبديل السريع من نوع E1.S على مجموعات البيانات على العقدة، وستة مزودات طاقة Titanium بقوة 6600W بدلًا من ذلك، في ترتيب متكرر، وتحدد غلاف طاقة غير غامض ما إذا كانت هذه آلة مركز البيانات من فئة التهوية بالهواء من عقدة واحدة.

القرار بعدم اختيار HGX B200 في هذا الكتالوج. تقدم وحدة Gigabyte B200 سعة 1.4 تيرابايت ونفس جيل NVLink، ولبرامج التدريب وفرق الخدمة التي تعمل ضمن تلك السعة الذكرية، يبقى الاختيار المنطقي هو Blackwell. يثبت B300 مكانته في ثلاث حالات: فرق الاستدلال والاستنتاج ذات السياق الطويل، حيث عمق ذاكرة KV يحدد حجم الدُفعة، وبالتالي الاقتصاد الوحدوي، والنشر الذي يخدم نماذج الحدود، والتي تتجاوز 1.4 تيرابايت، والمشغلين الذين يقومون بتوحيد الشبكة المدمجة بسرعة 800 جيجابت/ثانية لنمو العقد المتعددة. أدنى من تلك العتبات، يكسب B200 من حيث الاقتصاديات؛ عندها، يعتبر B300 هو العقدة الوحيدة التي تتفق مع متطلبات الأداء.

القرار بعدم الاعتماد على النطاق الرأسي للرفوف. فوق هذه الآلة، توجد أنظمة فئة GB200 وGB300، حيث تتقاسم 72 وحدة معالجة رسومية NVLink واحدة ضمن تبريد سائل وهندسة مرفق متطابقة. الحد الفاصل لم يتغير: إذا كانت عملية التدريب تتطلب أكثر من ثماني وحدات معالجة رسومية من نوع Blackwell Ultra ضمن نطاق متماسك واحد، فإن النطاق الرأسي هو الحل. بالنسبة لكل شيء يناسب ثماني وحدات معالجة رسومية من نوع Blackwell Ultra، والذي يشمل الآن استضافة أكبر النماذج المنتشرة، تقدم هذه العقدة الجيل بدون مشروع مرفق، وتقوّي من انتشارها عبر شبكتها المدمجة بسرعة 800G.

الامتثال للتصدير والطلب. تكون المسرعات من فئة Blackwell خاضعة لقيود التصدير الأمريكية، وتؤكد MillionMiner على أهلية الوجهة في كل عرض. يتم تكوين كل نظام حسب الطلب، ويتم اختباره وشحنه عالميًا DDP مع معالجة الضرائب والجمارك. تتوفر خدمة تخطيط النشر والاستضافة في مراكز بيانات MillionMiner الخاصة لفرق تفضل عدم تزويد طاقة الرفّ في الموقع على هذا النطاق.