خادم Supermicro SuperServer SYS-741GE-TNRT 4-GPU H100 AI

يعتبر SYS-741GE-TNRT منصة GPU من Supermicro ذات تصميم 4U/برج، وتحل مشكلة شراء محددة: كيفية نشر حوسبة NVIDIA H100 من فئة بدون الالتزام بجهاز HGX مغلق ثماني وحدات GPU وتكلفته الرأسمالية. هذا هو خادم GPU عبر PCIe، مما يعني أنكم تختارون وحدات GPU، والعدد، وتنسيق النشر، وتقومون بالتوسع وفقاً لجدولكم الخاص. تكوين GPU وما يناسبكم. يدعم الهيكل ما يصل إلى أربعة وحدات GPU ذات عرض مزدوج، وطول كامل عبر أربعة فتحات PCIe 5.0 x16 ذات عرض مزدوج، بالإضافة إلى ثلاثة فتحات PCIe 5.0 x16 إضافية ذات عرض واحد للاتصالات الشبكية، أو وحدات تحكم التخزين، أو المعجلات ذات الفتحة الواحد. تتضمن قائمة وحدات GPU المعتمدة من NVIDIA وحدة PCIe H100، H100 NVL (94GB)، A100، A30، L4، L40، L40S، بالإضافة إلى إصدار محطة العمل RTX PRO 6000 Blackwell Max-Q، إلى جانب بطاقات RTX Ada وAmpere الاحترافية. كما أن وحدة AMD Instinct MI210 معتمدة أيضاً. يهم هذا التنوع لأنه يتيح لمنصة واحدة أن تخدم مهام التدريب (H100، H100 NVL)، والاستنتاج (L40S، L4)، والتصور (RTX PRO 6000، RTX 6000 Ada) اعتمادًا على البطاقات التي تقوم بتثبيتها. كيف يختلف عن نظام HGX H100، ولماذا يهم ذلك لميزانيتكم. يستخدم منصة HGX H100 الحقيقية وحدات GPU من نوع SXM5 ملحومة على لوحة أساسية NVSwitch تربط ثماني وحدات GPU بسرعة 900 جيجابايت/ثانية لكل منها. وهو الأداة المناسبة للتدريب الموزع على نطاق عريض حيث يكون عرض النطاق الترددي بين وحدات GPU عنق الزجاجة، وتحمل تكلفة وبصمة بنية تحتية مناسبة. يستخدم 741GE-TNRT وحدات GPU عبر PCIe تتواصل عبر PCIe 5.0، مع جسور NVLink اختيارية على الأزواج المدعومة. للاستنتاج، والتحسين الدقيق، والخدمة متعددة المستخدمين، والتصيير، ومعظم أعمال الذكاء الاصطناعي للمؤسسات التي لا تتطلب نسيج NVSwitch من ثماني طرق، تقدم منصة PCIe نفس حوسبة H100 لكل بطاقة بتكلفة وتعقيد أقل بكثير من المنصة. تشتري وحدات GPU التي تحتاجها الآن وتضيف المزيد مع زيادة الاستخدام. الحوسبة والذاكرة. يقبل زوج من معالجات Intel Xeon Scalable من الجيل الرابع والخامس، موديل LGA-4677، حتى 64 نواة و128 خيطًا لكل مقبس مع ما يصل إلى 320MB من ذاكرة التخزين المؤقت لكل CPU. تصل ستة عشر فتحة DDR5 DIMM إلى 4TB من ذاكرة ECC بسرعة 4800 MT/ثانية (الجيل الرابع) أو 5600 MT/ثانية (الجيل الخامس). بالنسبة لأحمال عمل الذكاء الاصطناعي، يهم هذا السعة من المعالجات والذاكرة أكثر مما يبدو: تحميل البيانات، وأتمتة المعالجة المسبقة، والتعزيز، وتغذية أربع وحدات GPU جائعة دون عنق زجاجة يتطلب عرض النطاق الحقيقي من الجانب المضيف، ويؤدي pairing ضعيف إلى إفقاد تسارع مكلف. التخزين والـ I/O. تدعم ثمانية حاويات أقراص قابلة للتبديل الساخن بحجم 3.5"/2.5" NVMe، SATA، وSAS، ويمكن تهيئتها لتصل إلى ثمانية أقراص NVMe لتخزين بيانات عالي الأداء. تتعامل فتحة M.2 NVMe المخصصة مع قرص التمهيد بشكل منفصل، بحيث لا تتنافس نظام التشغيل مع بيانات التدريب. الشبكة المدمجة توفر اتصالين بسرعة 10 جيجابت عبر وحدة تحكم Intel X550-AT2، مع فتحات PCIe ذات عرض واحد متاحة لـ 25/100 جيجابت أو موصلات InfiniBand عندما تحتاجون إلى تكوين تجمعات متعددة للوحدات. النشر، والطاقة، والإدارة. يحول الهيكل بين وضع البرج الكامل ورف بحجم 4U، بحيث يمكن لفريق البحث تشغيله على مكتبه، ثم نقله لاحقًا إلى خزانة استضافة بدون شراء أجهزة جديدة. مزودات الطاقة الاحتياطية بكفاءة عالية من نوع 80 PLUS Titanium (2000W إلى 2700W حسب التهيئة)، وهي أعلى فئة كفاءة، تقلل من استهلاك الطاقة على جهاز قد يستهلك بشكل كبير تحت حمولة أكثر من وحدة GPU واحدة. تتيح أربعة مراوح قوية قابلة للإزالة مع تحكم في السرعة المثلى إدارة الحرارة. تشمل الإدارة والأمان IPMI 2.0 مع KVM عبر LAN للإدارة عن بعد، وTPM 2.0، وSecure Boot. معتمد على Red Hat Enterprise Linux، Oracle Linux، Windows Server 2022، وCitrix Hypervisor. حيث يتناسب ذلك في كتالوج MillionMiner. للفرق التي ترغب في أعلى مرونة لوحدات GPU في صندوق مكتبي أو 4U، يعتبر 741GE-TNRT العمود الفقري. للأنظمة التدريبية ذات الثماني وحدات SXM على نطاق واسع، فإن أنظمة HGX H100 وDGX من الطراز الأعلى هي التطوير التالي. لأقصى حدود الأداء، يتصدر منصة DGX GB200 Blackwell. تتولى شركة MillionMiner تحديد التكوين الصحيح بناءً على عبء العمل الحقيقي الخاص بكم بدلاً من بيعكم منصة أكثر مما تحتاجون. لأن عدد وحدات GPU، وطوبولوجيا NVLink، والتخزين، والاتصالات جميعها تؤثر على البناء، يتم تكوين كل طلب وعرض سعر بشكل فردي، ثم اختباره وتوصيله عالميًا مع الشحن المباشر، مع التعامل مع الجمارك.