क्या SYS-741GE-TNRT वास्तव में एक HGX H100 प्रणाली है?

कठोर अर्थ में नहीं, और यह भिन्नता आपको क्या खरीदना है, इस पर प्रभाव डालती है। एक सच्ची HGX H100 प्लेटफ़ॉर्म SXM5 GPU का उपयोग करता है, जो NVSwitch बेसबोर्ड पर है और आठ GPU को 900 GB/s की गति से जोड़ता है। 741GE-TNRT एक PCIe GPU सर्वर है जो अधिकतम चार H100 PCIe या H100 NVL कार्ड को समेट सकता है, जो PCIe 5.0 पर संचार करता है। यह हर कार्ड के लिए वही H100 सिलिकॉन चलाता है, लेकिन यह एक लचीला PCIe प्लेटफ़ॉर्म है, न कि बंद आठ-तरफ़ा SXM उपकरण। अधिकांश उद्यम AI कार्य के लिए, विशेष रूप से सीमांत-स्तर के वितरित प्रशिक्षण के बाहर, यह अधिक लागत-कुशल विकल्प है।

मैं किन GPUs को स्थापित कर सकता हूँ?

प्रमाणित सूची से चार डबल-वाइड NVIDIA कार्ड तक: H100 PCIe, H100 NVL (94GB), A100, A30, L4, L40, L40S, और RTX PRO 6000 Blackwell Max-Q, साथ ही RTX Ada और Ampere पेशेवर कार्ड। AMD Instinct MI210 का भी समर्थन किया गया है। आप एक ही मॉडल के चार कार्ड चला सकते हैं या प्रशिक्षण, इनफ़रेन्स, और विज़ुअलाइज़ेशन आवश्यकताओं के अनुसार कार्ड का मिश्रण कर सकते हैं।

यह लागत एक निश्चित HGX H100 सर्वर की तुलना में कैसी है?

एक स्थायी HGX H100 प्रणाली आपको आठ SXM GPU और NVSwitch बेसबोर्ड को एक ही सीलबंद खरीद के रूप में प्रतिबद्ध करती है, जो केवल स्थायी उच्च उपयोग की स्थिति में ही लाभकारी साबित होती है। 741GE-TNRT आपको एक या दो GPU के साथ शुरू करने और जैसे-जैसे कार्यभार बढ़ता है, कार्ड जोड़ने की अनुमति देती है, ताकि आपकी प्रारंभिक निवेश आपकी वास्तविक मांग के अनुरूप हो। क्योंकि अंतिम निर्माण GPU संख्या और मॉडल पर निर्भर करता है, MillionMiner प्रत्येक कॉन्फ़िगरेशन का व्यक्तिगत रूप से उद्धरण देता है।

यह किस प्रकार के CPU और मेमोरी का समर्थन करता है?

डुअल सॉकेट E (LGA-4677) चौथी और पाँचवीं पीढ़ी के Intel Xeon Scalable प्रोसेसर के लिए, प्रत्येक सॉकेट पर 64 कोर और 128 थ्रेड तक। सोलह DDR5 DIMM स्लॉट 4TB ईसीसी मेमोरी तक पहुंचाते हैं, जिसमें 5वीं पीढ़ी के CPUs के साथ 5600 MT/s तक है। यह होस्ट हेडरूम डेटा लोडिंग और प्रीप्रोसेसिंग को GPUs के बॉटलनेक से रोकता है।

क्या मैं इसे टावर के रूप में चला सकता हूँ, या इसे रैक की आवश्यकता है?

दोनों। चेसिस एक फुल टावर और एक 4U रैकमाउंट फॉर्म फैक्टर के बीच परिवर्तित होता है। एक अनुसंधान टीम इसे डेस्कसाइड चला सकती है, फिर बाद में hetzelfde मशीन को कोलोकेशन रैक में ले जाकर हार्डवेयर बदले बिना संचालित कर सकती है।

यह इसमें कौन सा संग्रहण और नेटवर्किंग शामिल है?

आठ हॉट-स्वैप 3.5"/2.5" बे, जो NVMe, SATA, या SAS का समर्थन करते हैं, आठ NVMe ड्राइव तक कॉन्फ़िगर करने योग्य, साथ ही दो समर्पित M.2 NVMe बूटी स्लॉट्स ताकि OS I/O डेटा सेट I/O से अलग रहे। ऑनबोर्ड नेटवर्किंग ड्यूल 10GbE (Intel X550-AT2) है, जिसमें सिंगल-विड्थ PCIe 5.0 स्लॉट्स 25/100GbE या InfiniBand के लिए मुक्त हैं जब क्लस्टरिंग नोड्स की बात आती है।

यह सर्वर किस प्रकार के कार्यभार के लिए सबसे उपयुक्त है?

एआई और गहरे सीखने के प्रशिक्षण, LLM इनफ़ेरेंस और फ़ाइन-ट्यूनिंग, मल्टी-टेनेंट मॉडल सेवा, HPC, 3D रेंडरिंग, निदान इमेजिंग, VDI, और डिज़ाइन और विज़ुअलाइज़ेशन। GPU लचीलापन का मतलब है कि वही चेसिस H100 NVL कार्ड के साथ प्रशिक्षण निर्माण या RTX PRO 6000 कार्ड के साथ विज़ुअलाइज़ेशन निर्माण को संभाल सकता है।

क्या यह GPU के बीच NVLink का समर्थन करता है?

इस प्लेटफ़ॉर्म में PCIe GPU सामान्यत: PCIe 5.0 x16 पर संचार करते हैं, जिसमें NVLink ब्रिज समर्थित कार्ड जोड़े जैसे H100 NVL, का उपयोग कर सकते हैं, जो दो कार्डों को 94GB एकीकृत पूल में जोड़ता है। यह HGX SXM सिस्टम के आठ-तरफा NVSwitch फैब्रिक का उपयोग नहीं करता है। विश्लेषण और अधिकांश सूक्ष्म-समायोजन के लिए यह पर्याप्त है; सीमा-स्तर के वितरित प्रशिक्षण के लिए, एक HGX या DGX प्लेटफ़ॉर्म बेहतर विकल्प है।

मैं कितनी शक्ति और दक्षता की योजना बनाऊं?

अतिप्राचीन 80 PLUS Titanium शक्ति आपूर्ति, जो सर्वोच्च दक्षता श्रेणी है, 2000W से 2700W तक रेट की गई है, जो कॉन्फ़िगरेशन पर निर्भर करता है। एक पूर्ण रूप से आबाद चार-GPU H100 बिल्ड बहुत अधिक ऊर्जा खपत करता है, इसलिए साइट की बिजली और शीतलन की योजना अंतिम GPU गणना के अनुसार की जानी चाहिए, जिसे MillionMiner कॉन्फ़िगरेशन के दौरान पुष्टि करता है।

मैं कैसे ऑर्डर करूँ और यह कैसे डिलीवर किया जाता है?

चूंकि GPU की संख्या, GPU मॉडल, संग्रहण, और नेटवर्किंग सभी निर्माण को प्रभावित करते हैं, इसलिए सर्वर को ऑर्डर करने के लिए कॉन्फ़िगर किया गया है। अपनी कार्यभार और परिनियोजन विवरणें मिलियनमाइनर के साथ साझा करें, विशेषज्ञ के साथ कॉन्फ़िगरेशन की पुष्टि करें, और सिस्टम बनाकर टेस्ट किया जाता है और विश्वभर में DDP के साथ शिप किया जाता है जिसमें ड्यूटी और सीमा शुल्क का प्रबंधन पहले ही कर लिया जाता है। मिलियनमाइनर के डेटा सेंटर में होस्टिंग भी उपलब्ध है यदि आप इसे ऑन-साइट चलाना नहीं चाहते हैं।

Supermicro SYS-741GE-TNRT 4-GPU H100 AI सर्वर

Name: Supermicro SuperServer SYS-741GE-TNRT 4-GPU H100 AI सर्वर
Brand: Supermicro
SKU: MM2026SMC741GETNRT
Price: 5999.00 USD
Availability: BackOrder

SYS-741GE-TNRT सुपरमाइक्रो का X13 4U/टॉवर GPU प्लेटफार्म है, और यह एक विशिष्ट खरीद समस्या का समाधान करता है: NVIDIA H100-श्रेणी की कंप्यूटिंग को बिना सीमित आठ-GPU HGX उपकरण और उसकी पूंजी लागत के बिना कैसे तैनात करें। यह एक PCIe GPU सर्वर है, जिसका अर्थ है कि आप GPUs, गणना की संख्या, और तैनाती का प्रारूप चुनते हैं, और अपने समय-सारणी के अनुसार विस्तार करते हैं। GPU कॉन्फ़िगरेशन और क्या फिट होता है। चेसिस चार PCIe 5.0 x16 डबल-विड्थ स्लॉट्स में चार डबल-विड्थ GPUs तक समर्थन करता है, साथ ही नेटवर्किंग, स्टोरेज कंट्रोलर या सिंगल-स्लॉट एक्सेलेरेटर के लिए तीन अतिरिक्त PCIe 5.0 x16 सिंगल-विड्थ स्लॉट्स। मान्य NVIDIA GPU सूची में H100 PCIe, H100 NVL (94GB), A100, A30, L4, L40, L40S, और RTX PRO 6000… Blackwell Max-Q Workstation Edition शामिल हैं, साथ ही RTX Ada और Ampere पेशेवर कार्ड। AMD Instinct MI210 भी मान्य है। यह व्यापकता महत्वपूर्ण है क्योंकि यह एक प्लेटफार्म को प्रशिक्षण (H100, H100 NVL), अनुमान (L40S, L4), और विज़ुअलाइज़ेशन (RTX PRO 6000, RTX 6000 Ada) कार्यभार के अनुसार सेवा देने की अनुमति देता है, इस पर निर्भर करता है कि आप कौन से कार्ड इंस्टॉल करते हैं। यह HGX H100 सिस्टम से कैसे भिन्न है, और यह आपके बजट के लिए क्यों महत्वपूर्ण है। एक सच्चा HGX H100 प्लेटफार्म SXM5 GPUs का उपयोग करता है, जिन्हें NVSwitch बेसबोर्ड पर सोल्डर किया जाता है, जो आठ GPUs के बीच 900 GB/s की इंटर GPU बैंडविड्थ प्रदान करता है। यह फ्रंटियर-स्तर के वितरित प्रशिक्षण के लिए सही उपकरण है जहां इंटर-GPU बैंडविड्थ बाधा है, और यह मूल्य और अवसंरचना पदचिह्न भी लेता है। 741GE-TNRT PCIe GPUs का उपयोग करता है जो PCIe 5.0 पर संवाद करते हैं, और समर्थित जोड़ों पर Optional NVLink ब्रिज के साथ। अनुमान, फाइन-ट्यूनिंग, मल्टी-टेनेंसी सेवा, रेंडरिंग, और अधिकांश एंटरप्राइज़ AI कार्यभार के लिए जो आठ-तरफ़ा NVSwitch फेब्रिक की आवश्यकता नहीं रखते, PCIe प्लेटफार्म वही H100 कंप्यूट प्रति कार्ड प्रदान करता है, वह भी प्लेटफार्म लागत और जटिलता के एक हिस्से पर। आप आवश्यक GPU अभी खरीदते हैं और उपयोगिता के आधार पर और अधिक जोड़ते हैं। कंप्यूट और मेमोरी। Dual Socket E (LGA-4677) 4th और 5th जेन Intel Xeon Scalable प्रोसेसर स्वीकार करता है, प्रत्येक सॉकेट पर 64 कोर और 128 थ्रेड्स तक, प्रत्येक CPU के साथ 320MB तक कैश। सोलह DDR5 DIMM स्लॉट्स 4TB ECC मेमोरी तक पहुंचाते हैं, 4800 MT/s (4th जेन) या 5600 MT/s (5th जेन) की गति से। AI कार्यभार के लिए यह CPU और मेमोरी क्षमता अधिक महत्वपूर्ण हो जाती है क्योंकि डेटा लोडिंग, प्रीप्रोसेसिंग, उन्नयन, और चार भूखे GPUs को बिना बोझ डालने के लिए वास्तविक होस्ट-साइड थ्रूपुट की आवश्यकता होती है, और एक पतला CPU महंगे एक्सेलेरेटर को भूखा कर देता है। स्टोरेज और I/O। आठ हॉट-स्पैः आठ 3.5"/2.5" ड्राइव बेसेस NVMe, SATA, और SAS का समर्थन करते हैं, जिन्हें अधिकतम आठ NVMe ड्राइव के लिए कॉन्फ़िगर किया जा सकता है उच्च-थ्रूपुट डेटा सेट संग्रह के लिए। दो समर्पित M.2 NVMe स्लॉट बूट ड्राइव को संभालते हैं, ताकि OS I/O कभी भी प्रशिक्षण डेटा के साथ टकराए नहीं। ऑनबोर्ड नेटवर्किंग Intel X550-AT2 नियंत्रक के माध्यम से दो 10GbE, और जब आप कई नोड्स क्लस्टर करते हैं, तो एकल-विड्थ PCIe स्लॉट 25/100GbE या InfiniBand ऐडाप्टर के लिए उपलब्ध हैं। तैनाती, शक्ति, और प्रबंधन। चेसिस फुल-टावर और 4U रैकमाउंट के बीच रूपांतरण करता है, ताकि एक शोध टीम इसे डेस्कसाइड चला सके और बाद में नई हार्डवेयर खरीदे बिना इसे कोलोकेशन रैक में स्थानांतरित कर सके। दोहराने योग्य पावर सप्लाई 80 PLUS Titanium दक्षता (2000W से 2700W, कॉन्फ़िगरेशन पर निर्भर) प्रदान करती है, जो उच्चतम दक्षता स्तर है, और यह एक ऐसी मशीन पर बिजली की खपत को कम करता है जो चार-GPU लोड के तहत भारी मात्रा में शक्ति खींच सकती है। चार प्रभावशाली त्रि-प्रकार फैंस, शीतलन नियंत्रण के साथ, तापमान को नियंत्रित करते हैं। प्रबंधन और सुरक्षा में IPMI 2.0 और KVM-over-LAN के साथ रिमोट प्रशासन, TPM 2.0, और Secure Boot शामिल हैं। प्लेटफ़ॉर्म को Red Hat Enterprise Linux, Oracle Linux, Windows Server 2022, और Citrix Hypervisor के लिए प्रमाणित किया गया है। मिलियनमाइनर के कैटलॉग में यह कहाँ फिट होता है। जो टीमें अधिक GPU लचीलापन चाहती हैं, उनके लिए यह 741GE-TNRT एक काम का उपकरण है। स्थैतिक आठ-GPU SXM प्रशिक्षण के लिए, HGX H100 और DGX-श्रेणी के सिस्टम अगला कदम हैं। सबसे पराकाष्ठा के लिए, DGX GB200 Blackwell प्लेटफॉर्म नेतृत्व करता है। मिलियनमाइनर आपके वास्तविक कार्यभार के अनुसार सही कॉन्फ़िगरेशन तय करता है बजाए कि आपको अधिक प्लेटफार्म बेचने के। क्योंकि GPU गणना, NVLink टोपोलॉजी, स्टोरेज, और नेटवर्किंग सभी बिल्ड को बदलते हैं, हर ऑर्डर को व्यक्तिगत रूप से कॉन्फ़िगर और कोट किया जाता है, फिर विश्वव्यापी DDP में परीक्षण और डिलीवर किया जाता है, कस्टम्स के साथ संभाला जाता है।

अधिक पढ़ें Show Less