क्या DGX H100 एक पूर्ण प्रणाली है या उसके घटक हैं?

एक पूर्ण, turnkey प्रणाली। इस कैटलॉग में चुने गए bare HGX बेसबोर्ड के विपरीत, DGX H100 पूरी प्रक्रिया मशीन है: आठ H100 SXM5 GPU, दो 56-कोर Xeon प्रोसेसर, 2TB सिस्टम मेमोरी, NVMe स्टोरेज, ConnectX-7 नेटवर्किंग, और NVIDIA का सॉफ्टवेयर स्टैक, एकीकृत, परीक्षणित, और चालू करने तथा तैनात करने के लिए तैयार। अपने आप को कोई एकीकरण करने की आवश्यकता नहीं है।

DGX और HGX H100 सर्वर के बीच मुख्य अंतर यह है कि DGX विशेष रूप से AI प्रशिक्षण और मशीन लर्निंग कार्यों के लिए डिज़ाइन किए गए एक ऑल-इन-वन सिस्टम हैं, जिनमें पहले से ही GPU, CPU और सॉफ्टवेयर के संयुक्त सेट शामिल हैं। दूसरी ओर, HGX H100 एक इलेक्ट्रॉनिक्स हब है जो डेटा केंद्रों में उच्च शक्ति वाले NVIDIA H100 GPU का उपयोग करके बड़े कामकाजी नेटवर्कों और इन्फ्रास्ट्रक्चर के विकास हेतु डिज़ाइन किया गया है, और इसे आमतौर पर परिनियोजन एवं स्केलिंग के लिए एक आधार के रूप में उपयोग किया जाता है।

यह 8x H100 सिस्टम प्राप्त करने के लिए मुख्य चयन है। HGX NVIDIA का GPU बेसबोर्ड है जिसे OEMs (ASUS, Supermicro, Lenovo) अपने स्वयं के सर्वर के चारों ओर बनाते हैं; DGX NVIDIA का ही पूरा सिस्टम है उस समान GPU तकनीक पर। वे दोनों ही H100 GPUs का उपयोग करते हैं, इसलिए कच्ची GPU प्रदर्शन तुलनीय है। अंतर है एकीकरण और समर्थन में: DGX NVIDIA का मान्यताप्राप्त संदर्भ प्लेटफ़ॉर्म है जिसमें इसकी अपनी सॉफ्टवेयर और समर्थन प्रोग्राम है; एक OEM HGX सर्वर उस विक्रेता का एकीकरण है जिसकी कीमत और समर्थन मॉडल अलग है। NVIDIA की संदर्भ डिज़ाइन और समर्थन के लिए DGX चुनें; किसी अन्य कीमत या एकीकरण बिंदु के लिए OEM HGX सर्वर।

यह कौन सा प्रदर्शन प्रदान करता है?

उसके आठ H100 SXM5 GPU के साथ 32 पिटाफ्लॉप्स का FP8, जिसमें कुल GPU मेमोरी 640GB है और NVLink और NVSwitch द्वारा पूर्णतः इंटरकनेक्टेड है। यह सीमा-पथ-श्रेणी AI कंप्यूट है, जिसकी संरचना बड़े मॉडल को प्रशिक्षित करने और सेवा देने के लिए उपयोग की जाती है। डुअल 56-कोर Xeons और 2TB सिस्टम मेमोरी GPU को प्रदान करते हैं, और ConnectX-7 नेटवर्किंग बड़े क्लस्टर के लिए कई DGX सिस्टम्स के बीच स्केलिंग की अनुमति देती है।

GPUs के अलावा क्या शामिल है?

चलाने के लिए आवश्यक सभी चीज़ें: ड्यूल 56-कोर 4वीं पीढ़ी के Intel Xeon प्रोसेसर, 2TB सिस्टम मेमोरी, NVMe संग्रहण (OS के लिए 2x 1.9TB M.2 और डेटा के लिए 8x 3.84TB U.2), ConnectX-7 नेटवर्किंग के साथ OSFP पोर्ट, NVIDIA का AI Enterprise सॉफ्टवेयर स्टैक प्रीलोडेड, प्रमुख उद्यम Linux वितरणों का समर्थन, और 3 वर्षीय वारंटी। यह एक संपूर्ण, स्व-निहित AI प्रणाली है।

यह किस सॉफ्टवेयर को चलाता है?

यह NVIDIA के AI Enterprise सॉफ्टवेयर स्टैक के साथ आता है और प्रमुख एंटरप्राइज Linux वितरण का समर्थन करता है (Ubuntu, Red Hat, और अन्य)। DGX प्लेटफ़ॉर्म इस तरह डिज़ाइन किया गया है कि सॉफ्टवेयर, ड्राइवर्स, फ्रेमवर्क्स, और प्रबंधन हार्डवेयर के साथ मिलकर परीक्षण किए गए हैं, जो एक सिंगल समर्थित स्टैक के रूप में कार्य करता है, जो कि एक DGX को स्व- प्रसंस्कृत सिस्टम से अलग बनाता है। MillionMiner उद्धरण में सटीक सॉफ्टवेयर अधिकारिता की पुष्टि करता है।

इसको कितनी शक्ति और कूलिंग की आवश्यकता है?

The DGX H100 लगभग 10,2kW बोझ के तहत खींचता है और उस घनत्व की प्रणाली के अनुसार डेटा केंद्र विद्युत आपूर्ति और शीतलन की आवश्यकता होती है। यह डेटा केंद्र अवसंरचना है, एक कार्यालय मशीन नहीं। MillionMiner आपकी साइट के लिए शक्ति और शीतलन आवश्यकताओं की पुष्टि करता है और यदि आपके पास उपयुक्त सुविधाएं नहीं हैं तो अपनी खुद की डेटा केंद्रों में होस्टिंग प्रदान करता है।

क्या यह असली प्रमुख AI हार्डवेयर है?

हाँ, बिना किसी सीमा के। आठ H100 SXM5 GPU 32 पेटाफ्लॉप्स एफपी8 प्रदान कर रहे हैं, जो शीर्ष स्तर की एआई प्रशिक्षण और संदर्भ अवसंरचना है, और DGX प्रणाली है जिसे NVIDIA खुद अपनी एआई अवसंरचना मानक के रूप में स्थापित करता है। इस कैटलॉग में अन्य कार्यस्थल और प्रदर्शन कार्डों के विपरीत, कोई अतिशयोक्ति नहीं है; DGX ठीक वही है जो यह दावा करता है।

यह एक प्रणाली से आगे कैसे विस्तार करता है?

इसके ConnectX-7 नेटवर्किंग और OSFP पोर्ट के माध्यम से, कई DGX H100 सिस्टम बड़े क्लस्टरों में इंटरकनेक्ट होते हैं (NVIDIA के DGX BasePOD और SuperPOD संदर्भ वास्तुकलाएँ इसी तरह से निर्मित हैं) ताकि उस ट्रेनिंग की क्षमता बढ़ सके जो एकल सिस्टम से अधिक हो। बहु- सिस्टम परिनियोजन के लिए, MillionMiner नेटवर्किंग और क्लस्टर कॉन्फ़िगरेशन पर उद्धरण में सलाह देता है।

क्या यह नया है या इस्तेमाल किया गया है, और निर्यात नियमों के बारे में क्या?

कृपया विशेष इकाई के लिए उद्धरण में पुष्टि की गई। फ्लैगशिप hopper-श्रेणी के हार्डवेयर के रूप में, स्थिति और उत्पत्ति महत्वपूर्ण हैं, और MillionMiner प्रत्येक सिस्टम को सत्यापित करता है और इसकी स्थिति स्पष्ट रूप से बताता है, साथ ही 3 वर्ष की वारंटी शर्तें भी पुष्टि की गई हैं। DGX H100 भी निर्यात-नियंत्रित है, इसलिए MillionMiner बिक्री से पहले गंतव्य योग्यता और अनुपालन स्थिति की पुष्टि करता है।

मैं कैसे ऑर्डर कर सकता हूँ, और यह कैसे डिलीवर किया जाता है?

अपनी कार्यभार, बड़े मॉडल प्रशिक्षण, फाइन-ट्यूनिंग या इनफेरेंस को सबमिट करें और कोटेशन फॉर्म के माध्यम से स्केल करें। एक MillionMiner विशेषज्ञ कॉन्फ़िगरेशन, सॉफ्टवेयर अधिकार, शक्ति और कूलिंग आवश्यकताओं, Hopper-श्रेणी प्रणालियों के लिए निर्यात योग्यता की पुष्टि करता है, और यह भी कि DGX या एक OEM HGX H100 सर्वर आपकी आवश्यकताओं और बजट के अनुरूप सबसे अच्छा है या नहीं, उसके बाद डिलीवरी। हर सिस्टम काशिपिंग से पहले परीक्षण किया जाता है और Duties सहित दुनिया भर में DDP के साथ भेजा जाता है, साथ ही MillionMiner के अपने डेटा केंद्रों में होस्टिंग भी उपलब्ध है।

NVIDIA DGX H100 640GB AI प्रणाली (8x H100 SXM5)

Name: NVIDIA DGX H100 640GB AI सिस्टम (8x H100 SXM5)
Brand: NVIDIA
SKU: MM2026SRVNVIDIAD2
Price: 6700.00 USD
Availability: BackOrder

DGX H100 NVIDIA की पूरी तरह से इंटीग्रेटेड, टर्नकी AI सिस्टम है, कंपनी का खुद का प्रमुख संदर्भ प्लेटफॉर्म, और यह वास्तविक प्रमुख AI प्रशिक्षण और इनफेरेंस इन्फ्रास्ट्रक्चर है। इस कैटलॉग में मौजूद बेसबोर्ड से अलग, इसमें कोई घटक-तुलना बनाम सिस्टम का उल्लेख नहीं है: DGX वह पूरा मशीन है। इसे सही ढंग से स्थापित करने का अर्थ है यह समझाना कि DGX क्या है, यह उसी GPU का उपयोग करने वाले OEM HGX सर्वरों से कैसे भिन्न है, और इसकी पूर्णता से क्या लाभ होता है। DGX H100 क्या है। यह एक पूरा इंटीग्रेटेड 8x H100 सिस्टम है। आठ H100 SXM5 Tensor Core GPU कुल 640GB GPU मेमोरी प्रदान करते हैं, जो पूरी तरह से NVLink और NVSwitch से इंटरकनेक्टेड हैं, और यह सिस्टम उन्हें डुअल 56-कोर 4वीं पीढ़ी के Intel Xeon प्रोसेसर,… 2TB सिस्टम मेमोरी, NVMe स्टोरेज (OS के लिए 2x 1.9TB M.2 और डेटा के लिए 8x 3.84TB U.2) और ConnectX-7 नेटक्विक के साथ OSFP पोर्ट्स का समर्थन करता है ताकि मल्टी-नोड स्केलिंग संभव हो सके। यह 32 पेटाफ्लॉप FP8 प्रदर्शन प्रदान करता है, NVIDIA के AI एन्टरप्राइज सॉफ्टवेयर स्टैक के साथ पूर्व-लोडेड आता है, मुख्य उद्यम Linux वितरणों का समर्थन करता है, और 3 वर्षों की वारंटी प्रदान करता है। यह पूरी तरह से परीक्षण किया गया, तैयार-डिप्लॉय मशीन है। DGX क्या है, बनाम HGX सर्वर। यह एक महत्वपूर्ण अंतर है जब कोई खरीदार 8x H100 सिस्टम कैसे प्राप्त करे, इसका निर्णय ले रहा हो। HGX NVIDIA का GPU बेसबोर्ड प्लेटफॉर्म है जिस पर OEM (ASUS, Supermicro, Lenovo आदि) अपने सर्वर बनाते हैं; DGX NVIDIA का स्वयं का पूर्ण सिस्टम है जो उसी GPU तकनीक पर आधारित है। वे दोनों ही H100 GPU का उपयोग करते हैं, इसलिए कच्चे GPU प्रदर्शन की तुलना की जा सकती है। जो भिन्न है वह है इंटीग्रेशन और समर्थन: DGX को NVIDIA द्वारा एकल संदर्भ प्लेटफॉर्म के रूप में डिज़ाइन, मान्य और समर्थन दिया गया है जिसमें अपनी खुद की सॉफ्टवेयर स्टैक और समर्थन कार्यक्रम है, जबकि OEM HGX सर्वर उस विक्रेता का इंटीग्रेशन है जो आमतौर पर अलग कीमत और समर्थन मॉडल पर आधारित है। ईमानदारी से देखें: NVIDIA के संदर्भ डिजाइन, मान्यकरण और समर्थन के लिए DGX चुनें, जो एक संपूर्ण टर्नकी इकाई है; OEM HGX H100 सर्वर (इस कैटलॉग में ASUS, Supermicro, और Lenovo विकल्प उपलब्ध हैं) को अलग इंटीग्रेशन और मूल्य निर्धारण के लिए चुनें, जिनमें वह ही GPU का उपयोग होता है। न तो दोनों ही पूरी तरह से सही हैं, यह इस बात पर निर्भर करता है कि संगठन मूल्यवान क्या मानता है। प्रामाणिक प्रमुख AI इन्फ्रास्ट्रक्चर। DGX H100 असली, उच्च श्रेणी का AI प्रशिक्षण और इनफेरेंस हार्डवेयर है, आठ H100 GPU का यह कॉन्फ़िगरेशन बड़े मॉडल को प्रशिक्षित करने और सर्व करने के लिए प्रयोग में लाया जाता है, और 32 पेटाफ्लॉप FP8 प्रदर्शन के साथ 640GB GPU मेमोरी इस फील्ड को सीमांकित करता है। यहाँ इससे अधिक कहने की आवश्यकता नहीं है; DGX वह है जो यह दावा करता है, और यह सिस्टम NVIDIA खुद अपने AI इन्फ्रास्ट्रक्चर मानक के रूप में प्रस्तुत करता है। यह कहां फिट बैठता है, और इसे कैसे खरीदा जाए। DGX H100 पूर्ण-प्रणाली श्रृंखला में शीर्ष पर है, NVIDIA का अपना टर्नकी 8x H100 मशीन, जो बेसबोर्ड HGX (जो घटक हैं, सिस्टम नहीं) से ऊपर है और OEM HGX H100 सर्वरों के साथ प्रतिस्पर्धा करता है, और प्रीमियम, पूरी तरह से NVIDIA-इंटीग्रेटेड विकल्प के रूप में। यह उन संगठनों के लिए है जो एक पूर्ण, मान्य, समर्थित AI प्रणाली चाहते हैं, जिसे तुरंत तैनात किया जा सके, बजाय घटकों के, या कम लागत वाले OEM निर्माण के। एक प्रमुख हार्डवेयर के रूप में, MillionMiner कॉन्फ़िगरेशन की पुष्टि करता है, हॉपर-श्रेणी के सिस्टम के निर्यात योग्य होने की पुष्टि करता है, यह भी कि यूनिट बिक्री से पहले किस स्थिति में है। हर यूनिट का परीक्षण किया गया है और DDP के साथ विश्वव्यापी रूप से भेजा जाता है, शुल्क संभालते हुए, और MillionMiner के अपने डेटा केंद्रों में होस्टिंग उपलब्द्ध है। यदि आप NVIDIA के संदर्भ AI सिस्टम टर्नकी चाहते हैं, तो DGX H100 ही है; यदि आप समान GPU किसी अलग इंटीग्रेशन या कीमत पर चाहते हैं, तो MillionMiner आपके साथ OEM HGX H100 सर्वरों का वजन करेगा।

अधिक पढ़ें Show Less