इस सर्वर के लिए "barebone" का मतलब है कि यह एक न्यूनतम कॉन्फ़िगरेशन वाला सिस्टम है जिसमें मुख्य घटक जैसे कि मदरबोर्ड, केस और पावर सप्लाई शामिल होते हैं, लेकिन इसमें CPU, RAM, स्टोरेज या ग्राफिक्स कार्ड जैसी सुविधा नहीं होती है। इसे कस्टमाइज़ करके उपयोगकर्ता अपनी आवश्यकताओं के अनुसार अतिरिक्त घटक जोड़ सकते हैं।

यह प्लेटफ़ॉर्म-परिभाषित भागों के स्थिर, HGX H100 बेसबोर्ड, चेसिस, पावर और कूलिंग, और होस्ट कंपोनेंट्स के साथ आता है। आप EPYC CPU, मेमोरी के चयन, और संग्रहण को निर्दिष्ट करते हैं बजाय कि एक स्थिर बंडल लेने के। विशिष्ट कोर-गिनती, क्षमता, या संग्रहण आवश्यकताओं वाली टीमें, उस नियंत्रण के साथ, नोड को कार्यभार के अनुसार मिलाने का प्रबंधन करती हैं, और MillionMiner उद्धरण पर खुले भागों को कॉन्फ़िगर करता है।

GPU कॉम्प्लेक्स क्या प्रदान करता है?

एनवीडिया HGX H100: आठ SXM5 GPU प्रत्येक 80GB HBM3 के साथ, प्रति नोड 640GB के साथ, कुल बैंडविड्थ 26 TB/s से ऊपर, प्रति GPU 900 GB/s पर एक पूर्ण NVSwitch जाल, FP8 थ्रूपुट 30 पीटाFLOPS से अधिक, और MIG का उपयोग करके 56 बंदरगाहों तक। कार्यभार के संदर्भ में: एक नोड में 70B वर्ग में पूर्ण फाइन-ट्यूनिंग, बड़े-बैच प्रशिक्षण, और पीढ़ी की सबसे अधिक मान्य कॉन्फ़िगरेशन पर उत्पादन सेवा घनत्व।

H100 सर्वर पर AMD EPYC होस्ट क्यों?

दो ताकतें एक GPU होस्ट के लिए महत्वपूर्ण हैं। कोर घनत्व, चूंकि आठ GPUs के लिए समानांतर डेटा लोडिंग और प्रीप्रोसेसिंग के लिए कई कोर की आवश्यकता होती है, और मेमोरी बैंडविड्थ, चूंकि होस्ट को एक्सेलेरेटर को भूखा नहीं रहना चाहिए। EPYC 9004 ऑन Zen 4 उच्च कोर संख्या और प्रत्येक सॉकेट पर 12-चैनल DDR5 लाता है, जो अपनी श्रेणी में सबसे चौड़ा मेमोरी बैंडविड्थ है, इसीलिए यह एक मजबूत होस्ट है एक फीडिंग-इंटेंसिव 8-GPU नोड के लिए।

यह यहाँ Dell XE9680 से कैसे तुलना करता है?

दोनों में 8x H100 SXM कॉम्प्लेक्स है, इसलिए निर्णय होस्ट और मॉडल पर निर्भर करता है। Dell उस इंटेल-होस्ट एंटरप्राइस का स्थापित विकल्प है जिसमें iDRAC प्रशासन और एक विश्वव्यापी सेवा संगठन शामिल है, जो एक बंडल के रूप में भेजा जाता है। यह Gigabyte एक AMD-होस्ट Barebone है जिसे आप कस्टमाइज कर सकते हैं, जिसमें 3 वर्षों की निर्माता वारंटी है। एस्टेट-लीड एंटरप्राइजेस आमतौर पर Dell की तरफ झुकाव रखती हैं; खरीदार जो AMD-होस्ट नियंत्रण चाहते हैं, वे यहाँ आते हैं, और MillionMiner दोनों का मूल्यांकन करता है।

यह यहाँ क्वांटा D74H के साथ कैसे तुलना करता है?

दोनों इंजीनियरिंग-प्रेरित नए H100 नोड्स हैं, लेकिन वे होस्ट और कॉन्फ़िगरेशन मॉडल में भिन्न हैं। क्वांटा एक तय इंटेल निर्माण है जिसमें हाइपरस्केल ODM वंशावली है; यह Gigabyte एक AMD बियरबोन है जिसे आप निर्दिष्ट करते हैं। टीमें जो एक फ़िनिश्ड इंटेल कॉन्फ़िगरेशन चाहती हैं, वे क्वांटा लें; टीमें जो अपनी खुद की स्पेक के अनुसार AMD होस्ट बनाना चाहती हैं, वे इसे लें, और कोटेशन निर्णय को मार्गदर्शित करता है।

क्या मैं इसके बजाय पुनर्निर्मित H100 सिस्टम पर विचार करूँ?

यह एक नई बनाम द्वितीयक निर्णय है। पुनः प्राप्त AS-8125GS-TNHR प्रमाणिकता साक्ष्य के साथ द्वितीयक-मंडी अर्थशास्त्र में समान श्रेणी का जटिलता प्रदान करता है। यह गिगाबाइट नई इकाई का मार्ग है जिसमें पूर्ण 3-वर्ष निर्माता वारंटी है। खरीदारी जो नई हार्डवेयर की आवश्यकता होती है, यहाँ आती है; बजट-प्रेरित खरीदार जो प्रमाणित पुनः प्राप्त हार्डवेयर से सहज हैं, वह पुनः प्राप्त विकल्प चुनते हैं, और मिलियनमाइनर मॉडल दोनों।

मुझे कब H200 या Blackwell सिस्टम्स के लिए कदम बढ़ाना चाहिए?

जब स्मृति या पीढ़ी सीमा बनती है। H200 प्लेटफ़ॉर्म में प्रतिदृश्य 141GB प्रति GPU और 1.1TB प्रति नोड स्मृति-बाउंड और लांग-कॉन्टेक्स्ट कार्य के लिए है; ब्लैकवेल सिस्टम में FP4 और दोगुनी फेब्रिक जोड़ते हैं। यह H100 नोड बड़े हिस्से के कार्यभार के लिए सही खरीदारी है जो 640GB में फिट बैठते हैं और पीढ़ी की परिपक्वता और अर्थशास्त्र को महत्व देते हैं, और कोट मॉडल क्रॉसओवर का मॉडलिंग करता है।

मेमोरी कैसे कॉन्फ़िगर की जाती है, और आकार निर्धारण का नियम क्या है?

यह प्लेटफ़ॉर्म प्रत्येक सॉकेट पर 12-चैनल DDR5 चलाता है, और क्योंकि यह बैरबोन है, मेमोरी की आबादी आपकी इच्छानुसार होनी चाहिए। इस कैटलॉग का नियम जहां भी लागू होता है, वह है कि सिस्टम मेमोरी या तो 640GB GPU पूल से ऊपर हो, और MillionMiner अपनी कार्यभार के अनुरूप मेमोरी का आकार निर्धारित करता है, निश्चित डिफ़ॉल्ट के बजाय उद्धरण के रूप में।

यह कैसे क्लस्टर करता है?

पीसीआईई जेन5 विस्तार के माध्यम से, जो जीपीयूडायरेक्ट RDMA के लिए फैब्रिक एडाप्टर ले जाते हैं, टोपोलॉजी जो नोड्स के बीच ग्रेडिएंट्स को बिना CPUs को छुए स्थानांतरित करती है, इनफिनिबैंड या उच्च गति इंटरनेटक पर निर्दिष्ट होती है जो हर परिनियोजन के लिए है। एक बियरबोन के रूप में, फैब्रिक फिट-आउट आपकी क्लस्टर योजना के अनुसार कॉन्फ़िगर किया जाता है, और मिलियनमाइनर स्विच आर्किटेक्चर पर सलाह देता है जैसे जैसे परिनियोजन एक नोड से अधिक बढ़ते हैं।

मैं कैसे ऑर्डर कर सकता हूँ, और वारंटी और निर्यात नियमों के बारे में क्या है?

अपना कार्यभार और परिनियोजन विवरण उद्धरण प्रपत्र के माध्यम से जमा करें। एक MillionMiner विशेषज्ञ EPYC CPU, स्मृति, और संग्रहण को कॉन्फ़िगर करता है, 3-वर्षीय वारंटी की शर्तों की पुष्टि करता है, Hopper-क्लास एक्सेलेरेटर पर लागू US निर्यात नियंत्रण के तहत गंतव्य योग्यता, और डिलीवरी। प्रत्येक प्रणाली शिपिंग से पहले परीक्षण की जाती है और DDP सहित दुनिया भर में भेज दी जाती है, कर संभाले जाते हैं, और MillionMiner के अपने डेटा केंद्रों में होस्टिंग उपलब्ध है।

Gigabyte G593-ZD2-AAX1 AMD H100 8-GPU सर्वर

Name: Gigabyte G593-ZD2-AAX1 Barebone AMD H100 8-GPU सर्वर (80GB SXM5)
Brand: Gigabyte
SKU: MM2026SRVGIGABYT3
Price: 45000.00 USD
Availability: BackOrder

इस कैटलॉग में चार आकारों में नई H100 क्षमता है, और एक और बेचने का सही तरीका यह है कि आप कहें कि यह एक दूसरे से क्या अलग करता है। Dell XE9680 उद्यम का स्थापित मॉडल है जिसमें iDRAC प्रशासन है। Quanta D74H हायपरस्केल ODM बिल्ड है। पुनर्निर्मित AS-8125GS सेकंड-हाथ बाजार का मूल्य मार्ग है। यह Gigabyte G593-ZD2-AAX1 नया यूनिट, AMD होस्ट बेसबोन है, उन खरीदारों के लिए जो नए H100 कॉम्प्लेक्स के लगभग होस्ट को निर्दिष्ट करना चाहते हैं। एक बेसबोन आपको क्या खरीदता है। एक बेसबोन में प्लेटफॉर्म को निर्धारित करने वाले भाग शामिल होते हैं, जैसे HGX H100 बेसबोर्ड, चेसिस, पावर और कूलिंग, और होस्ट घटकों को खुला छोड़ता है। आप EPYC SKUs, मेमोरी कॉन्फ़िगरेशन, और स्टोरेज चुनते हैं, बजाय इसके कि विक्रेता के बंडल की… डिफ़ॉल्ट सेटिंग्स स्वीकार करें। उन टीमों के लिए जिनके पास विशिष्ट कोर-गिनती, मेमोरी क्षमता, या संग्रहण आवश्यकताएँ हैं, वह नियंत्रण महत्वपूर्ण है: नोड काम के अनुसार मेल खाता है, उसमें अनुकूलित नहीं। MillionMiner उद्धरण पर खुले घटकों का कॉन्फ़िगरेशन करता है। GPU कॉम्प्लेक्स, सरल शब्दों में। NVIDIA HGX H100 बेसबोर्ड पर आठ SXM5 GPU होते हैं, प्रत्येक 80GB HBM3 के साथ, प्रति नोड 640GB, कुल बैंडविड्थ 26 TB/s से अधिक, एक पूर्ण NVSwitch जाल 900 GB/s प्रति GPU पर, FP8 थ्रूपुट 30 पीटाFLOPS से अधिक, और MIG में 56 तक इंस्टेंस हो सकते हैं। यह अपने पीढ़ी का सबसे अधिक अपनाया गया और सबसे प्रमाणित 8-GPU कॉन्फ़िगरेशन है, नोड उत्पादन MLOps के खिलाफ मजबूत किया गया है, और उन वर्कलोड्स के बड़े हिस्से के लिए जो आराम से 640GB में फिट होते हैं, यह उसकी परिपक्वता का प्रमाण है, जबकि नवीनतम H200 और Blackwell tiers से इससे बेहतर है। AMD-host का मामला। Dual AMD EPYC 9004 प्रोसेसर Zen 4 पीढ़ी पर हैं, जो GPU होस्ट में दो बातें लाते हैं: उच्च कोर घनत्व, Genoa पर प्रति सॉकेट 96 कोर तक या घने-कोर वेरिएंट्स पर उससे अधिक, और 12-चैनल DDR5 प्रति सॉकेट, अपने वर्ग में सबसे व्यापक मेमोरी बैंडविड्थ। एक ही होस्ट से चलने वाले आठ GPU दोनों चाहिए, कोर डेटा लोडिंग और पूर्वप्रसंस्करण के लिए, बैंडविड्थ ताकि मेमोरी उपसिस्टम बाधा न बने, और EPYC प्लेटफ़ॉर्म उन्हें प्रदान करता है। PCIe Gen5 पूरे सिस्टम में चलता है, फाइबर एडाप्टर और स्टोरेज के लिए, जो एक नोड को क्लस्टर सदस्य बनाता है। इस कैटलॉग में लागू सभी स्थानों पर सामान्य नियम है, सिस्टम मेमोरी 640GB GPU पूल के बराबर या उससे अधिक, और बेसबोन मॉडल का अर्थ है कि मेमोरी काम के अनुरूप है, उद्धरण पर निर्धारित rather than fixed। नए-H100 का चार-तरफ़ा निर्णय, स्पष्ट रूप से कहा गया। Dell XE9680 के मुकाबले, यह स्थापित का iDRAC विस्तार और वैश्विक सेवा संगठन को AMD-host कॉन्फ़िगरेबिलिटी और बेसबोन के नियंत्रण के लिए स्थान देता है। Quanta D74H के मुकाबले, दोनों तकनीकी रूप से अग्रणी हैं, लेकिन Quanta एक तय इंटेल बिल्ड के रूप में भेजता है, जबकि यह एक AMD बेसबोन है जिसे आप कॉन्फ़िगर करते हैं। पुनर्निर्मित AS-8125GS के मुकाबले, यह नया यूनिट मार्ग है जिसमें पूर्ण निर्माता वारंटी है, जहां रीफ़र्ब अपनी नईपन को आर्थिकता के लिए त्यागता है। खरीदार जो अपने स्पेक के अनुसार नया AMD-host H100 नोड बनवाना चाहते हैं, 3-वर्षीय कवरेज के साथ, वह यहाँ पहुंचते हैं, और MillionMiner सभी चार मार्गों को उद्धरण में शामिल करता है, न कि केवल मार्गदर्शन करने के। ऑर्डरिंग और तैनाती। Hopper-क्लास एक्सेलेरेटर्स अमेरिकी निर्यात नियंत्रण के अंतर्गत आते हैं, और गंतव्य पात्रता हर उद्धरण में पुष्टि की जाती है, जिसमें कॉन्फ़िगर किए गए CPUs, मेमोरी, स्टोरेज, फाइबर योजना, और 3-वर्षीय वारंटी शर्तें शामिल हैं। प्रत्येक सिस्टम शिपमेंट से पहले परीक्षण किया जाता है और DDP के साथ दुनिया भर में भेजा जाता है, करों का प्रबंधन किया जाता है, और MillionMiner के अपने डेटा केंद्रों में होस्टिंग तैनाती का वैकल्पिक विकल्प उपलब्ध है।

अधिक पढ़ें Show Less