RTX PRO 6000 या L40S, आपको किसे कॉन्फ़िगर करना चाहिए?

RTX PRO 6000 Blackwell Server Edition वर्तमान पीढ़ी का विकल्प है, 96GB GDDR7, FP4 अनुमान, MIG विभाजन, और Blackwell थ्रूपुट। L40S प्रमाणित Ada-पीढ़ी का यूनिवर्सल कार्ड है 48GB में, जो उन बेड़ों के लिए उपयुक्त है जो पहले से ही इस पर मानकीकृत हैं। दोनों ग्राफिक्स और AI को एक कार्ड में सेवा देते हैं; निर्णय पीढ़ी और मेमोरी का है, और MillionMiner दोनों का मॉडल उद्धरण में शामिल है।

8 कार्डों के बीच 768GB GPU मेमोरी क्या सक्षम बनाता है?

उच्च-मेमोरी इनफेरेंस पर अर्थशास्त्र कोई HGX नोड मेल नहीं खाता, इसके साथ ही मल्टी-टेनेंट डेन्सिटी। बड़े मॉडल कार्ड्स के पार सेवा करते हैं, लंबी-प्रसंग कार्य को वास्तविक KV कैश स्थान मिलता है, और MIG प्रत्येक 96GB कार्ड को अलग-अलग इंस्टेंस में विभाजित करता है, हर चेसिस में दर्जनों। यह 8x A100 नोड के 640GB से अधिक है जबकि कार्ड्स में डिस्प्ले इंजन और एन्कोडर भी होते हैं जिन्हें दृश्य कार्य आवश्यकताएं हैं।

डुअल-रूट आर्किटेक्चर क्या है और यह यहां क्यों महत्वपूर्ण है?

यह इस तरह से PCIe लेनों को वायर किया गया है। डुअल-रूट आठ कार्डों को दोनों प्रोसेसरों के रूट कॉम्प्लेक्सes में विभाजित करता है, चार प्रत्येक CPU, इसलिए प्रत्येक GPU को होस्ट मेमोरी के लिए एक प्रत्यक्ष, बिना अवरोध के मार्ग मिलता है। चूंकि इस मशीन का कार्यभार प्रत्येक कार्ड पर स्वतंत्र रूप से चलता है और कभी भी पड़ोसी कार्डों से बात नहीं करता, डुअल-रूट आदर्श टोपोलॉजी है, और PCIe Gen5 उन मार्गों पर बैंडविड्थ को दोगुना कर देता है।

क्या यह एक प्रशिक्षण सर्वर है या एक दृश्य और अनुमान सर्वर है?

प्राथमिक रूप से दृश्य और अनुमान। न तो RTX PRO 6000 और न ही L40S में NVLink है, इसलिए आठ GPU स्वयंसिद्ध रूप से काम करते हैं न कि एक जोड़े गए प्रशिक्षण जाल के रूप में, जो कि सेवा देना, रेंडरिंग, VDI और स्ट्रीमिंग के लिए बिल्कुल सही है। वितरित प्रशिक्षण के लिए जिसमें सभी GPU को समकालिक किया जाना चाहिए, कैटलॉग की HGX प्रणालियों का उपयोग किया जाता है।

यह ASUS ESC8000A-E12P की तुलना में कैसे है?

दोनों आठ PCIe GPU रखने में सक्षम हैं जो स्वतंत्र कार्य के लिए हैं; दायरा भिन्न है। ASUS ड्यूल-वेंडर कंप्यूट-कार्ड बॉक्स है, जो NVIDIA और AMD एसेलरेटर दोनों के लिए खुला है। यह 5U Supermicro सार्वभौमिक ग्राफिक्स और AI कार्ड्स के लिए डिज़ाइन किया गया है, जिसमें आठ 600W-श्रेणी के Blackwell बोर्डों के लिए तापीय मात्रा है और एक ड्यूल-रूट लेआउट है जो विज़ुअल फ्लीट्स के अनुकूल है। कंप्यूट-कार्ड इनफ़रेन्स ASUS को जाता है; विज़ुअल प्लेटफ़ॉर्म और उच्च-मेमोरी RTX इनफ़रेन्स यहाँ आता है।

यह किस प्रकार के दृश्य कार्यभार के लिए प्रमाणित है?

प्रति-कार्ड बेड़े के पैटर्न, क्लाउड गेमिंग प्रत्यक्ष प्रवाह प्रति कार्ड या विभाजन के अनुसार, VDI कार्ड को वर्चुअल वर्कस्टेशन में काटना, फ्रेम प्रति रेंडर फार्म, स्ट्रीम प्रति मीडिया ट्रांसकोडिंग, और अध्ययन प्रति डायग्नोस्टिक इमेजिंग। सार्वभौमिक कार्ड में डिस्प्ले इंजन, एंकोडर और ड्राइवर स्टैक होते हैं, जिनकी इन्हें आवश्यकता होती है, इसलिए इस वर्ग का अस्तित्व केवल गणना GPUs से अलग है।

CPU प्लेटफॉर्म क्या है?

ड्यूप्ल प्रोसेसर के साथ सिस्टम मेमोरी का स्केलिंग 6TB तक है, जो आराम से 768GB GPU पूल से ऊपर है। लाइव पेज पर "इंटेल Xeon या AMD EPYC" लिखा है, जो एक मॉडल के लिए अस्पष्ट है, और इस SKU के तहत मिलियनमाइनर द्वारा सप्लाई किए गए सटीक प्लेटफॉर्म की पुष्टि उद्धरण में मेमोरी फिट-आउट के साथ की गई है।

एक पूर्ण निर्माण को कितनी बिजली और शीतलन की आवश्यकता होती है?

आठ 600W-वर्ग कार्डों और एक डुअल-प्रोसेसर होस्ट के लिए डेटा केंद्र प्रोविजनिंग, जो एयर कूल्ड है और 5U चेसिस के माध्यम से ठंडा किया जाता है, जिसकी ऊंचाई उस एयरफ़्लो को मूव करने के लिए है। पावर सप्लाई कॉन्फ़िगरेशन कार्ड की संख्या के अनुसार आकारित है और आपकी कोटेशन के साथ पुष्टि की गई है, और MillionMiner के सुविधाओं में होस्टिंग उन टीमों के लिए उपलब्ध है जो रैक पावर प्रोविजन नहीं करना चाहती हैं।

कब HGX सिस्टम बेहतर विकल्प होता है?

जब कार्यभार वितरित प्रशिक्षण होता है, जहां सभी GPU समकालित होती हैं और NVSwitch फैब्रिक A100, H200, और Blackwell सिस्टमों का इस कैटलॉग में स्केलिंग तय करता है। ये सार्वभौमिक कार्ड्स NVLink नहीं रखते और यह प्लेटफॉर्म इसे भिन्न बनाने का प्रयास नहीं करता, यह उन कार्यों के लिए बनाया गया है जहां उस अनुपस्थिति का कोई खर्च नहीं है। यह उद्धरण कार्यभार को ईमानदारी से मार्गदर्शित करता है।

मैं कैसे ऑर्डर कर सकता हूँ, और यह कैसे डिलीवर किया जाता है?

अपनी कार्यभार और लक्षित कार्ड कॉन्फ़िगरेशन को कोटेशन फॉर्म के माध्यम से जमा करें। एक MillionMiner विशेषज्ञ कार्ड चयन, होस्ट, शक्ति और वारंटी की पुष्टि करता है, फिर डिलीवरी। आंशिक आबादी एक ही चेसिस पर कार्ड-बाय-कार्ड बढ़ती है। हर इकाई का परीक्षण बिक्री से पहले किया जाता है और डिलिवरी दुनिया भर में DDP के साथ करों के साथ की जाती है।

Supermicro SYS-522GA-NRT RTX PRO 6000 सर्वर

Name: Supermicro SuperServer SYS-522GA-NRT (RTX PRO 6000/L40s सिस्टम)
Brand: Supermicro
SKU: MM2026SRVSUPERMI8
Price: 5600.00 USD
Availability: BackOrder

इस कैटलॉग में तीन PCIe GPU प्लेटफार्म शामिल हैं। SYS-741GE-TNRT पहली-से-चार GPU प्रविष्टि है। ASUS ESC8000A-E12P द्वि-विक्रेता कंप्यूट-कार्ड फ़्लीट बॉक्स है। यह 5U सुपरसर्वर तीसरा है, और इसका शीर्षक उसके दायरे को दर्शाता है: सार्वभौमिक-GPU वर्ग, RTX PRO 6000 ब्लैकेल, और L40S, जो ग्राफिक्स पाइपलाइनों और AI थ्रूपुट को एक ही सिलिकॉन में ले जाते हैं। क्यों सार्वभौमिक वर्ग अपनी ही बाजार है। GPU की बड़ी मांग कभी प्रशिक्षण-आधारित नहीं थी। क्लाउड गेमिंग, VDI, रेंडरिंग, मीडिया ट्रांसकोडिंग, और डायग्नोस्टिक इमेजिंग प्रति सत्र, प्रति फ्रेम, और प्रति स्ट्रीम स्केल करते हैं, और inference सर्विंग प्रत्येक GPU पर एक र replica चलाता है। ये कार्यभार दो विशेषताएँ साझा करते हैं, शून्य इंटर-GPU ट्रैफ़िक और… डिस्प्ले इंजन तथा एन्कोडर्स की आवश्यकता जो सॉफ्ट कंप्यूट कार्ड नहीं लेकर आते, और एक चैसिस जिसमें आठ सार्वभौमिक कार्ड होते हैं, वह एक फ़्लीट इन ए बॉक्स है। प्रमुख निर्माण। आठ RTX PRO 6000 ब्लैकेल कार्ड प्रत्येक 96GB GDDR7 ले जाते हैं, प्रति नोड 768GB, 8x A100 HGX सिस्टम से अधिक GPU मेमोरी, ग्राफिक्स-कार्ड अर्थशास्त्र में, FP4 inference के साथ और मल्टी-टेनेंट ड्यूटी के लिए हार्डवेयर-आइसोलेटेड दर्जनों हार्डवेयर-विभाजित इंस्टेंस में MIG विभाजन। विकल्प, आठ L40S प्रत्येक 48GB, अब भी प्रमाणित Ada विकल्प है, जिसे पुष्टि की गई कॉन्फ़िगरेशन पर पुष्टि की गई है। द्वि-रूट, अनुवादित। PCIe GPU सर्वर अपने कार्ड्स को दो तरीकों से वायर करते हैं। सिंगल-रूट सभी GPU को एक प्रोसेसर के रूट कॉम्प्लेक्स से जोड़ता है, जो पीयर ट्रांसफर को प्राथमिकता देता है। डुअल-रूट दोनों प्रोसेसर के बीच उन्हें विभाजित करता है, चार प्रति CPU, प्रत्येक कार्ड को एक सीधा होस्ट मार्ग प्रदान करता है। उन स्वतंत्र कार्यभार के लिए जो यह मशीन लक्षित है, वह सही टोपोलॉजी है, और इसकी उपस्थिति इस बात का संकेत देती है कि यह प्लेटफ़ॉर्म इस वर्ग के लिए डिज़ाइन किया गया है न कि इसके अनुकूलित। PCIe Gen5 प्रति-कार्ड होस्ट बैंडविड्थ को दोगुना कर देता है, जो तब महत्वपूर्ण होता है जब आठ कार्ड एक साथ फ्रेम या बैच स्ट्रीम कर रहे हों। होस्ट और चैसिस। द्वि-प्रोसेसर नोड को सिस्टम मेमोरी के साथ 6TB तक स्थिर करता है, जो 768GB GPU पूल से कहीं अधिक है, और यही साइजिंग नियम है जो इस कैटलॉग में हर जगह लागू होता है। 5U ऊंचाई थर्मल ईमानदारी है, आठ 600W-श्रेणी के ब्लैकेल कार्डों को ऐसे एयरफ़्लो की आवश्यकता होती है जो पतले चेसिस पर हवा से नहीं भेजा जा सकता। संग्रहण, नेटवर्किंग, और पावर को हर निर्माण पर स्पष्ट किया गया है। जहाँ यह फिट बैठता है। जब कार्यभार वीजुअल हो या कार्ड मुख्य हो, तब इसे ESC8000A-E12P के ऊपर चुनें, ASUS वह कंप्यूट-कार्ड और द्वि-विक्रेता बॉक्स है, यह सार्वभौमिक-कार्ड बॉक्स है, और यह कैटलॉग में कहीं भी खपत हो रहे RTX PRO 6000 कार्ड अपने आठ स्लॉट वाले घर को यहाँ पाते हैं। केवल HGX सिस्टम पर ही जाएं जब वितरित प्रशिक्षण NVSwitch फैब्रिक को बाधा बनाता हो। प्रत्येक यूनिट ऑर्डर के अनुसार कॉन्फ़िगर की जाती है, परीक्षण की जाती है, और विश्वभर में DDP के साथ भेजी जाती है, और मिलियनमाइनर के अपने डेटा केंद्रों में होस्टिंग उस विकल्प के रूप में उपलब्ध है।

अधिक पढ़ें Show Less