Δεν βρέθηκαν προϊόντα για ""
Supermicro
Μοντέλο: AS-4124GO-NART+
Ένα πραγματικό σύστημα 8-GPU HGX A100: οκτώ NVIDIA A100 80GB SXM4 GPUs σε μια μητρική πλακέτα NVSwitch προσφέροντας 640GB συλλογικής μνήμης HBM2e και 600 GB/s GPU-to-GPU NVLink, φιλοξενείται από διπλούς επεξεργαστές AMD EPYC σε ένα πλαίσιο 4U. Δυνατότητα κατανεμημένης εκπαίδευσης τύπου DGX A100 σε μια πλατφόρμα κατά παραγγελία, διαμορφωμένη για το φορτίο εργασίας σας από την MillionMiner.
Ζητήστε την προσφορά για τον διακομιστή σας
Πείτε μας τις ανάγκες φορτίου εργασίας και υλοποίησης. Ο ειδικός μας απαντά εντός 24 ωρών μέσω email, WhatsApp ή τηλεφώνου.
Γιατί αυτός ο διακομιστής αναφέρεται για παραγγελία
Αυτοί οι διακομιστές έχουν διαμορφωθεί και προσφερόμενοι κατόπιν παραγγελίας.Η διαμόρφωσή σας, ο αποθηκευτικός χώρος, το δίκτυο, η εγγύηση και η ενσωμάτωση σε rack καθορίζουν την τελική τιμή, ενώ ο προορισμός παράδοσης σας καθορίζει τα έξοδα αποστολής και τελωνείου.Υποβάλετε την παρακάτω φόρμα και ο ειδικός μας θα απαντήσει εντός 24 ωρών με πλήρη προσφορά που περιλαμβάνει υλικό, εγγύηση και παγκόσμια παράδοση DDP.
Ευχαριστούμε! Ο ειδικός μας θα απαντήσει εντός 24 ωρών με την προσαρμοσμένη προσφορά σας.
Πώς λειτουργεί η παραγγελία του διακομιστή σας
Υποβάλετε τη φόρμα
Μοιραστείτε λεπτομέρειες φόρτου εργασίας & ανάπτυξης
Λάβετε την προσφορά σας
Ολοκληρωμένη τιμολόγηση εντός 24 ωρών
Ανασκόπηση με ειδικό
Ολοκλήρωση ρύθμισης και παράδοσης
Παράδοση
Αποσταλεί και έτοιμο για ανάπτυξη
Αυθεντικό
Δοκιμασμένο υλικό
Παγκοσμίως
Παγκόσμια αποστολή
Υποστήριξη
Ειδικοί στην εξόρυξη
Τιμές, χρόνος παράδοσης και επιλογές hosting. Προσωπικές συμβουλές από την ομάδα πωλήσεών μας.
Τιμές, χρόνος παράδοσης και επιλογές hosting. Προσωπικές συμβουλές από την ομάδα πωλήσεών μας.
Το AS-4124GO-NART+ απαντά σε μια ερώτηση προμήθειας που προκύπτει σε κάθε συζήτηση για την AI υποδομή: πώς αποκτάτε πραγματική 8-κατεύθυνση NVLink εκπαίδευση χωρίς να δεσμευτείτε από προϋπολογισμό frontier-tier; Πρόκειται για την πλατφόρμα 4U της Supermicro, βασισμένη στην βάση της NVIDIA HGX A100 8-GPU, το ίδιο σύμπλοκο GPU Δάλα-κατηγορίας που τροφοδοτεί το DGX A100, και παραμένει μια από τις πιο οικονομικές διαδρομές προς μια γνήσια διανεμημένη υποδομή εκπαίδευσης.
Το σύμπλοκο GPU και γιατί το NVSwitch είναι το βασικό στοιχείο. Οκτώ NVIDIA A100 80GB SXM4 GPUs τοποθετούνται απευθείας στη βάση HGX, διασυνδεδεμένα μέσω NVSwitch σε ένα mesh all-to-all. Κάθε GPU φτάνει κάθε άλλο GPU με εύρος ζώνης NVLink διπλής κατεύθυνσης 600 GB/s, περίπου πέντε φορές περισσότερο από αυτό που παρέχει το PCIe Gen 4, χωρίς διαδρομές μέσω του host. Για την διανεμημένη εκπαίδευση, αυτή είναι η διαφορά μεταξύ γραμμικής κλιμάκωσης και φθίνουσας απόδοσης. Ο συγχρονισμός των gradient μετά από κάθε βήμα εκπαίδευσης είναι το στενότερο σημείο σε πολυ-GPU εργασία, και το fabric NVSwitch το θεραπεύει. Οι διακομιστές GPU PCIe, όποιος και αν είναι ο αριθμός των καρτών τους, δεν μπορούν να αναπαράγουν αυτήν την τοπολογία. Εάν η εργασία σας είναι πραγματικά εκπαίδευση πολλαπλών GPU και όχι ανεξάρτητη inference, η αρχιτεκτονική SXM-plus-NVSwitch είναι αυτό που πραγματικά αγοράζετε.
Μνήμη σε επίπεδο κόμβου. Κάθε A100 80GB διαθέτει HBM2e με περίπου 2TB/s εύρος ζώνης, και ο κόμβος συνολικά διαθέτει 640GB GPU μνήμης. Στην πράξη, αυτό υποστηρίζει πλήρη fine-tuning μοντέλων στην κατηγορία 30B έως 70B με παράλληλη μονάδα, εκπαίδευση μικρότερων μοντέλων με πολύ μεγάλες ομαδικές μπάλες, και εξυπηρέτηση inference πολλαπλών μοντέλων 70B ταυτόχρονα. Κάθε A100 επίσης διαχωρίζεται σε έως και 7 MIG περιπτώσεις, έτσι ένας μόνος κόμβος μπορεί να εμφανίσει έως και 56 υλικο-απομονωμένες GPU περιπτώσεις για multi-tenant inference, μια πυκνότητα που καθιστά αυτήν την πλατφόρμα δημοφιλή στους operators GPU cloud και inference-serving.
Τι σημαίνει NART+; Η Supermicro παρέδωσε αυτήν την πλατφόρμα σε δύο εκδοχές. Το NART+ υποστηρίζει τα υψηλότερης ισχύος A100 80GB SXM4 modules, που διατηρούν υψηλότερους διαρκείς ρολόι υπό συνεχές φόρτο. Για μια μηχανή που θα περνά τη ζωή της με πλήρη αξιοποίηση κατά την εκπαίδευση, οι διαρκείς ρολόι μεταφράζονται άμεσα σε απόδοση, και γι' αυτό το NART+ είναι η έκδοση που καθορίζουν οι σοβαροί χειριστές.
Η πλατφόρμα host. Διπλός Socket SP3 υποστηρίζει επεξεργαστές AMD EPYC 7002 και 7003 σειρών έως 64 πυρήνες ο καθένας, 128 πυρήνες και 256 νήματα ανά σύστημα. Τριάντα δύο DIMM slots φτάνουν έως και 8TB DDR4-3200 ECC μνήμης. Ο κανόνας εργασίας για ένα 8-GPU training node είναι η συστημική μνήμη ίση ή μεγαλύτερη από τη σύνολο GPU μνήμης, έτσι οι διαμορφώσεις από 512GB έως 1TB αποτελούν το πρακτικό baseline εδώ, με χώρο επέκτασης πολύ πέρα από αυτό. Η επέκταση PCIe Gen 4 υποστηρίζει έως και μια NIC χαμηλού προφίλ ανά GPU, δίνοντας τη δυνατότητα GPUDirect RDMA με αναλογία GPU-to-NIC 1:1 για InfiniBand ή high-speed Ethernet clustering σε πολλαπλούς κόμβους. Οι θύρες Hot-swap NVMe διαχειρίζονται την αποθήκευση dataset, και οι διπλοί τροφοδοτικά Titanium-απόδοσης μεταφέρουν την σημαντική κατανάλωση ενέργειας του κόμβου με χώρο διαφυγής.
Πού κάθεται το A100 στην απόφαση αγοράς. Οι γενιές Hopper και Blackwell είναι ταχύτερες ανά GPU, και κανείς δεν το αμφισβητεί. Η υπόθεση του A100 είναι διαφορετική: είναι ο πιο αποδεδειγμένα παραγωγικά AI accelerator που έχει αναπτυχθεί ποτέ, κάθε πλαίσιο και stack σερβίρισμα έχει βελτιστοποιηθεί γι' αυτό, το οικοσύστημα CUDA είναι πλήρως ώριμο, και το κόστος πλατφόρμας ανά μονάδα εκπαίδευσης που συνδέεται με NVLink είναι δραστικά χαμηλότερο από τα συστήματα της τρέχουσας γενιάς. Για fine-tuning, μεσαία κλίμακα εκπαίδευσης, clusters έρευνας, πανεπιστημιακά εργαστήρια και στόλοι inference, οι οικονομίες από οκτώ NVSwitch-connected A100 συχνά ξεπερνούν έναν μικρότερο αριθμό νεότερων GPUs. Οι ομάδες που ήδη τρέχουν υποδομές A100 κερδίζουν επίσης συνέπεια στο στόλο: ίδιοι drivers, ίδια containers, ίδιο λειτουργικό playbook.
Πού κάθεται σε κατάλογο της MillionMiner. Το SYS-741GE-TNRT καλύπτει ευέλικτες διαμορφώσεις PCIe GPU από 1 έως 4. Αυτός ο υπολογιστής καλύπτει την αληθινή 8-κατεύθυνση NVSwitch εκπαίδευση με οικονομίες Ampere. Οι πλατφόρμες HGX H100 και H200 καλύπτουν την κατηγορία από πάνω, και το DGX GB200 καλύπτει το frontier. Επειδή η κατηγορία ισχύος GPU, η επιλογή CPU, η μνήμη, η αποθήκευση και το networking αλλάζουν όλες την κατασκευή, κάθε AS-4124GO-NART+ διαμορφώνεται κατόπιν παραγγελίας: μοιραστείτε το workload σας με την MillionMiner, επιβεβαιώστε τη διαμόρφωση με έναν ειδικό, και το σύστημα φτάνει ελεγμένο, με τις τελωνειακές διαχειρίσεις ολοκληρωμένες, έτοιμο για rack.
Υπάρχουν δύο τρόποι να συνδεθούν οκτώ GPUs A100 μεταξύ τους με 600 GB/s. Ο ένας είναι το NVIDIA DGX A100, μια σφραγισμένη συσκευή με σταθερή διαμόρφωση. Ο άλλος είναι αυτός ο διακομιστής: η ίδια βάση NVIDIA HGX A100 8-GPU SXM4 με το ίδιο fabric NVSwitch, εγκατεστημένη σε μια πλατφόρμα Supermicro 4U όπου οι CPU, η μνήμη, η αποθήκευση και το δίκτυο καθορίζονται ανάλογα με το φορτίο εργασίας σας αντί να επιλέγονται για εσάς.
Ο ολοκληρωμένος GPU είναι ο λόγος ύπαρξης αυτής της μηχανής. Οκτώ modules A100 80GB SXM4 συνδέονται μέσω NVSwitch σε τοποology πλήρους πλέγματος, έτσι ώστε οποιοδήποτε GPU να ανταλλάσσει δεδομένα με οποιοδήποτε άλλο GPU με 600 GB/s χωρίς να ακουμπά την CPU ή το PCIe bus. Αυτό είναι που καθιστά την κατανεμημένη εκπαίδευση κλιμακούμενη: η συγχρονισμός των gradients σε όλα τα οκτώ GPUs ολοκληρώνεται τόσο γρήγορα ώστε η προσθήκη GPU αυξάνει την ταχύτητα και όχι το overhead. Ο κόμβος διαθέτει 640GB συνδυασμένης μνήμης HBM2e με περίπου 2TB/s ανά GPU, αρκετή για να εκπαιδεύσει και να ρυθμίσει μοντέλα δισεκατομμυρίων παραμέτρων με δεδομένα ή μοντέλα παράλληλης επεξεργασίας, ή να εξυπηρετήσει δεκάδες εργασίες inference παραγωγής ταυτόχρονα. Η ονομασία NART+ έχει σημασία: αυτή η παραλλαγή υποστηρίζει τα modules A100 80GB SXM4 υψηλότερης ισχύος, που διατηρούν υψηλότερους ρολογιακούς ρυθμούς υπό συνεχές φορτίο εκπαίδευσης σε σύγκριση με την έκδοση κανονικής ισχύος.
Η πλευρά του host είναι διαμορφωμένη να τροφοδοτεί οκτώ πεινασμένα GPUs. Διπλοί επεξεργαστές AMD EPYC 7002/7003 σειρών αποδίδουν έως και 128 πυρήνες και 256 νήματα, 32 θύρες DIMM επεκτείνονται σε 8TB DDR4-3200 ECC, και θύρες PCIe Gen 4 υποστηρίζουν μια high-speed NIC ανά GPU για GPUDirect RDMA όταν ομαδοποιείτε πολλαπλούς κόμβους. Η MillionMiner διαμορφώνει την πλήρη κατασκευή σύμφωνα με το σχέδιο εκπαίδευσης ή inference σας και παρέχει παγκοσμίως DDP.
Οι ειδικοί μας στον mining μπορούν να σας βοηθήσουν να βρείτε τον ιδανικό miner για την εγκατάστασή σας και τον προϋπολογισμό σας.
Ένας αυθεντικός διακομιστής HGX A100 8-GPU. Οκτώ NVIDIA A100 80GB SXM4 GPUs τοποθετούνται σε μια μητρική πλακέτα NVSwitch, παρέχοντας σε κάθε GPU 600 GB/s NVLink προς κάθε άλλο GPU και συνολικά 640GB σε HBM2e σε ολόκληρο το κόμβο. Διπλοί επεξεργαστές AMD EPYC, έως και 8TB DDR4 ECC μνήμης, PCIe Gen 4 σε όλο το σύστημα, και διπλάσια Titanium τροφοδοτικά σε περίβλημα 4U. Αυτή είναι η αρχιτεκτονική πίσω από το DGX A100, σε μια διαμορφώσιμη πλατφόρμα: εσείς επιλέγετε CPU, μνήμη, αποθηκευτικό χώρο και δικτύωση, και η MillionMiner το κατασκευάζει, δοκιμάζει και το αποστέλλει παγκοσμίως DDP. Ο δοκιμασμένος δρόμος προς πραγματική κατανεμημένη εκπαίδευση για ομάδες που θέλουν 8-πλευρη NVLink χωρίς την κόστη πλατφόρμας Hopper-tier.
Οκτώ GPU A100 80GB SXM4 σε υφαγείο πλήρους πλέγματος NVSwitch. Ταχύτητα GPU-to-GPU 600 GB/s, συνολική χωρητικότητα HBM2e 640GB. Πραγματική κατανεμημένη εκπαίδευση, όχι συμβιβασμός PCIe.
Η ίδια αρχιτεκτονική 8-GPU Delta-class όπως το DGX A100, με CPUs, μνήμη, αποθήκευση και δικτύωση καθορισμένα σύμφωνα με το φορτίο εργασίας σας, αντί ως σταθερά.
Κάθε A100 διασπάται σε 7 απομονωμένα στιγμιότυπα. Ένας διακομιστής παρουσιάζει έως και 56 hardware-καταμερισμένες GPU για διαδοχική ελέγχου και GPU cloud υπηρεσίες.
NVIDIA
Επικοινωνήστε για τιμή
ASUS
Επικοινωνήστε για τιμή
Gigabyte
Επικοινωνήστε για τιμή
Gigabyte
Επικοινωνήστε για τιμή
Ναι. Το AS-4124GO-NART+ κατασκευάζεται γύρω από την πλακέτα βάσης NVIDIA HGX A100 8-GPU με modules SXM4 και διασύνδεση NVSwitch, τον ίδιο συγκρότημα GPU κατηγορίας Delta που χρησιμοποιείται στο DGX A100. Αυτό διαφέρει από τους διακομιστές GPU PCIe: κάθε GPU συνδέεται με κάθε άλλο GPU στα 600 GB/s μέσω του δικτύου NVSwitch, το οποίο είναι η αρχιτεκτονική που απαιτεί η διανεμημένη εκπαίδευση.
Supermicro απέστειλε αυτήν την πλατφόρμα σε δύο εκδοχές. Το NART+ υποστηρίζει τα modules A100 80GB SXM4 με υψηλότερη ισχύ, τα οποία διατηρούν υψηλότερους ρυθμούς ρολογιού υπό συνεχές φορτίο εκπαίδευσης σε σύγκριση με την έκδοση κανονικής ισχύος. Για έναν κόμβο που λειτουργεί σε πλήρη αξιοποίηση σχεδόν όλο το 24ωρο, αυτό το διατηρημένο πλεονέκτημα στον ρυθμό ρολογιού μεταφράζεται άμεσα σε αυξημένη απόδοση εκπαίδευσης.
Οικονομία και ωριμότητα. Το A100 είναι ο πιο αποδεδειγμένος επιταχυντής AI που έχει αναπτυχθεί ποτέ, με ένα πλήρως ώριμο οικοσύστημα CUDA και κάθε σημαντικό framework βελτιστοποιημένο γι' αυτό.Το κόστος της πλατφόρμας ανά μονάδα δυνατότητας εκπαίδευσης συνδεδεμένης με NVSwitch βρίσκεται δραματικά χαμηλότερα από συστήματα γενιάς Hopper. Για fine-tuning, μεσαίας κλίμακας εκπαίδευση, ερευνητικά clusters και fleets inference, οκτώ NVLinked A100 υπερτερούν συχνά ενός μικρότερου αριθμού GPU με παρόμοιο προϋπολογισμό. Οι ομάδες που επεκτείνουν τις υπάρχουσες μονάδες A100 διατηρούν επίσης ένα λειτουργικό εγχειρίδιο.
Ιδιόκτητη θεμελιώδης αρχιτεκτονική GPU: οκτώ A100 SXM4 GPUs σε μια βάση HGX με NVSwitch. Το DGX A100 είναι μια σφραγισμένη συσκευή με σταθερή διαμόρφωση και λογισμικό και υποστήριξη της NVIDIA. Αυτή η πλατφόρμα Supermicro προσφέρει το ίδιο GPU σύμπλοκο με μια διαμορφώσιμη πλατφόρμα host: εσείς ορίζετε CPUs, χωρητικότητα μνήμης, αποθήκευση και δικτύωση σύμφωνα με το πραγματικό σας φορτίο εργασίας, το οποίο συνήθως κοστίζει αισθητά λιγότερο για την ίδια δυνατότητα εκπαίδευσης.
Πλήρης τελειοποίηση μοντέλων στην κατηγορία 30B έως 70B χρησιμοποιώντας παραλληλισμό μοντέλου σε όλο τον κόμβο. Εκπαίδευση μικρότερων μοντέλων με πολύ μεγάλες μπλοκές. Υπηρεσία inference πολλαπλών μοντέλων της κατηγορίας 70B ταυτόχρονα, ή δεκάδων μικρότερων μοντέλων. Με το MIG, ο κόμβος διαμορφώνεται σε έως και 56 απομόνωμενες GPU instances για υπηρεσία πολλαπλών ενοικιαστών με μοντέλα της κατηγορίας 7B έως 13B.
Διπλό AMD EPYC 7002 ή 7003 σειράς, μέχρι 64 πυρήνες ανά socket, με 32 θύρες DIMM που επεκτείνονται έως 8TB DDR4-3200 ECC. Ο κανόνας λειτουργίας για έναν κόμβο εκπαίδευσης με 8-GPU είναι η μνήμη συστήματος να είναι ίση ή μεγαλύτερη από τη συνολική μνήμη GPU, οπότε 512GB έως 1TB είναι η πρακτική βάση εδώ. Η φόρτωση δεδομένων και η προεπεξεργασία για οκτώ GPUs χρειάζονται πραγματικό throughput από τον υποδοχέα· ένας υποδιπλάσιος υποδοχέας στερεί τους ακριβούς επιταχυντές. Η MillionMiner το μεγέθαινει μαζί σας κατά την διαμόρφωση.
Ναι. Η επέκταση PCIe Gen 4 υποστηρίζει έως και μια NIC χαμηλού προφίλ ανά GPU, enabling GPUDirect RDMA σε αναλογία 1:1 GPU-to-NIC. Με προσαρμογείς InfiniBand ή υψηλής ταχύτητας Ethernet, πολλαπλές κόμβοι AS-4124GO-NART+ σχηματίζουν ένα cluster εκπαίδευσης όπου οι GPUs ανταλλάσσουν δεδομένα μεταξύ τους χωρίς την εμπλοκή της CPU. Αυτό είναι το πρότυπο μονοπάτι scale-out για φορτία εργασίας που ξεπερνούν έναν μόνο κόμβο με 8-GPU.
Αυτή είναι μια πυκνή μονάδα 4U με οκτώ high-power SXM4 GPU και διπκούς server CPUs, μεταφερόμενη από redundant Titanium-efficiency power supplies. Σχεδιάστε τροφοδοσία επιπέδου data-center και υψηλής ροής αέρα από μπροστά προς τα πίσω; δεν πρόκειται για μηχάνημα γραφείου. Η MillionMiner επιβεβαιώνει την ακριβή ισχύ και το θερμικό περίβλημα της συγκεκριμένης διαμόρφωσής σας πριν από την κατασκευή, και η φιλοξενία στις δικές της εγκαταστάσεις της MillionMiner είναι διαθέσιμη αν προτιμάτε να μην προμηθευτείτε ισχύ τοπικά.
Πλήρως. Το A100 τρέχει τις τρέχουσες εκδόσεις CUDA, και το PyTorch, TensorFlow, JAX, TensorRT, Triton, vLLM, και κάθε μεγάλη στοίβα εκπαίδευσης και εξυπηρέτησης διατηρούν πρώτης κατηγορίας υποστήριξη Ampere. Οι στόλοι A100仍 εξακολουθούν να φέρουν ένα σημαντικό μερίδιο της παγκόσμιας χωρητικότητας cloud AI, που διατηρεί ενεργά το οικοσύστημα. Τα εργαλεία MIG, NVLink, και GPUDirect είναι όλα ώριμα σε αυτήν την πλατφόρμα.
Ο διακομιστής είναι διαμορφωμένος κατόπιν παραγγελίας λόγω της κατηγορίας ισχύος GPU, των CPUs, της μνήμης, της αποθήκευσης και του δικτύωσης που αλλάζουν τη διαμόρφωση. Υποβάλετε τα workload και τις λεπτομέρειες ανάπτυξης μέσω της φόρμας προσφοράς, επιβεβαιώστε τη διαμόρφωση με έναν ειδικό της MillionMiner, και το σύστημα συναρμολογείται, δοκιμάζεται και αποστέλλεται σε όλο τον κόσμο DDP με δασμούς και τελωνειακές χρεώσεις χειρισμένα πριν την παράδοση. Οδηγίες ενσωμάτωσης rack και φιλοξενία στους data centers της MillionMiner είναι και αυτά διαθέσιμα.