Supermicro GPU A+ server AS-8126GS-NB3RT NVIDIA HGX B300 NVL8

Το Blackwell Ultra είναι η πρώτη γενιά GPU σχεδιασμένη μετά την εκμάθηση από τη βιομηχανία σχετικά με το κόστος εξυπηρέτησης των μοντέλων reasoning. Το B200 απάντησε στο ερώτημα εκπαίδευσης· το B300 απαντά στο ερώτημα εποχής inference που ακολούθησε, και οι αλλαγές είναι συγκεκριμένες και όχι επιφανειακές. Αυτή η πλατφόρμα Supermicro A+ είναι ο κόμβος 8-GPU που ενσωματώνει αυτές τις αλλαγές. <br> Το GPU complex. Οκτώ NVIDIA Blackwell Ultra B300 SXM GPUs τοποθετούνται στην βάση HGX B300 NVL8, κάθε ένα με 288GB HBM3e, 60 τοις εκατό περισσότερα από το B200, συγκεντρώνοντας 2.304GB σε ολόκληρο τον κόμβο. Το πέμπτης γενιάς NVLink ενώνει κάθε GPU με 1,8 TB/s μέσω NVSwitch σε πλήρη mesh. Η NVIDIA… αξιολογεί το πυκνό throughput FP4 του B300 στα 1,5 φορές το B200, μια αύξηση που εστιάζεται ακριβώς εκεί όπου η υψηλή όγκου εξυπηρέτηση ζει, και το micro-tensor scaling του δεύτερης γενιάς Transformer Engine είναι αυτό που κάνει την inference τεσσάρων bits να διατηρεί την παραγωγική ακρίβεια. Η μνήμη bandwidth ανά GPU παραμένει στην κατηγορία των 8 TB/s· η χωρητικότητα είναι το βασικό σημείο, καθώς η χωρητικότητα είναι αυτό που εξαντλεί πρώτα τα workloads reasoning. <br> Γιατί η χωρητικότητα ορίζει την εποχή reasoning. Ένα μοντέλο που σκέφτεται πριν απαντήσει παράγει εσωτερικούς tokens, και κάθε ένα από αυτά καταλαμβάνει KV cache για τη διάρκειά της απάντησης. Εκτεταμένα ίχνη reasoning, μεγάλα παραθυρόθυρα συμφραζομένων, και υψηλός συγχρονισμός εξυπηρέτησης πολλαπλασιάζουν αυτό το αποτύπωμα. Σε μικρότερους κόμβους, το αποτέλεσμα είναι offloading, κατάρρευση batch-size, ή και τα δύο, και τα περιθώρια εξυπηρέτησης συρρικνώνονται. Ένας κόμβος 2,3TB διαθέτει βάρη frontier-scale και τις caches που παράγονται ταυτόχρονα, που είναι η διαφορά μεταξύ ενός μοντέλου που ταιριάζει και μιας ανάπτυξης που κερδίζει. <br> Η ενσωματωμένη υποδομή, και το τι αλλάζει σχετικά με το chassis. Η βάση HGX B300 NVL8 μεταφέρει τις δικές της δικτυακές συνδέσεις: οκτώ ports OSFP στα 800 Gb/s, ένα ανά GPU, διπλάσιο από το ρυθμό ανά θύρα των προηγούμενων γενεών add-in adapters. Αυτός είναι ο λόγος που ο πίνακας προδιαγραφών δείχνει μόνο δύο PCIe 5.0 slots επέκτασης, όπου συστήματα κατηγορίας B200 είχαν δώδεκα· οι δώδεκα υποδοχές υπήρχαν για NICs, και αυτά τώρα βρίσκονται στην baseboard. Για ανάπτυξη πολλαπλών κόμβων, το αποτέλεσμα είναι μια πιο καθαρή κατασκευή, ένας ταχύτερος fabric, και το topology GPUDirect RDMA που εγγυάται ο σχεδιασμός αντί να συναρμολογείται κατά παραγγελία. Τα δύο υπολειπόμενα slots μεταφέρουν αποθήκευση και διαχείριση δικτύου. <br> Ο host Supermicro. Διπλοί επεξεργαστές AMD EPYC 9005 ή 9004, έως 192 πυρήνες ανά socket στη γραμμή 9005, τροφοδοτούν την προεπεξεργασία, το tokenization και το φόρτωμα δεδομένων που απαιτούν οκτώ GPUs αυτής της κατηγορίας. Τεσσαράντα τέσσερα DDR5 modules στα 6400 MT/s γεμίζουν ένα ανά κανάλι σε δώδεκα κανάλια ανά επεξεργαστή και scalable μέχρι 6TB, διατηρώντας το layout πλήρους bandwidth ενώ βρίσκονται πολύ πάνω από την ομάδα GPU, σύμφωνα με τον κανόνα μεγέθους που διδάσκει αυτός ο κατάλογος, με αρκετό περιθώριο. Οκτώ μπροστινά hot-swap E1.S NVMe bays διατηρούν δεδομένα στην κόμη, και έξι τροφοδοτικά 6600W Titanium σε μια redundant διαμόρφωση ορίζει μια ενεργειακή έκταση που δεν αφήνει αμφιβολίες σχετικά με το τι είναι: μια μηχανή data center στην κορυφή της κατηγορίας single-node με αερόψυξη. <br> Η απόφαση κατά του HGX B200 σε αυτόν τον κατάλογο. Ο κόμβος Gigabyte B200 παρέχει 1,4TB και την ίδια γενιά NVLink, και για προγράμματα εκπαίδευσης και στόλους εξυπηρέτησης που λειτουργούν εντός αυτού του περιβάλλοντος μνήμης, παραμένει η λογική αγορά Blackwell. Το B300 κατακτά τη θέση του σε τρεις περιπτώσεις: στόλοι reasoning και inference με μεγάλη διάρκεια συμφραζομένων όπου το βάθος του KV cache καθορίζει το batch size και άρα την οικονομία μονάδας, αναπτύξεις που καλύπτουν frontier-scale μοντέλα που ξεπερνούν το 1,4TB, και χειριστές που τυποποιούν το ενσωματωμένο fabric 800G για ανάπτυξη πολλαπλών κόμβων. Κάτω από αυτά τα όρια, το B200 κερδίζει σε οικονομία· σε αυτά, το B300 είναι ο μόνος κόμβος που ταιριάζει. <br> Η απόφαση κατά του rack-scale. Πάνω σε αυτή τη μηχανή βρίσκονται τα συστήματα GB200 και GB300, όπου 72 GPUs μοιράζονται ένα domain NVLink υπό υγρό ψύξη και εγκαταστάσεις μηχανικού. Η γραμμή ορίου παραμένει σταθερή: αν η παράλληλη εκπαίδευση ταιριάζει πραγματικά περισσότερο από οκτώ GPUs σε ένα ενιαίο συνεκτικό domain, η rack-scale είναι η λύση. Για όλα όσα ταιριάζουν με οκτώ Blackwell Ultra GPUs, το οποίο τώρα περιλαμβάνει την εξυπηρέτηση των μεγαλύτερων αναπτυγμένων μοντέλων, αυτός ο κόμβος παρέχει τη γενιά χωρίς το project εγκατάστασης και scalable έξω μέσω του ενσωματωμένου fabric 800G. <br> Εξαγωγική συμμόρφωση και παραγγελίες. Οι Blackwell-class επιταχυντές υπάγονται στον ελέγχο εξαγωγής των ΗΠΑ, και η MillionMiner επιβεβαιώνει την επιλεξιμότητα προορισμού ως μέρος κάθε προσφοράς. Κάθε σύστημα διαμορφώνεται κατόπιν παραγγελίας, δοκιμάζεται και αποστέλλεται παγκοσμίως DDP με τελωνεία και δασμούς χειρισμένα. Ο προγραμματισμός ανάπτυξης και η φιλοξενία στα δικά τους data centers της MillionMiner είναι διαθέσιμα για ομάδες που προτιμούν να μην επωμιστούν την παροχή ρεύματος rack σε αυτήν την κλίμακα επί τόπου.