ASUS XA NB3I-E12 NVIDIA HGX B300 NVL8 GPU Server

Κάθε σύστημα HGX B300 NVL8 φέρει την ίδια καρδιά NVIDIA, έτσι ο τίμιος τρόπος παρουσίασης ενός είναι να αναφέρετε τον κοινό σύνθετο μιλήσει μια φορά, και στη συνέχεια να αφιερώσετε τη σελίδα σε ό,τι αποφασίσει πραγματικά ο κατασκευαστής. Αυτή είναι η κατασκευή της ASUS, και οι αποφάσεις της είναι ένα Host «Intel» και ένα chassis με προτεραιότητα στη λειτουργία. Ο κοινός σύνθετος, δηλωμένος μια φορά. Οκτώ NVIDIA Blackwell Ultra B300 SXM GPUs, 288GB HBM3e η καθεμία, pool 2.304GB σε όλον τον κόμβο, η μεγαλύτερη ενιαία μνήμη κόμβου σε αυτό το κατάλογο. Η πέμπτη γενιά NVLink συνδέει κάθε GPU σε 1,8 TB/s μέσω NVSwitch σε πλήρη mesh. Η NVIDIA αξιολογεί την πυκνή FP4 της γενιάς σε 1,5 φορές το HGX B200, μια βελτίωση που αποσκοπεί στις οικονομίες σε εξυπηρέτηση μοντέλων που reasoning πριν από την απάντηση, όπου οι διαδρομές chain-of-thought και τα μεγάλα συμφραζόμενα πολλαπλασιάζουν το KV cache μέχρι η χωρητικότητα μνήμης, και όχι ο υπολογισμός, να καθορίζει το μέγεθος και το περιθώριο των batch. Ένας κόμβος 2,3TB κρατάει μαζί βάρη frontier και τους caches. Η βάση επίσης φέρει το δικό της δίκτυο: οκτώ ConnectX-8 InfiniBand ports στα 800G, ένα ανά GPU, διπλάσιο από το προηγούμενο επίπεδο, και γι’ αυτό τα συστήματα αυτής της κατηγορίας δεν χρειάζονται πλέον μια δωδεκάδα PCIe θύρες γεμάτες adapters. Το fabric topology που επιθυμεί το GPUDirect RDMA είναι ενσωματωμένο από το εργοστάσιο. Το case του Host Intel. Δύο επεξεργαστές Intel Xeon 6700P σειράς στηρίζουν αυτήν την κατασκευή, η πλατφόρμα Xeon με 6 πυρήνες ανά socket φτάνει τους 86 πυρήνες ανά socket στα 350W. Δυο πράγματα καθιστούν την επιλογή Intel ουσιώδη παρά φυλετική. Πρώτον, το AMX, οι επεκτάσεις μήτρας που υπάρχουν σε όλους τους πυρήνες Xeon 6 P, επιταχύνει ακριβώς το πλευρικό έργο που παράγει ένας κόμβος 8-GPU: tokenization, preprocessing, embedding work, και τα stages inference στον CPU σε μικτά pipelines. Δεύτερον, η πραγματικότητα της fleet: οργανώσεις που έχουν τυποποιήσει σε Intel διαθέτουν εργαλεία tuned Xeon, θέσεις αδειοτητων ανά πυρήνα, επικυρωμένες εικόνες, και operational playbooks, και για αυτούς το node Intel B300 είναι αυτό που τοποθετείται στο σύστημα χωρίς μια παράλληλη πλατφόρμα για πιστοποίηση. Οκτώ δίαυλοι μνήμης DDR5 ανά επεξεργαστή, με υποστήριξη υψηλού εύρους MRDIMM modules σε αυτήν την γενιά πλατφόρμας, διατηρούν το σύστημα μνήμης του host αναλογικό προς το GPU complex που τροφοδοτεί· η διαμορφωση μνήμης και αποθήκευσης που κατασκευάζεται καθορίζεται στην προσφορά σας. Η περίπτωση της ASUS. Το chassis είναι αρθρωτό με ελάχιστα εσωτερικά καλώδια, και σε αυτήν την ισχύουσα κατηγορία αυτό το φράση έχει πραγματική σημασία. Τα καλώδια εμποδίζουν την ροή αέρα σε μια μηχανή που έχει ως έργο τη μεταφορά κιλοβαττών θερμότητας· κάθε συνδετήρας είναι ένα σημείο αποτυχίας σε έναν κόμβο που αναμένεται να λειτουργεί σε διαρκή φόρτωση για χρόνια· και ο χρόνος υπηρεσίας είναι χρόνος παραγωγής όταν οκτώ Blackwell Ultra GPU μένουν άδεια περιμένοντας μια αλλαγή fan. Η αρθρωτή συναρμολόγηση της ASUS μειώνει και τα τρία, και αυτός είναι ο είδος πλεονεκτήματος που ποτέ δεν εμφανίζεται σε benchmark και συχνά σε operations log. Η ισχύς είναι ένα διπλό σύστημα 80 PLUS Titanium παροχών ρεύματος, το επίπεδο αποδοτικότητας όπου οι απώλειες μετατροπής σε αυτήν την κλίμακα παύουν να είναι σφάλμα στρογγυλοποίησης. Η απόφαση ανάμεσα στα αδέλφια Blackwell Ultra. Αυτός ο κατάλογος διαθέτει δύο συστήματα HGX B300 NVL8, και η απόδοση GPU μεταξύ αυτών είναι ταυτόσημη από κατασκευή. Το Supermicro AS-8126GS-NB3RT λειτουργεί το host AMD EPYC 9005 με έως 192 πυρήνες ανά socket και έως 6TB DDR5, η επιλογή για στόλους με AMD τυποποιημένα και για preprocessing που απαιτεί πυρήνες. Αυτό το build της ASUS λειτουργεί τον Intel Xeon 6 host με το AMX και τα πλεονεκτήματα του εκθεσιακού οικοσυστήματος της Intel, σε chassis σχεδιασμένο για ευκολία συντήρησης. Η MillionMiner παραθέτει και τα δύο και προτείνει βάση της υπάρχουσας υποδομής σας, όχι προτίμηση. Η απόφαση κατά της υπόλοιπης κλίμακας. Οι ομάδες που εργάζονται μέσα σε 1,4TB ανά node συνήθως είναι καλύτερα εξυπηρετούμενες από το Gigabyte HGX B200, και οι ομάδες μέσα στο πεδίο Hopper από τα συστήματα Lenovo ή ASUS H200· το B300 κερδίζει το premium του όπου το KV cache reasoning-scale, το μέγεθος του frontier model, ή το πρότυπο fabric 800G καθορίζουν τις οικονομίες. Πάνω από αυτό βρίσκονται τα rack-scale συστήματα GB200 και GB300, με τα domains NVLink 72-GPU και δεσμεύσεις υγρού ψύξης, για τη μικρή μειοψηφία των οργάνων όπου ο παραλληλισμός πραγματικά υπερβαίνει τις οκτώ GPUs σε ένα domain. Οι Blackwell-class επιταχυντές υπόκεινται σε ελέγχους εξαγωγών των ΗΠΑ, και η MillionMiner επιβεβαιώνει την καταλληλότητα προορισμού ως μέρος κάθε προσφοράς. Κάθε σύστημα διαμορφώνεται κατά παραγγελία, δοκιμάζεται, και αποστέλλεται παγκοσμίως DDP με δασμούς και τελωνεία χειρισμένα. Ο προγραμματισμός ανάπτυξης και η φιλοξενία στα δικά της data centre της MillionMiner διατίθεται για ομάδες που προτιμούν να μην προμηθευτούν rack power σε αυτήν την κλίμακα επί τόπου.