GIGABYTE G893-ZD1-AAX5 HGX B200 8-GPU Server

HGX B200 είναι το οικοδομικό τετράγωνο 8-GPU της NVIDIA Blackwell: οκτώ B200 SXM GPUs και το υφαντό NVSwitch που τα ενώνει, προμηθεύονται σε κατασκευαστές όπως η Gigabyte που σχεδιάζουν πλήρη servers γύρω από αυτό. Οι φυσικές αλλαγές σε σχέση με το Hopper: κάθε B200 είναι ένα πακέτο διπλού die με 208 δισεκατομμύρια τρανζίστορ, η μνήμη αυξάνεται σε 180GB HBM3e ανά GPU με περίπου 8 TB/s, το NVLink διπλασιάζεται σε 1.8 TB/s ανά GPU, και η δευτερογενής γενιά Transformer Engine προσθέτει FP4 ακρίβεια με μικρο-τόνιο κλιμάκωσης.

<α1>1,440GB of pooled HBM3e, 64 TB/s of aggregate memory bandwidth, 144 petaFLOPS of FP4 compute, and 14.4 TB/s of NVLink fabric through NVSwitch. Σε όρους φόρτου εργασίας: πλήρους ακρίβειας fine-tuning μοντέλων σε χαμηλές εκατοντάδες δισεκατομμύρια παραμέτρους, πραγματικό χρόνο FP4 εξυπηρέτηση μοντέλων τρισεκατομμυρίων παραμέτρων, και inference με μεγάλο context με KV cache περιθώριο πέρα από κάθε κόμβο Hopper.

Τρεις καταστάσεις. Συρτάκια inference σε θερμοκοιτίδα κλίμακας, όπου το FP4 διπλασιάζει περίπου τα tokens ανά watt και η NVIDIA αναφέρει έως και 15x πραγματικό χρόνο inference τρισεκατομμυρίων παραμέτρων σε σύγκριση με την γενιά H100. Προγράμματα εκπαίδευσης όπου το διπλασιασμένο fabric και το 60 τοις εκατό gain bandwidth συμπιέζουν τα χρονοδιαγράμματα με επιχειρηματική αξία. Και φόρτοι εργασίας που ήδη πιέζουν το όριο των 141GB ανά-GPU του H200. Ομάδες που βελτιστοποιούν μοντέλα της τάξης των 70B ή εξυπηρετούν εντός του πλαισίου Hopper τυπικά εξυπηρετούνται καλύτερα από τα συστήματα Lenovo ή ASUS HGX H200, και η MillionMiner θα μοντελοποιήσει και τα δύο στην προσφορά.

Χρήσιμο, με μηχανική. Η δεύτερη γενιά του Transformer Engine υλοποιεί μικρο-τενσόρ κλιμάκωση, παρακολουθώντας την κλίμακα ποσοτικοποίησης με λεπτομερή λεπτότητα ώστε τα τετράμπιτ βάρη να διατηρούν την ακρίβεια που χάνει η απλή ποσοτικοποίηση. Οι στοίβες παραγωγής που περιλαμβάνουν το TensorRT-LLM το υποστηρίζουν, και η inference μεγάλων μοντέλων είναι ο τομέας όπου αποδίδει: το αποτύπωμα μνήμης μειώνεται κατά το ήμισυ σε σχέση με το FP8 και η απόδοση roughly διπλασιάζεται. Η εκπαίδευση εξακολουθεί να τρέχει με FP8 και BF16· το FP4 αποτελεί μοχλό οικονομίας στην inference, και έναν μεγάλο σε fleet scale.

Ναι, αυτή είναι η μηχανική βάση αυτής της πλατφόρμας Gigabyte: ένα πλαίσιο 8U με όγκο ροής αέρα ικανό να αντέξει ολόκληρο το HGX B200 complex σύμφωνα με τις προδιαγραφές, χωρίς άμεση υγρή ψύξη. Η πρακτική συνέπεια είναι η ελευθερία εγκατάστασης, καθώς δεν χρειάζεται διανομή ψυκτικού, υδραυλικές εγκαταστάσεις ή συντήρηση υγρού κύκλου και οποιοδήποτε κέντρο δεδομένων με επαρκή ισχύ και συμβατική ψύξη είναι κατάλληλο. Η MillionMiner επιβεβαιώνει τις απαιτήσεις ροής αέρα και εισαγωγής θερμοκρασίας για τον χώρο σας κατά την προσφορά.

Βαθμός πυκνότητας πυρήνων και εύρος ζώνης μνήμης. Η σειρά EPYC 9005 φτάνει τους 192 πυρήνες ανά socket, τροφοδοτώντας pipelines με φορτίο προεπεξεργασίας για οκτώ GPUs αυτής της κλάσης, και η πλατφόρμα τρέχει δωδέκατα κανάλια DDR5 ανά επεξεργαστή με τα είκοσι τέσσερα modules κατανεμημένα ένα ανά κανάλι, η διαρρύθμιση που διατηρεί πλήρες εύρος ζώνης. Ο προϋπολογισμός PCIe Gen5 lane επίσης μεταφέρει την τοπολογία δικτύωσης ενός adapter ανά GPU χωρίς συμβιβασμούς. Η σειρά 9004 συνεχίζει να είναι διαθέσιμη για ομάδες που έχουν τυποποιήσει αυτήν.

Το όριο είναι ο τομέας NVLink. Αυτός ο κόμβος ενώνει οκτώ GPU σε μια συνεκτική διαδιδόμενη δομή· η κλάση GB200 ενώνει 72 σε επίπεδο rack, με υγρή ψύξη και μηχανική εγκαταστάσεων που ταιριάζουν. Εάν ο παράλληλος εκπαιδευτής σας πραγματικά χρειάζεται περισσότερα από οκτώ GPU σε έναν ενιαίο τομέα, η λύση είναι το επίπεδο rack. Για όλα όσα χωρούν οκτώ Blackwell GPU, που καλύπτει το μεγαλύτερο μέρος της επιχειρηματικής εκπαίδευσης και σχεδόν όλη την εξυπηρέτηση inference, αυτός ο κόμβος παρέχει την ίδια γενιά χωρίς το έργο εγκαταστάσεων, και επεκτείνεται έξω μέσω InfiniBand.

Μέσω της διαμόρφωσης one-adapter-per-GPU, η διάταξη PCIe κατασκευάζεται για: οκτώ θέσεις single-slot φιλοξενούν adapters 400 Gb/s σε NVIDIA Quantum-2 InfiniBand ή Spectrum-X Ethernet, παρέχοντας στο GPUDirect RDMA μία dedicated fabric port ανά GPU, έτσι ώστε τα gradients να μετακινούνται μεταξύ των κόμβων χωρίς να αγγίζουν τον επεξεργαστή. Τέσσερις πρόσθετες dual-slot θέσεις φέρουν αποθήκευση και διαχείριση δικτύωσης. Η MillionMiner συμβουλεύει σχετικά με το σχεδιασμό switch και fabric όταν μια εγκατάσταση μεγαλώνει πέρα από ένα μηχάνημα.

Δωδεκάδες τροφοδοτικά 3000W 80 PLUS Titanium σε διαμόρφωση 6+6 με redundancy καθορίζουν το πλαίσιο, με το σύστημα GPU να είναι ικανό να καταναλώσει οκτώ κιλοβάτ υπό σταθερό φορτίο πριν ληφθεί υπόψη ο host. Αυτό είναι καθαρά μια μηχανή data center. Η MillionMiner επιβεβαιώνει την ακριβή κατανάλωση της διαμόρφωσής σας κατά τη διάρκεια της προσφοράς, και η φιλοξενία στις δικές της εγκαταστάσεις της MillionMiner είναι διαθέσιμη για ομάδες που προτιμούν να μην προμηθεύονται ρεύμα rack σε αυτήν την κλίμακα.

Υποβάλετε τις λεπτομέρειες φόρτου εργασίας, κλίμακας και ανάπτυξης μέσω της φόρμας προσφοράς. Ένας ειδικός της MillionMiner επιβεβαιώνει τη διαμόρφωση, την επιλεξιμότητα προορισμού σύμφωνα με τον έλεγχο εξαγωγών των ΗΠΑ που ισχύει για τους Blackwell-class accelerators και το σχέδιο παράδοσης. Κάθε σύστημα υπόκειται σε δοκιμή πριν από την αποστολή και παραδίδεται παγκοσμίως DDP με τις δασμολογικές και τελωνειακές διαδικασίες να χειρίζονται. Οδηγίες ενσωμάτωσης rack και φιλοξενούμενη ανάπτυξη είναι διαθέσιμες και οι δύο.