Supermicro HGX H800 SuperServer SYS-821GE-TNHR

Το H800 είναι η έκδοση εξαγωγής-σύμφωνη με τις προδιαγραφές του H100, κατασκευασμένο με το ίδιο silicon Hopper με τα ίδια 80GB HBM3 σε πλήρη εύρος ζώνης και τον ίδιο FP8 Transformer Engine. Δύο προδιαγραφές μειώθηκαν: το εύρος ζώνης NVLink, 400 GB/s ανά GPU αντί για 900, και το throughput FP64, το οποίο χρησιμοποιείται από επιστημονική προσομοίωση παρά από AI. Για εκπαίδευση, προσαρμογές και inference, η επεξεργασία και η μνήμη που χρησιμοποιείτε πραγματικά ταιριάζουν με το H100.

Η δημόσια καταγραφή απαντά σε αυτό. Το DeepSeek εκπαιδεύτηκε το V3 και το R1, μοντέλα frontier με οποιοδήποτε μέτρο, σε clusters H800 και δημοσίευσαν την τεχνική πίσω από αυτό. Η απόδοση του GPU FP8, το εύρος ζώνης HBM3 και η αρχιτεκτονική Tensor Core είναι κατηγορίας H100 γιατί είναι το ίδιο τσιπ. Η μείωση NVLink αποτελεί τεχνική σκέψη σε κλίμακα πολλαπλών κόμβων, και όχι όριο απόδοσης.

Σε κλίμακα πολλαπλού κόμβου cluster. Μέσα σε έναν διακομιστή, το NVSwitch εξακολουθεί να ενώνει όλα τα οκτώ GPUs σε ένα πλήρες mesh στα 400 GB/s η καθεμία, περισσότερο από τρεις φορές το PCIe Gen 5, έτσι η εκπαίδευση και η λεπτομερής ρύθμιση σε μονή-κόμβο είναι σχεδόν ανεπηρέαστα. Ο συγχρονισμός των gradients σε δεκάδες κόμβους είναι όπου το χάσμα απέναντι στο δίκτυο H100 fabric των 900 GB/s διευρύνεται. Οι αγοραστές που τρέχουν έναν ή λίγους κόμβους σπάνια το αισθάνονται; οι αγοραστές που σχεδιάζουν μεγάλες cluster θα πρέπει να σταθμίσουν τα συστήματα H100 και H200 σε αυτόν τον κατάλογο, και η MillionMiner θα μοντελοποιήσει και τα δύο στην προσφορά.

Όχι αν η εργασία είναι με διπλή ακρίβεια. Η διαπερατότητα FP64 του H800 μειώθηκε δραστικά ως μέρος της συμμόρφωσης με τους κανόνες εξαγωγής, κάτι που το αποκλείει από υπολογιστική δυναμική ρευστών, μοντελοποίηση κλίματος και παρόμοιες εργασίες FP64. Για αυτές, τα συστήματα H100 και H200 στον κατάλογο αυτό διατηρούν την πλήρη απόδοση Tensor FP64. Για την εκπαίδευση και την inference AI, που λειτουργούν με FP8, BF16 και TF32, η μείωση είναι αδιάφορη.

Οκτώ GPUs H800 SXM με 640GB κοινόχρηστης μνήμης HBM3, συνολική εύρος ζώνης μνήμης άνω των 26 TB/s, Throughput FP8 Transformer Engine πάνω από 30 petaFLOPS, και πλήρες διασυνδεδεμένο mesh NVSwitch. Κάθε GPU διαιρείται σε έως και επτά MIG instances, έτσι ώστε ο κόμβος να μπορεί να παρουσιάσει περισσότερα από πενήντα hardware-απομονωμένα τμήματα GPU για υπηρεσίες πολλαπλών ενοικιαστών inference.

Διπλοί Intel Xeon Scalable επεξεργαστές σε LGA-4677, έως 64 πυρήνες και 128 νήματα ανά υποδοχή, με 32 θέσεις DIMM που φτάνουν τα 8TB ECC DDR5. Ο αποθηκευτικός χώρος διαθέτει δώδεκα κουτιά hot-swap NVMe και τρία κουτιά SATA, με δύο θύρες M.2 που διατηρούν τον boot path ξεχωριστό από το dataset I/O. Το δίκτυο έρχεται με διπλό 10GbE ενσωματωμένο, προαιρετικό 25GbE και επέκταση PCIe για fabric adapters. Το Supermicro's SuperCloud Composer και ο Server Manager διαχειρίζονται το fleet management, με TPM 2.0 και Silicon Root of Trust για την ασφάλεια της πλατφόρμας.

Όχι. Δέκα βαρέως τύπου ανεμιστήρες ψύχουν τον κόμβο με αέρα κέντρου δεδομένων, που διατηρεί την ανάπτυξη μέσα σε συνηθισμένες εγκαταστάσεις. Η άμεση υγρή ψύξη διατίθεται ως επιλογή για τοποθεσίες με πυκνότητα κόμβων σε υψηλή ράφι, και η MillionMiner συμβουλεύει σχετικά με τη διαμόρφωση που ταιριάζει στις εγκαταστάσεις σας κατά την προσφορά.

Είναι μια πλήρης γενιά μπροστά όπου οι εργασίες AI παρατηρούνται. Ο Hopper FP8 Transformer Engine περίπου διπλασιάζει το αποτελεσματικό throughput εκπαίδευσης σε σχέση με τον Ampere στην ίδια μνήμη κόμβου, το HBM3 ξεπερνά το A100's HBM2e, και το bandwidth NVSwitch ανά GPU είναι συγκρίσιμο με το fabric των 600 GB/s του A100. Και οι δύο παρέχουν 640GB ανά κόμβο. Οι ομάδες που επιλέγουν μεταξύ τους ζυγίζουν τα οικονομικά του Ampere έναντι του throughput του Hopper, και η MillionMiner αναφέρει και τους δύο με ειλικρίνεια.

Η απόδοση σε έναν μόνο κόμβο βρίσκεται στην ίδια κατηγορία με ένα σύστημα H100, καθώς το silicon, η μνήμη και η μέσω FP8 απόδοση ταιριάζουν. Οι πλατφόρμες H100 και H200 δικαιολογούν τη θέση τους με πλήρη NVLink 900 GB/s για πολλαπλή κλίμακα κόμβων, πλήρη FP64 για HPC, και στη περίπτωση του H200, 141 GB HBM3e ανά GPU. Το H800 είναι η αξία θέση στη σειρά Hopper για υλοποιήσεις AI με έναν ή λίγους κόμβους. Αν το ξεπεράσετε, η διαδρομή αναβάθμισης already βρίσκεται σε αυτό το κατάλογο.

Υποβάλετε τις λεπτομέρειες του φόρτου εργασίας και της εγκατάστασης μέσω της φόρμας προσφοράς, και ένας ειδικός της MillionMiner επιβεβαιώνει τη διαμόρφωση, την επιλεξιμότητα προορισμού σύμφωνα με τον έλεγχο εξαγωγών των ΗΠΑ που εφαρμόζεται στο H800, και το σχέδιο παράδοσης. Κάθε σύστημα δοκιμάζεται πριν από την αποστολή και παραδίδεται παγκοσμίως DDP με τις τελωνειακές διατυπώσεις και τους φόρους να έχουν λυθεί. Η φιλοξενία στα δικά της data centers της MillionMiner διατίθεται ως εναλλακτική λύση στην εγκατάσταση επί τόπου.