Supermicro HGX H800 SuperServer SYS-821GE-TNHR

Hầu hết những gì người mua đọc về H800 đều mang tính miệt thị hoặc né tránh. Phiên bản chính xác hơn sẽ hữu ích hơn: H800 là phiên bản phù hợp với quy định xuất khẩu của H100, được xây dựng trên cùng một bộ vi xử lý Hopper, và câu trả lời rõ ràng về việc nó có phù hợp với triển khai của quý vị hay không khi quý vị biết được hai thông số kỹ thuật nào đã được thay đổi và liệu công việc của quý vị có liên quan đến chúng hay không. Điều gì giống hệt với H100. Bề mặt GPU, 80GB bộ nhớ HBM3 hoạt động ở băng thông đầy đủ, Tensor Cores thế hệ thứ tư, và toàn bộ đẳng cấp chính xác mà công việc AI thực tế sử dụng: FP8 qua Transformer Engine, BF16, FP16 và TF32. Một nút chứa tám GPU cung cấp 640GB bộ nhớ HBM3 hợp nhất, băng thông bộ nhớ tổng cộng trên 26 TB/s, và throughput FP8 nằm cùng phân khúc với nút H100, vượt quá 30 petaFLOPS. Phân vùng MIG vẫn còn nguyên, tối đa bảy phiên bản riêng biệt trên mỗi GPU, giúp một máy chủ có thể trình diễn hơn năm mươi phần của phần cứng phân chia cho nhiều khách thuê để thực hiện suy luận đa người thuê. Những gì đã bị giảm, và khi nó quan trọng. Đầu tiên, NVLink: 400 GB/s trên mỗi GPU thay vì 900. Trong một nút đơn, NVSwitch vẫn kết nối tất cả tám GPU theo kiểu mạng đầy đủ, và 400 GB/s vẫn hơn ba lần băng thông PCIe Gen 5, do đó quá trình huấn luyện, tinh chỉnh và suy luận trên một nút hầu như không bị ảnh hưởng. Việc giảm này ảnh hưởng đến quy mô biên giới nhiều nút, nơi việc đồng bộ hóa gradient trên hàng chục nút dựa vào từng gigabyte băng thông của mạng lưới. Thứ hai, FP64: giảm mạnh, điều này loại trừ H800 khỏi các mô phỏng khoa học chính xác kép. Đào tạo AI không sử dụng FP64. Nếu công việc của quý vị liên quan đến động lực học chất lỏng tính toán hoặc mô phỏng khí hậu, hãy mua hệ thống H100; nếu nó là các mô hình ngôn ngữ, thị giác hoặc đề xuất, thì việc giảm này không liên quan gì đến quý vị. Điểm chứng minh, trên hồ sơ. DeepSeek đã huấn luyện mô hình V3 và R1 trên các nhóm H800 và công bố các kết quả kỹ thuật. Chiến lược song song có kỷ luật trên GPU này đã tạo ra các mô hình cạnh tranh hàng đầu thế giới. Điều đó không khiến giảm NVLink biến mất; nó chứng tỏ rằng khả năng tính toán, bộ nhớ và throughput FP8 của H800 thực sự thuộc loại tiên phong, và hạn chế đó là một vấn đề kỹ thuật chứ không phải giới hạn tối đa. Máy chủ Supermicro. Đây là một SuperServer 8U với hai bộ xử lý Intel Xeon Scalable trên LGA-4677, lên đến 64 lõi và 128 luồng trên mỗi socket. Bộ nhớ mở rộng đến 8TB ECC DDR5 qua 32 khe DIMM, vượt qua quy tắc hệ thống bộ nhớ trên GPU nhiều lần và còn dư không gian cho tiền xử lý trong bộ nhớ mà các tuyến dữ liệu lớn cần. Lưu trữ gồm mười hai khay NVMe nóng-swaps và ba khay SATA cho dung lượng, với hai khe M.2 giúp hệ điều hành tránh khỏi đường dẫn dữ liệu tập hợp. Mạng lưới đi kèm hai cổng 10GbE tích hợp và tùy chọn 25GbE, cùng khả năng mở rộng PCIe để thêm adapter mạng lưới cho GPUDirect RDMA khi triển khai vượt quá một nút. Nguồn cung cấp là sáu bộ nguồn dự phòng 3000W; làm mát gồm mười quạt công nghiệp lớn chạy bằng khí, với khả năng làm mát bằng chất lỏng trực tiếp như một tùy chọn dành cho các địa điểm có mật độ nút cao. Hệ thống quản lý của Supermicro, SuperCloud Composer và Supermicro Server Manager, xử lý vận hành đội xe, cùng TPM 2.0 và Silicon Root of Trust phía dưới. Nó nằm ở vị trí nào trong danh mục này. So sánh với ba hệ thống A100, DGX A100, Supermicro AS-4124GO-NART+ và Exeton Quasar 640X, nút này tiên phong một thế hệ ở những điểm quan trọng: throughput của FP8 Transformer Engine mà thế hệ Ampere chưa có, HBM3 so với HBM2e, và cùng 640GB trên mỗi nút. So với các hệ thống H100 và H200, nền tảng Lenovo và ASUS HGX, H800 là vị trí giá trị trong thế hệ Hopper: hiệu năng một nút trong cùng phân khúc, với các giảm về NVLink và FP64 đã được tính giá. Người mua phù hợp với hệ này thực hiện huấn luyện, tinh chỉnh hoặc suy luận ở quy mô một đến vài nút và muốn kinh tế Hopper phản ánh điều đó. Người mua không phù hợp thực hiện mô phỏng FP64 hoặc huấn luyện đa nút ở quy mô cluster, và MillionMiner sẽ nói rõ điều đó trong cuộc trò chuyện báo giá chứ không phải sau khi giao hàng. ghi chú về quy định xuất khẩu: H800 chịu sự kiểm soát xuất khẩu của Hoa Kỳ, và MillionMiner xác nhận đủ điều kiện điểm đến trong mỗi báo giá. Mỗi hệ thống được cấu hình theo đơn đặt hàng, thử nghiệm và vận chuyển toàn cầu DDP gồm thuế và hải quan được xử lý. Dịch vụ hosting tại Rechenzentrum của MillionMiner cũng sẵn có cho các nhóm không muốn tự trang bị quá nhiều công suất rack tại chỗ.