GIGABYTE G893-SD1-AAX5 HGX B200 máy chủ 8-GPU

NVIDIA HGX B200: tám GPU B200 SXM mỗi GPU có bộ nhớ HBM3e 180GB, tổng cộng 1.440GB trên mỗi nút, băng thông tổng hợp 64 TB/s, và NVLink thế hệ thứ năm với tốc độ 1.8 TB/s trên mỗi GPU qua NVSwitch, con số 1.8 TB/s trên bảng đặc tả là tốc độ mạng của từng GPU. Tính toán FP4 qua Bộ máy biến đổi thế hệ thứ hai đạt 144 petaFLOPS trên mỗi nút.

Ở một nơi, Hoster. Tăng cấu hình SD1 này chạy bộ đôi Intel Xeon Scalable với AMX và 32 khe DDR5 theo bố trí ưu tiên dung lượng; ZD1 chạy bộ đôi AMD EPYC với tối đa 192 lõi mỗi socket và 24 khe theo bố trí ưu tiên băng thông. Vỏ máy, hệ thống GPU, nguồn điện, mở rộng và làm mát được chia sẻ. Các khu Intel và các pipeline nhận thức AMX được triển khai tại đây; các hệ thống AMD và tiền xử lý đòi hỏi mật độ lõi cao đặt trên ZD1, và cả hai đều được MillionMiner đề cập.

Ba điều. Các phần mở rộng ma trận AMX trên từng lõi giúp tăng tốc công việc AI phía host mà một nút có 8 GPU tạo ra, gồm tokenization, embeddings, preprocessing. Cấu hình bộ nhớ 32 khe cung cấp khả năng lập kế hoạch dung lượng mà các thiết kế 24 khe không thể có. Và việc chuẩn hóa đội tàu: các bộ phận Intel giữ nguyên công cụ, giấy phép và hình ảnh đã được xác nhận, thêm Blackwell mà không cần chứng nhận một nền tảng thứ hai.

Mỗi GPU: 180GB bộ nhớ HBM3e so với 141GB của H200, xấp xỉ 8 TB/s băng thông so với 4,8, và NVLink được nhân đôi lên 1,8 TB/s. Mỗi nút: 1,4TB so với 1,1TB, cộng thêm độ chính xác FP4 mà NVIDIA đánh giá có thể lên tới 15 lần tốc độ suy luận trillion-parameter theo thời gian thực so với thế hệ H100, một con số của nhà cung cấp dựa trên các thay đổi vật lý. Các nhóm trong phạm vi Hopper vẫn mua theo mô hình kinh tế Hopper; các nhóm đẩy giới hạn của nó sẽ bước vào đây.

Trong ba tình huống: đội tàu suy luận quy mô biên giới nơi FP4 khoảng nhân đôi token mỗi watt, các chương trình đào tạo nơi vải và băng thông nhân đôi rút ngắn thời gian với giá trị kinh doanh, và khối lượng công việc đã đè nặng bộ nhớ trên mỗi GPU của H200. Dưới các ngưỡng đó, hệ thống Lenovo và ASUS H200 vẫn là lựa chọn hợp lý, và các mô hình báo giá đều phù hợp với cả hai hướng.

Cơ sở mạng tích hợp sẵn trên tàu, kết nối 10GbE kép qua bộ điều khiển Intel X710. Vải tính toán được xác định theo từng triển khai: tám vị trí PCIe 5.0 đơn slot mỗi vị trí phù hợp với một bộ chuyển đổi 400 Gb/s cho mỗi GPU trên Quantum-2 InfiniBand hoặc Spectrum-X Ethernet, cấu hình GPUDirect RDMA truyền tải gradient giữa các nút mà không cần CPU. Bốn vị trí dual-slot còn lại dành cho lưu trữ và mạng quản lý.

Ba mươi hai khe cắm DDR5 RDIMM, tám kênh mỗi ổ socket với hai mô-đun mỗi kênh. Ưu đãi: mỗi kênh một mô-đun đạt tốc độ đỉnh, hai mô-đun mỗi kênh đổi một chút tốc độ để tăng số khe cắm và giới hạn dung lượng. Cấu hình này tập trung vào khía cạnh dung lượng, phù hợp với bộ nhớ host rất lớn và mở rộng theo giai đoạn. Quy tắc không thay đổi, bộ nhớ hệ thống đạt hoặc vượt qua pool GPU 1,4TB, và tối đa đã được xác thực cùng với sự phù hợp của bạn theo báo giá.

Tám khay hot-swap Gen5 2,5-inch, NVMe hoặc SATA, cho tầng dữ liệu cục bộ, cùng với hai khe M.2 giữ môi trường khởi động tách biệt khỏi đường truyền dữ liệu, sự phân chia mà danh mục này đề xuất cho mỗi nút đào. Các cấu hình ổ đĩa chính xác sẽ được xác định trong báo giá của quý khách, và MillionMiner sẽ giao các thiết bị đã được lắp đặt trước khi kế hoạch lưu trữ được xác định rõ.

Mười hai nguồn cung cấp 3000W 80 PLUS Titanium với dự phòng 6+6 xác định phạm vi, với tổ hợp GPU chỉ có thể tiêu thụ tám kilowatt dưới tải liên tục trước khi tính đến host. Thiết kế 8U làm mát bằng không khí, giữ cho triển khai trong các trung tâm dữ liệu thông thường. MillionMiner xác nhận mức tiêu thụ chính xác của cấu hình của quý khách trong báo giá, với việc lưu trữ trong các cơ sở của chính mình như một lựa chọn thay thế.

Vui lòng gửi tải công việc của quý vị, sở thích về nhà hosting và chi tiết triển khai qua biểu mẫu báo giá. Một chuyên gia của MillionMiner xác nhận cấu hình, định tuyến SD1 so với ZD1 nếu vẫn đang mở, tiêu chuẩn đủ điều kiện của điểm đến theo các quy định xuất khẩu của Mỹ áp dụng cho bộ tăng tốc Blackwell, và việc giao hàng. Mỗi hệ thống đều được kiểm tra trước khi vận chuyển và được vận chuyển toàn cầu DDP với các khoản phí và thuế đã được xử lý.