Siêu máy chủ GPU A+ của Supermicro AS-8125GS-TNHR (Đã qua sử dụng)

Phần cứng đã qua sử dụng được bán dưới dạng đã rút ra; phần cứng đã sửa chữa được phục hồi trước. Các thiết bị này được kiểm tra, các linh kiện mòn được thay thế, và máy sau đó trải qua cùng một quy trình xác minh áp dụng cho tất cả phần cứng phụ trong danh mục này, chẩn đoán đầy đủ trên tất cả tám GPU, lịch sử lỗi HBM, sức khỏe của NVLink và NVSwitch, cũng như thử nghiệm tải. Báo cáo tình trạng và phạm vi bảo hiểm của thiết bị cụ thể được xác nhận trong báo giá của quý vị.

Việc luân chuyển đội xe đã bắt kịp với thế hệ mới. Các triển khai lớn đầu tiên của H100 đã đi vào hoạt động từ đầu năm 2023, các nhà vận hành thay mới mạnh mẽ, và việc di chuyển Blackwell đang giải phóng số lượng lớn đội xe đó vào thị trường thứ cấp, cùng một chu kỳ như A100 đã hoàn thành cách đó một thế hệ.Nguồn cung cấp là sản phẩm phụ của các nâng cấp bởi các nhà vận hành chuyên nghiệp, đó là lý do tại sao lịch sử dịch vụ là loại tốt nhất có thể.

Đây là quyết định về bộ nhớ. H100 có 80GB HBM3 trên mỗi GPU, 640GB trên mỗi nút, rất phù hợp cho mọi thứ phù hợp với nó. H200 có 141GB HBM3e trên mỗi GPU, 1,1TB trên mỗi nút với băng thông cao hơn, và xứng đáng với giá trị của nó cho tinh chỉnh chính xác đầy đủ lớp 70B và phục vụ dài hạn. Khả năng sẵn có của từng thiết bị trong tình trạng đã qua sử dụng sẽ thay đổi theo chu kỳ đội xe, và báo giá của quý vị xác nhận những gì có sẵn trong kho.

Ít hơn và có thể đo lường được so với dự đoán ban đầu. Các mô-đun SXM không có bộ phận chuyển động, và silicon hoạt động trong giới hạn nhiệt độ quy định không suy giảm trong vòng đời của data center; những máy này không tồn tại ở nơi nào khác. Những bộ phận hao mòn là quạt và nguồn điện, các linh kiện hàng hoá mà việc sửa chữa và bảo trì xử lý trước; các yếu tố còn lại như lỗi bộ nhớ, tình trạng mạng, hiệu suất nhiệt, chính xác là những gì các chẩn đoán trước khi vận chuyển phát hiện, từ đó biến rủi ro từ niềm tin thành bằng chứng.

Tám GPU Hopper SXM trong một mạng NVSwitch đầy đủ với băng thông 900 GB/s mỗi chiếc, khả năng xử lý FP8 vượt quá 30 petaFLOPS, và bộ nhớ pooled 640GB hoặc 1,1TB tùy thuộc vào bo mạch chủ, với phân vùng MIG lên tới 56 phiên bản. Về mặt công việc: tinh chỉnh đầy đủ vào lớp 70B trong một nút, mật độ phục vụ đạt cấp độ frontier, và clustering qua các cổng fabric đi kèm.

Cấu hình AMD EPYC kép với tối đa 6TB DDR5 qua 24 khe cắm, vượt qua quy tắc bộ nhớ hệ thống đối với mỗi bo mạch chủ có độ dự phòng, cộng thêm mười hai khe PCIe 5.0, mười hai khe cắm NVMe nóng, hai khe SATA, sáu bộ nguồn Titanium 3000W và mười quạt làm mát bằng không khí. Các CPU đã lắp chính xác của thiết bị hiện có là một phần trong báo cáo tình trạng trong báo giá của quý vị.

Một thế hệ, nơi AI nhận biết được điều đó. FP8 xấp xỉ nhân đôi hiệu suất đào tạo hiệu quả so với Ampere, HBM3 và HBM3e vượt xa HBM2e, và bộ mạch truyền dữ liệu đạt 900 so với 600 GB/s. Node A100 đã sử dụng là mức thấp nhất để đào tạo NVSwitch chính hãng, phù hợp cho các công việc chạy trong bộ nhớ 640GB với tốc độ của Ampere; khi FP8 hoặc băng thông chuyển đổi thành tiền, node này là lựa chọn tốt hơn.

Khi tư thế bảo hành và nguồn cung hiện tại vượt quá yếu tố kinh tế. Các hệ thống Lenovo và ASUS HGX H200 cùng với hệ thống Intel-host SYS-821GE đều được bảo hành cho thiết bị mới và bo mạch chủ mới từ nhà máy, và những người mua cần chúng nên mua ngay. Những người mua có khả năng theo ngân sách và có bằng chứng xác thực sẽ đến đây, và các đội xe tiêu chuẩn AMD sẽ có sự nhất quán về host như một lợi ích bổ sung.

Vâng, và cấu hình đã tính đến điều này: tám NIC cung cấp một cổng mạng cục bộ cho mỗi GPU, kiến trúc GPUDirect RDMA cần di chuyển các gradient giữa các nút mà không tác động đến CPU. Mười hai khe PCIe 5.0 để mở rộng hệ thống mạng, và MillionMiner tư vấn về kiến trúc switch khi các deployments vượt quá một máy.

Gửi tải công việc và chi tiết triển khai của quý khách qua mẫu báo giá. Chuyên gia của MillionMiner xác nhận bo mạch chủ có sẵn, báo cáo tình trạng và phạm vi bảo hiểm của thiết bị, đủ điều kiện vận chuyển theo quy định xuất khẩu của Mỹ áp dụng cho gia tốc Hopper-class, cũng như kế hoạch giao hàng. Mọi hệ thống đều được chuyển đi đã qua tân trang, kiểm tra, FOB toàn cầu với các khoản thuế đã được xử lý, có sẵn dịch vụ lưu trữ tại các trung tâm dữ liệu của MillionMiner.