Supermicro GPU SuperServer ARS-111GL-NHR, NVIDIA GH200 (Đã qua sử dụng)

Nó hợp nhất CPU và GPU thành một chip duy nhất. Superchip GH200 Grace Hopper tích hợp CPU Grace Arm 72 nhân và GPU Hopper trên cùng một module, kết nối bằng NVLink-C2C với tốc độ 900 GB/s, trong khi một máy chủ thông thường kết nối CPU và GPU rời rạc qua PCIe chậm hơn nhiều. Chúng cũng chia sẻ bộ nhớ phù hợp thay vì giữ các kho riêng biệt. Đây là kiến trúc máy chủ, không phải là GPU bạn thêm vào một máy chủ.

CPU Grace có thể truy cập tối đa 480GB LPDDR5X và GPU Hopper có 96GB HBM3 như một không gian liên tục mà cả hai bộ xử lý đều thấy, thay vì hai vùng riêng biệt để bạn sao chép dữ liệu giữa chúng. Đối với các khối lượng công việc luôn di chuyển dữ liệu giữa CPU và GPU, hoặc cần nhiều bộ nhớ hơn HBM của GPU đơn lẻ, thiết kế thống nhất này loại bỏ việc sao chép và giới hạn PCIe, đó là lợi thế cốt lõi của GH200.

Công việc hạn chế bộ nhớ và kết hợp CPU-GPU: phân tích các đồ thị lớn và mạng thần kinh đồ thị, hệ thống đề xuất với bảng nhúng lớn, và suy luận tiêu thụ bộ nhớ nhiều vượt quá HBM của GPU rời. Đối với những trường hợp này, bộ nhớ thống nhất liên tục là một lợi thế cấu trúc. Đối với đào tạo ma trận đa GPU dày đặc, các hệ thống HGX SXM trong danh mục này vẫn là công cụ tốt hơn.

Hình dạng vấn đề khác biệt. Các hệ thống HGX H100 và H200 là các mô hình NVSwitch tám GPU để đào tạo phân tán, với dung lượng HBM ghép nối từ 640GB đến 1,1TB. Đây là một nút siêu chip Grace Hopper duy nhất, một CPU-GPU hợp nhất với bộ nhớ đồng bộ. Chọn hệ thống HGX cho đào tạo đa GPU; chọn GH200 cho các công việc tải bộ nhớ lớn, đồ thị và kết hợp, nơi bộ nhớ thống nhất mang lại lợi thế. Chúng bổ sung hơn là cạnh tranh.

Đây là một đơn vị thị trường thứ cấp, đã được kiểm tra và xác nhận bởi MillionMiner trước khi vận chuyển, cùng một khung pháp lý áp dụng cho các hệ thống A100 đã qua sử dụng và Hopper đã được tân trang trong danh mục. Các mô-đun Grace Hopper không có bộ phận chuyển động và silicon hoạt động trong phạm vi nhiệt độ quy định không bị giảm hiệu suất theo thời gian này; các bộ phận hao mòn gồm quạt và nguồn cung cấp. Tình trạng và phạm vi bảo hiểm của đơn vị cụ thể được xác nhận trong báo giá của quý vị.

Kinh tế và khả năng tiếp cận. Mua hàng đã qua sử dụng mang lại một kiến trúc khác biệt và thường đắt đỏ hơn, phù hợp cho các nhóm muốn đánh giá Grace Hopper cho các tải công việc hạn chế bộ nhớ hoặc triển khai nó mà không cần giá mới. Khung xác minh chuyển đổi rủi ro điều kiện thành bằng chứng có thể đo lường, và MillionMiner xác nhận những gì đơn vị bao gồm trong báo giá.

CPU Grace là Arm Neoverse, chứ không phải x86, do đó, stack phần mềm hướng đến Arm, nền tảng hỗ trợ một cách tự nhiên trên Grace Hopper bao gồm hệ sinh thái AI của NVIDIA, CUDA, các framework và danh mục container. Các nhóm nên xác nhận rằng stack ứng dụng cụ thể của họ hoạt động trên Arm, và MillionMiner có thể tư vấn về các yếu tố phần mềm trong quá trình báo giá.

Một khung 1U gắn rack với hai khe PCIe 5.0, lưu trữ E1.S NVMe nóng-swapping, hai nguồn cung cấp Titanium dự phòng 2000W, và một cổng quản lý BMC 1GbE riêng biệt. Cấu hình lưu trữ chính xác của thiết bị đã sử dụng được xác nhận trong báo giá của quý khách.

Các triển khai của Grace Hopper mở rộng quy mô thông qua mạng lưới của node và các khe PCIe dành cho bộ điều hợp kết nối, và các nền tảng Grace Hopper của NVIDIA hỗ trợ kết nối liên kết tốc độ cao cho quy mô nhiều node. Đối với một đơn vị single-node đã qua sử dụng, MillionMiner tư vấn về các tùy chọn mạng lưới và kết nối phù hợp cho triển khai của quý vị trong báo giá.

Gửi thông tin về khối lượng công việc và chi tiết triển khai của quý vị qua mẫu báo giá. Chuyên gia của MillionMiner xác nhận tình trạng và phạm vi Bệnh phẩm, cấu hình, khả năng vận chuyển đến theo quy định kiểm soát xuất khẩu của Hoa Kỳ áp dụng cho gia tốc Hopper, và việc giao hàng. Mỗi hệ thống đều được kiểm tra trước khi vận chuyển và gửi đi toàn thế giới DDP, đã xử lý thuế, với dịch vụ lưu trữ trong các trung tâm dữ liệu của MillionMiner có sẵn.