Система NVIDIA DGX H100 640 ГБ AI (8x H100 SXM5)

Готовая полная система под ключ. В отличие от чистых плат HGX в этом каталоге, DGX H100 представляет собой полностью готовую машину: восемь GPU H100 SXM5, два процессора Xeon с 56 ядрами, 2ТБ системной памяти, NVMe-накопитель, сетевое оборудование ConnectX-7 и программный стек NVIDIA, встроенные, протестированные и готовые к запуску и развертыванию. Вам не нужно заниматься интеграцией.

Это ключевой выбор при приобретении системы 8x H100. HGX — это базовая плата GPU от NVIDIA, вокруг которой OEM (ASUS, Supermicro, Lenovo) создают собственные серверы; DGX — это собственная полная система NVIDIA на той же технологии GPU. Они используют одни и те же GPUs H100, поэтому производительность GPU сопоставима. Разница в интеграции и поддержке: DGX — это проверенная платформа NVIDIA с собственным программным обеспечением и программой поддержки; сервер OEM HGX — интеграция этого поставщика по другой цене и модели поддержки. Выберите DGX для эталонного дизайна NVIDIA и поддержки; OEM HGX — для другой цены или точки интеграции.

32 petaFLOPS FP8 на восемь GPUs H100 SXM5 с общим объемом памяти 640 ГБ, полностью соединенных через NVLink и NVSwitch. Это вычислительная мощность уровня frontier для ИИ, используемая для обучения и обслуживания больших моделей. Два процессора Xeon с 56 ядрами и 2 ТБ системной памяти обеспечивают работу GPU, а сеть ConnectX-7 позволяет масштабировать систему через несколько систем DGX для создания больших кластеров.

Всё необходимое для работы:Dual 4-го поколения Intel Xeon процессоры с 56 ядрами, 2 ТБ системной памяти, NVMe хранилище (2x 1,9 ТБ M.2 для ОС и 8x 3,84 ТБ U.2 для данных), сеть ConnectX-7 с портами OSFP, предустановленный программный стек AI Enterprise от NVIDIA, поддержка основных корпоративных дистрибутивов Linux и гарантия на 3 года. Это полностью укомплектованная, автономная система ИИ.

Поставка осуществляется с программным стеком NVIDIA's AI Enterprise и поддерживает основные корпоративные дистрибутивы Linux (Ubuntu, Red Hat и другие). Платформа DGX разработана так, чтобы программное обеспечение, драйверы, фреймворки и управление проходили проверку вместе с аппаратным обеспечением как единый поддерживаемый стек, что отличает DGX от самодельной системы. MillionMiner подтверждает точное право на использование программного обеспечения в коммерческом предложении.

DGX H100 потребляет примерно 10,2 кВт при нагрузке и требует подачи электроэнергии и системы охлаждения, соответствующих системе такой плотности. Это инфраструктура для Rechenzentrum, а не офисная техника. MillionMiner подтверждает требования к электропитанию и охлаждению для вашего объекта в предложении и предлагает размещение в своих собственных Rechenzentren, если у вас нет подходящих помещений.

Да, безоговорочно. Восьмому GPU H100 SXM5, обеспечивающему 32 петаФлопс FP8, принадлежит статус передовой инфраструктуры для обучения и выводов искусственного интеллекта, и DGX — это система, которую NVIDIA сама позиционирует как эталон своей инфраструктуры AI. В отличие от рабочих станций и графических карт, представленных в другом месте этого каталога, здесь нет преувеличения: DGX именно то, чем он себя заявляет.

Благодаря своим портам ConnectX-7 для сетевых соединений и OSFP, несколько систем DGX H100 объединяются в более крупные кластеры (образцы архитектур NVIDIA DGX BasePOD и SuperPOD строятся именно таким образом) для обучения, превышающего возможности одного системного блока. Для развертываний с несколькими системами, компании MillionMiner консультирует по вопросам настройки сети и кластеров в предложении.

Подтверждено для конкретного устройства в предложении. В качестве флагманского оборудования класса Hopper, состояние и происхождение имеют значение, и MillionMiner проверяет каждую систему и ясно указывает её состояние, с подтвержденными условиями трехлетней гарантии. DGX H100 также регулируется экспортом, поэтому MillionMiner подтверждает соответствие назначения и соблюдение требований перед продажей.

Представьте вашу нагрузку, обучение крупномодельных систем, тонкую настройку или вывод, и масштабируйте через форму запроса. Специалист MillionMiner подтвердит конфигурацию, права на программное обеспечение, требования к питанию и охлаждению, соответствие экспорту для систем класса Hopper, а также определит, лучше ли для ваших нужд и бюджета DGX или сервер OEM HGX H100, затем осуществит доставку. Каждая система проходит тестирование перед отправкой и доставляется по всему миру DDP с учетом таможенных пошлин, при этом возможно размещение в собственных дата-центрах MillionMiner.