Supermicro GPU SuperServer ARS-111GL-NHR, NVIDIA GH200 (б/у)

Он объединяет CPU и GPU в один чип. GH200 Grace Hopper Superchip сочетает 72-ядерный CPU Grace Arm и Hopper GPU на одном модуле, соединённых через NVLink-C2C со скоростью 900 ГБ/с, тогда как обычный сервер подключает отдельный CPU и GPU через гораздо более медленный PCIe. Они также делят когерентную память, а не имеют отдельные пула. Это архитектура сервера, а не GPU, который добавляется к нему.

Процессор Grace с до 480 ГБ LPDDR5X и GPU Hopper с 96 ГБ HBM3 адресуются как единое целое пространство, которое видят оба процессора, а не как два отдельных пула, между которыми необходимо копировать данные. Для рабочих нагрузок, постоянно перемещающих данные между CPU и GPU, или требующих больше памяти, чем отдельный HBM GPU, такая объединённая архитектура исключает копирования и узкое место PCIe, что является основным преимуществом GH200.

Задачи, связанные с ограничением памяти и взаимодействием CPU-GPU: аналитика больших графов и графовые нейронные сети, системы рекомендаций с огромными таблицами встраивания и памятьемкие вычисления, выходящие за рамки HBM дискретного GPU. Для них согласованная объединённая память является структурным преимуществом. Для плотного многогруппового обучения матриц на GPU системы HGX SXM в данном каталоге остаются лучшим инструментом.

Другая форма задачи. Системы HGX H100 и H200 представляют собой сетки NVSwitch из восьми GPU для распределённого обучения, с общим объемом HBM от 640 ГБ до 1,1 ТБ. Это единый узел суперчипа Grace Hopper, объединяющий CPU и GPU с когерентной памятью. Выбирайте системы HGX для много-GPU обучения; выбирайте GH200 для задач, ограниченных памятью, графических и связанных нагрузок, где выигрывает единая память. Они дополняют друг друга, а не конкурируют.

Это устройство с вторичного рынка, проведено инспекцию и проверку компанией MillionMiner перед отправкой, тот же подход применяется к б/у системам A100 и восстановления Hopper в каталоге. Модули Grace Hopper не имеют движущихся частей, и силикон, работающий в пределах тепловых характеристик, не изнашивается за эти сроки; износостойкие детали — это вентиляторы и питание. Состояние и гарантия на конкретное устройство подтверждены в вашем предложении.

Экономика и доступ. Покупка подержанных устройств открывает доступ к другой, в противном случае дорогостоящей архитектуре, для команд, которые хотят оценить Grace Hopper для задач с ограниченной памятью или развернуть её без учета стоимости нового оборудования. Фреймворк проверки превращает риск состояния в измеримые доказательства, а MillionMiner подтверждает, что входит в стоимость устройства, указанную в предложении.

Процессор Grace основан на Arm Neoverse, а не на x86, поэтому программный стэк предназначен для Arm, который поддерживается нативно на Grace Hopper в экосистеме NVIDIA AI, CUDA, фреймворках и каталоге контейнеров. Команды должны подтвердить, что их конкретный стек приложений работает на Arm, а MillionMiner сможет проконсультировать по программным аспектам при предоставлении коммерческого предложения.

1U-стойка с двумя слотами PCIe 5.0, горячая замена E1.S NVMe-хранилища, двумя резервными блоками питания Titanium мощностью 2000 Вт, и выделенным управляемым портом 1GbE BMC. Точная конфигурация хранения используемого блока подтверждена в вашем коммерческом предложении.

Развертывания Grace Hopper масштабируются за счет сетевых возможностей узла и слотов PCIe для адаптеров для сети, а платформы NVIDIA Grace Hopper поддерживают высокоскоростное межсоединение для многозвенного масштабирования. Для использованного односистемного блока компания MillionMiner рекомендует варианты сети и соединений для вашей установки при формировании предложения.

Отправьте детали вашей нагрузки и развертывания через форму запроса. Специалист MillionMiner подтвердит состояние и охват устройства, конфигурацию, соответствие назначения в соответствии с экспортным контролем США, применимым к ускорителям класса Hopper, а также доставку. Каждая система проверяется перед отправкой и отправляется по всему миру DDP с учетом таможенных пошлин, при этом доступна размещение в собственных дата центрах MillionMiner.