Supermicro GPU SuperServer ARS-111GL-NHR, NVIDIA GH200 (Usado)

Fusiona la CPU y la GPU en un solo chip. El GH200 Grace Hopper Superchip combina una CPU Grace Arm de 72 núcleos y una GPU Hopper en un único módulo, conectados mediante NVLink-C2C a 900 GB/s, donde un servidor convencional conecta una CPU y una GPU separadas a través de PCIe mucho más lento. También comparten memoria coherente en lugar de tener pools separados. Es una arquitectura de servidor, no una GPU que se añada a uno.

La CPU Grace con hasta 480 GB de LPDDR5X y la GPU Hopper con 96 GB de HBM3 son accesibles como un espacio coherente que ambos procesadores ven, en lugar de dos pools separados entre los que se copia datos. Para cargas de trabajo que mueven constantemente datos entre la CPU y la GPU, o que necesitan más memoria que la HBM de una GPU discreta, ese diseño unificado elimina las copias y el cuello de botella del PCIe, que es la ventaja principal del GH200.

Trabajo vinculado a la memoria y acoplado a CPU-GPU: análisis de grafos grandes y redes neuronales de grafos, sistemas de recomendación con tablas de incrustación enormes e inferencia con uso intensivo de memoria que excede la HBM de una GPU discreta. Para estos casos, la memoria coherente unificada es una ventaja estructural. Para el entrenamiento de matrices densas en múltiples GPU, los sistemas HGX SXM de este catálogo siguen siendo la mejor herramienta.

Forma diferente del problema. Los sistemas HGX H100 y H200 son mallas NVSwitch de ocho GPU para entrenamiento distribuido, con 640 GB a 1,1 TB de HBM agrupados. Este es un nodo de superchip Grace Hopper, un CPU-GPU fusionado con memoria coherente. Elija los sistemas HGX para entrenamiento multi-GPU; elija el GH200 para cargas de trabajo limitadas por memoria, gráficos y acopladas donde la memoria unificada gana. Se complementan más que compiten.

Es una unidad de mercado secundario, inspeccionada y verificada por MillionMiner antes del envío, bajo el mismo marco aplicado a los sistemas A100 usados y Hopper reacondicionados del catálogo. Los módulos Grace Hopper no tienen partes móviles y el silicio que funciona dentro de las especificaciones térmicas no se degrada en estos límites de tiempo; los elementos que sufren desgaste son los ventiladores y los suministros. La condición y la cobertura para la unidad específica se confirman en su cotización.

Economía y acceso. La compra de unidades usadas hace posible una arquitectura diferente y generalmente costosa, para equipos que desean evaluar Grace Hopper para cargas de trabajo limitadas por memoria o desplegarla sin precios de unidades nuevas. El marco de verificación convierte el riesgo de condición en evidencia medible, y MillionMiner confirma lo que la unidad incluye en la cotización.

La CPU Grace es Arm Neoverse, no x86, por lo que la pila de software está orientada a Arm, que el ecosistema de IA de NVIDIA, CUDA, los marcos de trabajo y el catálogo de contenedores soportan de forma nativa en Grace Hopper. Los equipos deben confirmar que su pila de aplicaciones específica funciona en Arm, y MillionMiner puede asesorar sobre las consideraciones de software durante la cotización.

Un chasis de montaje en rack de 1U con ranuras duales PCIe 5.0, almacenamiento E1.S NVMe de cambio en caliente, fuentes de alimentación Titanium redundantes de 2000W duales y un puerto de gestión BMC dedicado de 1GbE. La configuración exacta de almacenamiento de la unidad usada se confirma en su cotización.

Las implementaciones de Grace Hopper escalan a través de la red del nodo y las ranuras PCIe para adaptadores de tejido, y las plataformas Grace Hopper de NVIDIA soportan interconexión de alta velocidad para escalado multifuncional. Para una unidad de un solo nodo usada, MillionMiner recomienda las opciones de red y tejido para su implementación durante la cotización.

Envíe los detalles de su carga de trabajo y despliegue a través del formulario de cotización. Un especialista de MillionMiner confirma el estado y la cobertura de la unidad, la configuración, la elegibilidad del destino bajo los controles de exportación de EE. UU. que se aplican a los aceleradores de la clase Hopper, y la entrega. Cada sistema se verifica antes del envío y se envía a todo el mundo DDP con los derechos manejados, con hosting en los propios centros de datos de MillionMiner disponible.