Servidor Quanta S7PH H200 GPU D74H-7U Barebone

Quanta Cloud Technology es el fabricante de diseño original detrás de gran parte de la infraestructura hyperscale del mundo, la empresa a la que los mayores proveedores de servicios en la nube contratan para diseñar y construir sus flotas. La compra directa a través de ODM es la forma en que los compradores de infraestructura más sofisticados adquieren hardware, basándose en ingeniería en lugar de la prima de marca. El S7PH lleva eso al mercado abierto como una unidad básica, y MillionMiner prueba cada Minero antes del envío.

Permite que los componentes sean removidos y reemplazados sin desinstalar el servidor del rack. En un nodo que aloja 1,1 TB de GPUs H200, un evento de mantenimiento que requiere desconectar el rack pone toda la máquina en modo inactivo y puede detener un trabajo de entrenamiento; la capacidad de servicio en rack convierte eso en un intercambio rápido. En hardware de frontera, esa mantenibilidad es tiempo de actividad, y el tiempo de actividad es rendimiento, por eso la página en vivo lo destaca y también lo hace esta lista.

El NVIDIA HGX H200: ocho GPU SXM con 141 GB de HBM3e cada uno, 1.128 GB por nodo con un ancho de banda agregado que se acerca a 38 TB/s, NVSwitch a 900 GB/s por GPU, rendimiento FP8 superior a 30 petaFLOPS, y MIG hasta 56 instancias. En términos de carga de trabajo: ajuste fino de precisión completa de clase 70B en un solo nodo, servicio de contexto largo con margen de caché KV real, y densidad de inferencia multiinquilino.

Se ha decidido el complejo y el chasis para la tarjeta GPU, y los componentes del host, CPUs, memoria y almacenamiento, quedan a su criterio para especificar. Para los equipos con requisitos particulares de núcleos, capacidad o almacenamiento, ese control significa que el nodo llega ajustado a la carga de trabajo en lugar de a un paquete fijo, y MillionMiner configura las partes abiertas en la cotización.

Sí, además de GPUDirect RDMA sin bloqueo. GPUDirect Storage es la ruta directa desde NVMe hasta la memoria GPU que omite el búfer de rebote de la CPU, donde convencionalmente los datos cruzan primero hacia la memoria de la CPU. Resulta beneficioso en entornos donde ocho GPUs reciben datos locales, entrenamiento con conjuntos de datos grandes, recargas de puntos de control de varias centenas de gigabytes y cargas de trabajo de recuperación, y la plataforma lo soporta de forma nativa.

El complejo de GPU es idéntico en su construcción, por lo que la decisión se basa en la relación. Lenovo ofrece una organización de servicios de nivel uno a nivel global y una pila de gestión; este Quanta aporta una línea de ingeniería ODM, servicio en rack y el modelo barebone. Las empresas lideradas por fideicomisos prefieren Lenovo; los compradores que valoran la mantenibilidad y el control del host encuentran aquí su opción, y MillionMiner cita ambas.

Los tres compiten con Lenovo en diferentes aspectos. El ASRock lidera en densidad 6U y economía de los competidores. El ASUS está construido en torno a un cluster primero, con una NIC por GPU. Este Quanta destaca en facilidad de servicio ODM, compatibilidad hacia adelante y configurabilidad de barebone. Los compradores de densidad consideran el ASRock, los equipos de hoja de ruta de clusters prefieren el ASUS, los compradores de mantenibilidad y control optan por esto, y la cotización determina la decisión.

La familia Intel Xeon Scalable de 4ª generación en 32 ranuras DDR5, con los SKU de CPU y la población de memoria especificados por configuración porque la plataforma es un barebone. La regla que se aplica en todo este catálogo se mantiene, memoria del sistema en o por encima del grupo de GPU de 1,1 TB, y el diseño acomoda CPUs de próxima generación para futuras actualizaciones. El host configurado se confirma con su cotización.

A través de GPUDirect RDMA sin bloqueo en adaptadores de red especificados por implementación, la topología que comparte gradientes entre nodos sin involucrar las CPU, en InfiniBand o Ethernet de alta velocidad. Como una solución básica, la configuración de la red se ajusta a su plan de clúster, y MillionMiner asesora sobre la arquitectura de conmutadores a medida que las implementaciones superan un nodo.

Envíe los detalles de su carga de trabajo y despliegue a través del formulario de cotización. Un especialista de MillionMiner configura el host, confirma los términos de garantía de 3 años, la elegibilidad del destino bajo los controles de exportación de EE. UU. que se aplican a los aceleradores de clase Hopper, y la entrega. Cada sistema se prueba antes del envío y se envía a todo el mundo DDP con los aranceles gestionados, y está disponible alojamiento en los propios centros de datos de MillionMiner.