Servidor GIGABYTE G593-SD2-AAX1 HGX H100 8-GPU (5U, Dual Xeon)

El NVIDIA HGX H100: ocho GPUs SXM5 con 80GB de HBM3 cada una, 640GB por nodo con un ancho de banda agregado superior a 26 TB/s, una malla completa de NVSwitch a 900 GB/s por GPU, un rendimiento FP8 que supera los 30 petaFLOPS y MIG hasta 56 instancias. En términos de carga de trabajo: ajuste fino completo en la clase 70B dentro de un nodo, entrenamiento acoplado en lotes grandes y alta densidad de servicio en producción.

Misma familia Gigabyte G593, diferente modelo de host y configuración. Este SD2 funciona con dual Intel Xeon Scalable con AMX y hasta 8TB de DDR5, como una configuración fija y totalmente especificada. El ZD2 funciona con dual AMD EPYC con ancho de banda de memoria de 12 canales, como un barebone que usted configura. Las opciones de Intel, las líneas de procesamiento AMX y las necesidades de gran memoria en el host corresponden a este modelo; las flotas AMD y los compradores que configuran su propio equipo optan por el ZD2, y MillionMiner cotiza ambos.

Es la mayor memoria de host en los sistemas H100 del catálogo, y se paga donde el host realiza las tareas más pesadas: preprocesamiento intensivo en memoria, conjuntos de datos de gran tamaño en memoria y almacenes de características, así como virtualización densa o multiinquilino junto con las GPU. La regla que este catálogo aplica en todas partes es memoria del sistema igual o superior al grupo de GPU de 640GB; 8TB lo superan muchas veces para cargas de trabajo que lo requieren.

SXM con NVSwitch. Las ocho GPU están en la placa base HGX, conectadas a 900 GB/s en una topología de malla completa, que es la topología de entrenamiento acoplado genuino donde todas las GPU se sincronizan a plena velocidad. Los servidores PCIe H100, como el Lenovo SR675 V3 aquí, funcionan las tarjetas de manera más independiente. Para entrenamiento distribuido, la malla SXM es el punto; para trabajo con GPU independientes, una plataforma PCIe puede ser la mejor opción.

Dos aspectos más allá de la capacidad de 8TB. Las extensiones de matriz AMX en Xeon Scalable aceleran el trabajo tensorial del lado del anfitrión, la tokenización, las incrustaciones, el preprocesamiento, las etapas que alimentan ocho GPUs. Y la estandarización del estado: las organizaciones en Intel mantienen sus herramientas, licencias e imágenes validadas. La generación de procesador indicada para su unidad está confirmada en la cotización.

Ocho bahías Hot-Swap Gen5 de 2,5 pulgadas para NVMe, SATA o SAS, para almacenamiento local flexible, y configuración de red base dual 10GbE a través del controlador Intel X710. La red de computación para agrupamiento se especifica en cada despliegue mediante la expansión PCIe Gen5. La configuración exacta se confirma con su cotización.

Los tres son nodos SXM H100. La Dell es la incumbente de la empresa con host de Intel con gobernanza iDRAC; la Quanta es la construcción ODM de escala hyperscale; esta Gigabyte lidera en capacidad de memoria de host con 8TB y valor de Gigabyte. Los compradores dirigidos por la propiedad prefieren Dell, los compradores de valor ODM prefieren Quanta, los compradores que buscan mayor memoria y valor prefieren esta, y MillionMiner decide la ruta.

Suministros redundantes de 3000W Titanium en un chasis de 5U enfriado por aire, abastecimiento en la clase de diez kilovatios para una configuración completa de ocho GPU más el host. La cantidad exacta de fuentes de alimentación y el consumo de su configuración se confirman en la cotización, y el alojamiento en las propias instalaciones de MillionMiner está disponible para los equipos que prefieran que se encargue la energía del rack.

A través de adaptadores de tejido PCIe Gen5 especificados por implementación, que llevan GPUDirect RDMA para que los gradientes se muevan entre nodos sin tocar las CPU, en InfiniBand o Ethernet de alta velocidad. MillionMiner asesora sobre arquitectura de conmutadores y tejido a medida que las implementaciones superan un nodo.

Envíe los detalles de su carga de trabajo y despliegue a través del formulario de cotización. Un especialista de MillionMiner confirma la configuración, los términos de garantía de 3 años, la elegibilidad de destino bajo los controles de exportación de EE. UU. que se aplican a los aceleradores de clase Hopper y la entrega. Cada sistema se prueba antes del envío y se envía a todo el mundo DDP con los aranceles gestionados, con alojamiento en los propios centros de datos de MillionMiner disponibles.