Sistema NVIDIA DGX H100 640GB AI (8x H100 SXM5)

Um sistema completo e pronto para uso. Diferentemente das placas-base HGX neste catálogo, o DGX H100 é a máquina acabada: oito GPUs H100 SXM5, processadores Xeon duais de 56 núcleos, 2TB de memória do sistema, armazenamento NVMe, rede ConnectX-7 e a pilha de software da NVIDIA, integrada, testada e pronta para ligar e implantar. Não há nada para integrar por conta própria.

Esta é a escolha fundamental para adquirir um sistema 8x H100. HGX é a placa-mãe GPU da NVIDIA que os OEMs (ASUS, Supermicro, Lenovo) montam seus próprios servidores; DGX é o sistema completo da NVIDIA baseado na mesma tecnologia de GPU. Ambos usam os mesmos GPUs H100, portanto, o desempenho bruto da GPU é comparável. A diferença está na integração e suporte: o DGX é a plataforma de referência validada pela NVIDIA, com seu próprio software e programa de suporte; um servidor OEM HGX é a integração desse fornecedor com um preço e modelo de suporte diferentes. Opte pelo DGX para o design de referência e suporte da NVIDIA; um servidor OEM HGX para um preço ou ponto de integração diferente.

32 petaFLOPS de FP8 em seus oito GPUs H100 SXM5, com 640GB de memória GPU total interconectada por NVLink e NVSwitch. Essa é uma computação de IA de classe frontier, a configuração usada para treinar e servir grandes modelos. Os dual 56-core Xeons e 2TB de memória do sistema alimentam as GPUs, e a rede ConnectX-7 permite escalar através de múltiplos sistemas DGX para clusters maiores.

Tudo que é necessário para operar: dois processadores Intel Xeon de 4ª geração de 56 núcleos, 2TB de memória do sistema, armazenamento NVMe (2x 1,9TB M.2 para o sistema operacional e 8x 3,84TB U.2 para dados), rede ConnectX-7 com portas OSFP, pilha de software AI Enterprise da NVIDIA pré-carregada, suporte para as principais distribuições Linux empresariais e uma garantia de 3 anos. É um sistema de IA completo e autônomo.

Ele vem com a pilha de software NVIDIA's AI Enterprise e suporta as principais distribuições Linux corporativas (Ubuntu, Red Hat e outras). A plataforma DGX foi projetada para que o software, drivers, frameworks e gerenciamento sejam validados junto com o hardware como uma única pilha suportada, parte do que diferencia um DGX de um sistema montado por conta própria. A MillionMiner confirma o direito exato de uso do software na cotação.

O DGX H100 consome aproximadamente 10,2 kW sob carga e exige uma infraestrutura de energia e refrigeração de data center adequada à densidade do sistema. Trata-se de uma infraestrutura de data center, não de um equipamento de escritório. A MillionMiner confirma os requisitos de energia e refrigeração para seu site na cotação e oferece hospedagem em seus próprios data centers caso você não possua instalações adequadas.

Sim, sem reservas. Oito GPUs H100 SXM5 oferecendo 32 petaFLOPS de FP8 é uma infraestrutura de treinamento e inferência de IA de alta qualidade, e o DGX é o sistema que a NVIDIA posiciona como seu padrão de referência para infraestrutura de IA. Ao contrário das estações de trabalho e placas de vídeo apresentadas em outros locais deste catálogo, não há exagero na qualificação, o DGX é exatamente o que afirma ser.

Por meio de suas portas de rede ConnectX-7 e OSFP, múltiplos sistemas DGX H100 interconectam-se em clusters maiores (as arquiteturas de referência DGX BasePOD e SuperPOD da NVIDIA são construídas dessa forma) para treinamentos que excedem um único sistema. Para implantações com múltiplos Sistemas, a MillionMiner oferece consultoria sobre a configuração de rede e clusters na cotação.

Confirmado para a unidade específica na cotação. Como hardware de classe Hopper de destaque, a condição e a proveniência são importantes, e a MillionMiner verifica cada sistema e declara claramente sua condição, com os termos de garantia de 3 anos confirmados. O DGX H100 também é regulado para exportação, portanto a MillionMiner confirma a elegibilidade do destino e a conformidade antes da venda.

Envie sua carga de trabalho, treinamento de modelos grandes, ajuste fino ou inferência, e escale através do formulário de cotação. Um especialista da MillionMiner confirma a configuração, a autorização de software, os requisitos de energia e refrigeração, a elegibilidade para exportação para sistemas da classe Hopper, e se o DGX ou um servidor OEM HGX H100 atende melhor às suas necessidades e orçamento, seguido pela entrega. Cada sistema é testado antes do envio e enviado para todo o mundo DDP com impostos incluídos, com hospedagem disponível nos próprios data centers da MillionMiner.