Di quale modello Lenovo si tratta esattamente?

Il set di specifiche, un chassis raffreddato ad aria da 8U con processori Intel Xeon Scalable di quinta generazione duali, memoria TruDDR5, quindici ventole N+1 e otto alimentatori da 2600W dotati di scheda base HGX H100 o H200, definisce questa piattaforma GPU Lenovo da 8U raffreddata ad aria. MillionMiner conferma la designazione e la configurazione esatte del modello Lenovo nel suo preventivo, poiché Lenovo offre questo complesso GPU in varianti raffreddate ad aria con Intel, raffreddate ad aria con AMD e liquide.

Devo configurarla con GPU H100 o H200?

Il chassis accetta sia la scheda base, sia la memoria, e la decisione riguarda la memoria. L'H100 contiene 80GB di HBM3 per GPU, 640GB per nodo, e rimane eccellente per modelli che rientrano in tali limiti. L'H200 contiene 141GB di HBM3e per GPU, 1,1TB per nodo, con il 43 per cento in più di banda, e giustifica il suo prezzo premium quando si effettuano ottimizzazioni di modelli della classe 70B a piena precisione, si fornisce inferenza a lungo contesto, oppure si eseguono lavori a memoria vincolata come Mixture-of-Experts. Se i vostri carichi di lavoro già sovraccaricano le GPU da 80GB, l'H200 è la soluzione; altrimenti, la configurazione H100 copre la differenza.

Riesce davvero a raffreddare otto GPU da 700W con aria sola?

Sì, e questa è l'ingegneria che definisce la piattaforma. Quindici ventole hot-swap in configurazione ridundante N+1 muovono aria attraverso 8U di volume dello chassis, mantenendo la scheda base HGX a piena potenza secondo le specifiche senza raffreddamento liquido diretto. Il significato pratico: qualsiasi data centre con alimentazione adeguata e raffreddamento convenzionale può ospitare questa macchina, senza unità di distribuzione del refrigerante, impianti idraulici o manutenzione del ciclo liquido.

Cosa fornisce un nodo per l'addestramento e l'inferenza?

1,128GB di memoria pooled HBM3e su otto GPU, larghezza di banda della memoria aggregata che si avvicina a 38 TB/s, throughput del Transformer Engine FP8 oltre 30 petaFLOPS e NVLink a 900 GB/s tra ogni coppia di GPU tramite NVSwitch. In termini di carico di lavoro: messa a punto a precisione completa di modelli con 70 miliardi di parametri all’interno di un nodo, inferenza a lungo contesto con reale margine di cache KV, e fino a sette partizioni MIG per GPU per servizi multi-inquilino.

Come si confronta questo con NVIDIA DGX H200?

Stessa classe di complesso GPU: otto GPU H200 SXM su una scheda madre NVSwitch. Il DGX è l'apparecchiatura sigillata di NVIDIA con il suo stack software e supporto a fornitore unico, a costi di appliance. Questa piattaforma Lenovo rappresenta il percorso OEM: un host configurabile con la vostra scelta di memoria, storage e rete, supportato dalla rete di assistenza globale di Lenovo e dalla gestione XClarity, tipicamente a un costo di piattaforma significativamente inferiore. Gli acquirenti orientati a certainties si dirigono verso il DGX; le aziende con flotte o orientate al valore preferiscono questa soluzione.

Come si confronta con il server ASUS HGX H200 in questo catalogo?

Entrambe sono dotate della stessa scheda di base NVIDIA HGX H200 a 8 GPU, quindi le prestazioni delle GPU sono equivalenti. La decisione riguarda l'host e la relazione con il fornitore. Il caso Lenovo è uno standard di gestione aziendale: le organizzazioni che già operano con flotte di server Lenovo mantengono un unico piano di gestione, un contratto di supporto e una strategia di ricambi. MillionMiner fornisce un preventivo per entrambe e raccomanderà in base alla vostra infrastruttura esistente piuttosto che alla preferenza.

Quando il H200 giustifica il passaggio dai sistemi A100 in questo catalogo?

Quando la memoria o la larghezza di banda diventano il vincolo. I sistemi A100 offrono 640 GB per nodo e rimangono il percorso di valore per il fine-tuning e il servizio all’interno di questa configurazione. Il nodo H200 dispone di 1,1 TB, il 76 percento in più di memoria e il 43 percento in più di larghezza di banda per GPU, oltre alla capacità di throughput FP8 Transformer Engine che la generazione Ampere manca. I team che addestrano modelli più grandi, servono contesti più lunghi o comprimono i tempi di addestramento sono quelli per cui il passo vale.

È possibile creare un cluster con più nodi?

Sì. La connettività si scala fino a 400 Gb/s per porta, supportando la topologia one-adapter-per-GPU richiesta da GPUDirect RDMA, in cui le GPU in nodi diversi scambiano gradienti direttamente attraverso la rete senza coinvolgimento della CPU. Sedici baie NVMe locali mantengono i dataset sul nodo, e MillionMiner offre consulenza sulla progettazione della rete e degli switch quando un'implementazione supera una macchina.

Di quale potenza e strutture ha bisogno?

Questa è una macchina di circa dieci kilowatt di classe: otto alimentatori ridondanti hot-swap da 2600W alimentano otto GPU da 700W più l'host a doppio CPU, in un'unità rack da 8U con flusso d'aria frontale-posteriore ad alta capacità. Richiede una distribuzione dell'energia dello data centre ma non il raffreddamento a liquido, che rappresenta proprio il suo vantaggio. MillionMiner conferma il piano di alimentazione e termico per il suo sito durante la configurazione, e l'hosting presso le strutture di proprietà di MillionMiner è disponibile come alternativa.

Come posso ordinare e cosa è incluso?

Inviate il vostro carico di lavoro, la preferenza per la generazione di GPU e i dettagli di distribuzione tramite il modulo di preventivo. Uno specialista di MillionMiner conferma la configurazione, la memoria dell'host, lo storage, le reti e la copertura della garanzia di tre anni, quindi il sistema viene testato e spedito in tutto il mondo DDP con dazi e customs gestiti prima della consegna. Sono disponibili sia linee guida per l'integrazione in rack sia distribuzioni ospitate.

Lenovo NVIDIA HGX H200 141GB 700W Server a 8-GPU

Name: Lenovo NVIDIA HGX H200 141GB 700W Server a 8 GPU
Brand: Lenovo
SKU: MM2026LNVHGXH200SR680A
Price: 6700.00 USD
Availability: BackOrder

Questo server è la piattaforma Lenovo 8U raffreddata ad aria costruita attorno alla scheda base NVIDIA HGX H200 8-GPU, un host dual-Intel progettato specificamente affinché la configurazione ad alta potenza della generazione NVIDIA Hopper possa operare in un normale data centre raffreddato ad aria. In un mercato in cui i nodi H200 a piena potenza assumono sempre più il raffreddamento a liquido, questa singola decisione ingegneristica definisce a chi è destinata questa macchina: organizzazioni che desiderano capacità di training di generazione attuale senza dover ricostruire la propria struttura per ottenerla. Il complesso GPU. Otto GPU NVIDIA H200 SXM della classe di potenza da 700W montano… sulla scheda base HGX e si interconnnectano tramite NVSwitch in una mesh completa, ogni GPU raggiunge tutte le altre a 900 GB/s senza toccare la CPU o il percorso PCIe. Ogni GPU dispone di 141GB di HBM3e, il primo utilizzo di HBM3e nella lineup NVIDIA, offrendo al nodo 1.128GB di memoria GPU condivisa e una banda aggregata che si avvicina ai 38 TB/s. La throughput FP8 con il Transformer Engine supera i 30 petaFLOPS per nodo. In termini di carico di lavoro: modelli da 70 miliardi di parametri si perfezionano con precisione FP16 a pieno regime all’interno di un singolo nodo, inferenza a lungo contesto con capacità di cache KV sufficiente che le GPU da 80GB non possono offrire, e architetture Mixture-of-Experts che instradano tra esperti alla velocità NVLink. Ogni H200 può anche partizionarsi in fino a sette istanze MIG da 16,5GB, permettendo a un singolo server di presentare più di cinquanta sezioni GPU isolate dal punto di vista hardware per il servizio multi-tenant. L’ingegneria termica, che rappresenta il motivo principale per scegliere questa chassis. Otto GPU da 700W più due CPU server producono una potenza di calore a cinque cifre di watt in un solo chassis. Il design Lenovo risponde con 8U di volume di flusso d’aria e quindici ventole hot-swap in una configurazione ridondante N+1, mantenendo la scheda base a piena potenza secondo le specifiche anche solo con raffreddamento ad aria. La conseguenza pratica è grande: nessuna unità di distribuzione del liquido di raffreddamento, nessuna tubazione in struttura, nessun contratto di manutenzione del ciclo liquido e nessun vincolo con i data centre già predisposti per il raffreddamento diretto a liquido. L’alimentazione è conforme allo stesso standard: otto alimentatori ridondanti hot-swap da 2600W forniscono il margine di failover, alimentando dall’AC del data centre ordinario. La piattaforma host. Due processori Intel Xeon Scalabile di quinta generazione ancorano il nodo, con configurazioni nella classe da 48 core per socket. Trenta2 slot DIMM supportano memoria TruDDR5 a 5600MHz fino a 2TB, importante perché la regola di riferimento per un nodo di training è memoria di sistema almeno uguale alla totale memoria GPU, e 2TB su un pool di GPU da 1,1TB la supera correttamente. Lo storage utilizza sedici baie NVMe PCIe 5.0 hot-swap da 2,5 pollici, abbastanza spazio locale per i dataset che la maggior parte dei lavori di training non devono mai attraversare in rete. La connettività raggiunge i 400 Gb/s per porta, supportando la topologia di un adapter per GPU necessaria alla clusterizzazione GPUDirect RDMA quando un singolo nodo si trasforma in più unità. Una chassis, due generazioni. La piattaforma accetta sia la scheda base HGX H200 che quella HGX H100 con GPU HBM3 da 80GB. Questa flessibilità rappresenta un vero leva di approvvigionamento: team le cui modelli si adattano comodamente a 640GB per nodo possono optare per H100 e compensare la differenza, mentre team che spingono i limiti di memoria scelgono H200 da 141GB. MillionMiner cita entrambe le configurazioni su questa piattaforma. La sua collocazione in questo catalogo, dichiarata in modo semplice. I tre sistemi 8x A100 qui, il DGX A100, il Supermicro AS-4124GO-NART+ e il Exeton Quasar 640X, offrono un training con NVSwitch comprovato a un costo accessibile, 640GB per nodo. Questa piattaforma Lenovo rappresenta il salto generazionale: 76 percento in più di memoria GPU, 43 percento in più di banda per GPU, throughput FP8 del Transformer Engine che la generazione Ampere non possiede, e NVLink a 900 GB/s contro 600. L’acquirente a cui si rivolge è il team i cui carichi di lavoro hanno superato la memoria A100 o i cui tempi di training giustificano il throughput Hopper. Rispetto al NVIDIA DGX H200, questa è la strada OEM: un host configurabile, l’organizzazione di servizi globale Lenovo e la gestione XClarity alle spalle, e tre anni di copertura della garanzia, senza il sovrapprezzo di prodotto proprio di NVIDIA. Rispetto al sistema ASUS HGX H200 incluso in questo catalogo, il caso Lenovo rappresenta la standardizzazione operativa: le organizzazioni già in funzione con l’infrastruttura server Lenovo mantengono un piano di gestione, un rapporto di supporto e un manuale operativo unico. Ogni unità viene quotata in base alla configurazione, testata e spedita in tutto il mondo DDP, con dazi e dogane gestiti. La pianificazione del deployment e l’hosting nei data centre di MillionMiner sono disponibili per i team che preferiscono non provvedere a circa dieci kilowatt di energia rack on-site.

Leggi di più Show Less