Quale complesso di GPU monta effettivamente questo server?

Il NVIDIA HGX B300 NVL8: otto GPU Blackwell Ultra B300 SXM con 288 GB di HBM3e ciascuno, 2.304 GB pooling per nodo, collegati tramite NVSwitch tramite NVLink di quinta generazione a 1,8 TB/s per GPU. La cifra di banda di 1.800 GB/s sulla scheda tecnica si riferisce alla velocità NVLink per GPU. NVIDIA valuta la capacità di throughput FP4 compatta di questa generazione a 1,5 volte quella dell'HGX B200.

Cosa fornisce un nodo in termini di carico di lavoro?

I modelli a scala Frontier vengono forniti con tutto lo spazio di testa della cache KV, i modelli di centinaia di miliardi di parametri vengono perfezionati con la massima precisione all’interno di un nodo, e le flotte di ragionamento o di contesti lunghi mantengono le dimensioni del batch che i pool di memoria più piccoli non riescono a gestire. Il pool da 2,3TB esiste perché il servizio di chain-of-thought moltiplica l’impronta della cache, e la profondità della cache è ciò che determina l’economia del servizio.

Perché scegliere l'host Intel Xeon 6700P?

Due motivi sostanziali. Le estensioni della matrice AMX su Xeon 6 core di performance accelerano il lavoro lato host generato da un nodo con 8 GPU, tokenizzazione, pre-elaborazione e fasi del pipeline residenti sulla CPU. E la standardizzazione della flotta: le organizzazioni costruite intorno a Intel adottano strumenti ottimizzati per Xeon, posizioni di licenza e playbook operativi validati, e questo è il nodo Blackwell Ultra che si integra in quell'insieme senza certificare una seconda piattaforma. Fino a 86 core per socket a 350W, con otto canali DDR5 per processore.

Come si confronta con il sistema Supermicro HGX B300 in questo catalogo?

Il complesso GPU è identico per costruzione, quindi la decisione riguarda l'host e la configurazione. Il Supermicro utilizza AMD EPYC 9005 con fino a 192 core per socket e fino a 6TB di memoria, la scelta ideale per flotte AMD e preprocessamento con alta densità di core. Questa configurazione ASUS utilizza la piattaforma Intel Xeon 6 con AMX, in un chassis progettato per un cablaggio minimale e un servizio rapido. MillionMiner quote entrambe le soluzioni e le raccomanda in base alla vostra infrastruttura esistente.

Perché la rete è integrata sulla scheda madre anziché su schede PCIe?

Poiché NVIDIA l'ha integrato lì nella generazione HGX B300 NVL8. Otto porte ConnectX-8 InfiniBand a 800G, una per GPU, vengono fornite come parte del complesso GPU, raddoppiando la velocità per porta rispetto alle generazioni precedenti degli adattatori aggiuntivi. La topologia one-port-per-GPU GPUDirect RDMA richiesta è garantita dal design, dai cablaggi interni e dalla configurazione di clustering multi-nodo, diventando un esercizio di switch e cablaggi esterni piuttosto che un'operazione di assemblaggio all’interno del sistema.

Cosa significa in pratica il design modulare e a cablaggio minimo?

Tre effetti operativi. Meno cavi interni significano meno connettori che possono fallire in un nodo previsto per funzionare a carico sostenuto per anni. Meno cablaggio significa meno ostruzione del flusso d'aria in un chassis che gestisce kilowatt di calore. E gli assemblaggi modulari comportano tempi di servizio più brevi, quindi la sostituzione di una ventola o di un alimentatore richiede minuti di produzione anziché ore. Niente di tutto ciò si riflette nei benchmark; tutto ciò si manifesta nell'uptime.

Quando il B300 giustifica il passaggio rispetto ai sistemi B200 e H200 in questo catalogo?

Quando la capacità di memoria o la standardizzazione del fabric determinano l'economia. Ragionamenti e flotte a lungo termine il cui approfondimento della cache KV imposta la dimensione del batch, implementazioni che servono modelli che superano i 1,4TB del nodo B200, e operatori che costruiscono crescita multi-nodo su fabric da 800G tutto si trovano qui. Carichi di lavoro comodi all’interno di 1,4TB favoriscono il Gigabyte HGX B200, e quelli all’interno dell’intervallo Hopper favoriscono i sistemi H200, e MillionMiner modellerà il confronto nella sua quotazione.

Come si raggruppano più nodi?

Sulla rete integrata: otto porte InfiniBand ConnectX-8 da 800G each per nodo, una per GPU, che utilizzano GPUDirect RDMA in modo che gradienti e attivazioni si spostino tra le macchine senza coinvolgere la CPU. La scalabilità oltre un nodo è un esercizio di architettura switch, e MillionMiner offre consulenza sulla progettazione della rete man mano che il deployment cresce.

Quale alimentazione e quali strutture sono necessari?

Una configurazione ridondante 5+5 di alimentatori Titanium 80 PLUS definisce il limite massimo, che colloca questa soluzione saldamente nel settore dei data centre di livello superiore della classe a singolo nodo. MillionMiner conferma il consumo esatto e il piano termico della configurazione specificata durante la richiesta di preventivo, e l'hosting presso le strutture proprie di MillionMiner è disponibile per i team che preferiscono non provvedere alle alimentazioni rack a questa scala.

Come posso ordinare e ci sono considerazioni relative all'esportazione?

Fornisca i dettagli del carico di lavoro, della scalabilità e della distribuzione tramite il modulo di preventivo. Un esperto di MillionMiner conferma la configurazione, l'installazione effettiva di memoria e archiviazione, l'idoneità della destinazione secondo le normative sull'export statunitensi applicabili agli acceleratori di classe Blackwell e il piano di consegna. Ogni sistema viene testato prima della spedizione e consegnato in tutto il mondo DDP con tasse e dogane gestite. Sono disponibili linee guida per l'integrazione nel rack e distribuzione ospitata.

ASUS XA NB3I-E12 HGX B300 NVL8 Server AI

Name: ASUS XA NB3I-E12 Server GPU NVIDIA HGX B300 NVL8
Brand: ASUS
SKU: MM2026ASUXANB3IE12
Price: 7999.00 USD
Availability: BackOrder

Ogni sistema HGX B300 NVL8 utilizza lo stesso cuore NVIDIA, quindi il modo più corretto per presentarlo è indicare una volta il complesso condiviso, dedicando poi la pagina a ciò che il produttore ha effettivamente deciso. Questa è la configurazione ASUS, e le sue decisioni sono un host Intel e un chassis orientato alle operazioni. Il complesso condiviso, dichiarato una volta. Otto GPU NVIDIA Blackwell Ultra B300 SXM, 288GB di HBM3e ciascuna, pool di 2.304GB in tutto il nodo, la memoria singolo nodo più grande di questo catalogo. NVLink di quinta generazione collega ogni GPU a 1,8 TB/s tramite NVSwitch in mesh completa. NVIDIA valuta il formato denso FP4 di questa generazione a 1,5 volte… quello dell’HGX B200, un incremento mirato all’economia di servizio di modelli che ragionano prima di rispondere, dove tracce di chain-of-thought e lunghi contesti moltiplicano la KV cache fino a che la capacità di memoria, non il calcolo, determina la dimensione del batch e i margini. Un nodo da 2,3TB contiene insieme pesi frontier e cache associate. L’elemento di base include anche la propria rete: otto porte ConnectX-8 InfiniBand a 800G, una per GPU, doppio della velocità della generazione precedente, motivo per cui sistemi di questa classe non necessitano più di una dozzina di slot PCIe pieni di adattatori. La topologia del fabric GPUDirect RDMA desiderata è integrata in fabbrica. Il case Intel host. Due processori Intel Xeon 6700P di serie ancorano questa configurazione, con la piattaforma Xeon a 6 performance-core che raggiunge 86 cores per socket a 350W. Due aspetti rendono la scelta Intel sostanziale e non tribal. Primo, AMX, le estensioni delle matrici presenti su tutti i core Xeon 6 P, accelera esattamente il lavoro lato host che un nodo 8-GPU genera: tokenization, preprocessing, embedding, e le fasi di inference residenti sulla CPU di pipeline miste. Secondo, la realtà della flotta: le organizzazioni che hanno standardizzato su Intel adottano strumenti ottimizzati Xeon, licenze per core, immagini validate, e playbook operativi, e per loro il nodo Intel B300 è quello che si integra nell'infrastruttura senza una piattaforma parallela da certificare. Otto canali di memoria DDR5 per processore, con supporto a moduli MRDIMM ad alta banda in questa generazione di piattaforme, mantengono il sistema di memoria host proporzionato al complesso GPU che alimenta; la configurazione di memoria e storage come da configurazione accuratamente progettata, è specificata nel suo preventivo. Il case ASUS di progettazione. Il chassis è modulare con cablaggio interno minimo, e in questa classe di potenza quella frase ha un peso reale. I cavi ostacolano il flusso d’aria in una macchina il cui lavoro è movimentare kilowatt di calore; ogni connettore è un punto di guasto in un nodo che si aspetta di funzionare a carico sostenuto per anni; e il tempo di servizio è tempo di produzione quando otto GPU Blackwell Ultra restano inattive in attesa di uno scambio di ventole. La assemblaggio modulare ASUS riduce tutti e tre i fattori, rappresentando un vantaggio che non appare mai in un benchmark ma si manifesta costantemente in un registro operativo. La potenza è un sistema ridondante 5+5 di alimentatori Titanium 80 PLUS, il livello di efficienza in cui le perdite di conversione a questa scala smettono di essere un errore di arrotondamento. La scelta tra i fratelli Blackwell Ultra. Questo catalogo include due sistemi HGX B300 NVL8, e le prestazioni GPU tra di essi sono identiche per costruzione. Il Supermicro AS-8126GS-NB3RT integra l’host AMD EPYC 9005 con fino a 192 cores per socket e fino a 6TB di DDR5, la scelta per flotte standard AMD e preprocessing ad alta densità di core. Questa configurazione ASUS utilizza l’host Intel Xeon 6 con AMX e i vantaggi dell’infrastruttura Intel, in un chassis progettato per la facilità di manutenzione. MillionMiner cita entrambe e raccomanda in base alla vostra infrastruttura esistente, non per preferenza personale. La decisione contro il resto della gamma. Le squadre che operano con 1,4TB per nodo sono generalmente più servite dal Gigabyte HGX B200, e le squadre nel perimetro Hopper dai sistemi Lenovo o ASUS H200; il B300 giustifica il suo sovrapprezzo laddove il KV cache scalabile, la dimensione del modello frontier, o la standardizzazione del fabric a 800G determinano l’economia. Sopra di esso si trovano i sistemi rack GB200 e GB300, con domini NVLink da 72 GPU e impegni di raffreddamento liquido, per la minoranza il cui parallelismo supera davvero otto GPU in un dominio. Gli acceleratori Blackwell-class sono soggetti alle normative di esportazione statunitensi, e MillionMiner conferma l’idoneità della destinazione come parte di ogni preventivo. Ogni sistema è configurato su ordine, testato e spedito in tutto il mondo DDP con manleva di dazi e dogana. La pianificazione del deployment e l’hosting nei data centre di proprietà di MillionMiner sono disponibili per i team che preferiscono non provisionare l’alimentazione rack a questa scala in loco.

Leggi di più Show Less