Puntare sulla modularità di mini data center prefabbricati per portare più velocemente potenza di computing là dove serve non è un approccio nuovo, ma ora Nvidia lo spinge con decisione anche per le potenti AI factory: a Berlino ha presentato DSX Pod, di fatto il reference design di un piccolo AI data center racchiuso in un container e pronto per l'installazione ovunque serva (o quasi). Una opzione che viene segnalata in particolare ai clienti europei, come modo per colmare più rapidamente il loro gap infrastrutturale quando si tratta di AI.

Nello spazio di un container, il reference design di Nvidia vede impacchettati sistemi di computing, networking, cablaggio e raffreddamento, assemblati e collaudati prima della consegna al cliente. Secondo Nvidia, questa impostazione permette di ridurre i tempi di installazione e messa in esercizio di un (piccolo) data center da circa sei mesi a un minimo di 14 giorni. Attenzione, però: questi tempi si riferiscono all'installazione in un "prepared site", ossia in un sito già predisposto e dotato dei necessari collegamenti alle reti di comunicazioni ed energetiche ed alle altre necessarie infrastrutture di supporto.

Concettualmente, l'idea di Nvidia presenta gli stessi vantaggi principali di un qualsiasi approccio alla realizzazione di data center attraverso unità modulari prefabbricate. Invece di preparare prima un edificio con i suoi vari impianti - per poi installare i rack di server, realizzare le connessioni elettriche e di rete, collegare i sistemi di raffreddamento e procedere con le verifiche funzionali, tutte attività che richiedono il coordinamento di diversi fornitori e squadre specializzate - si collegano fra loro moduli "containerizzati" (letteralmente) per i quali il montaggio dei sistemi, il cablaggio tra i rack, le connessioni idrauliche e i collaudi sono già stati eseguiti in fabbrica.

Nvidia sottolinea però che DSX Pod è qualcosa di diverso, perché le sfide ingegneristiche collegate alla realizzazione di una AI factory sono di un livello superiore rispetto a quelle legate ai data center tradizionali. 

Soprattutto, i sistemi per l'AI combinano rack ad alta densità, networking ad alte prestazioni con scalabilità verticale e orizzontale, raffreddamento a liquido, alimentazione a 800V, telemetria e software di gestione. Tutti questi elementi devono operare in maniera integrata e sinergica, come un unico sistema, e i loro requisiti meccanici, elettrici, termici e di rete devono rimanere entro i limiti ben precisi durante l'integrazione in fabbrica, il trasporto, l'installazione e il funzionamento.

Dal punto di vista tecnologico, DSX Pod è progettato intorno alla piattaforma Nvidia Vera Rubin, destinata ai sistemi di nuova generazione per l'addestramento e l'inferenza dei modelli di intelligenza artificiale. Ogni container prevede un cluster con sette rack NVL72 e l'utilizzo modulare di più container potrebbe in teoria portare alla realizzazione di infrastrutture con capacità complessive nell'ordine delle centinaia di megawatt.