Nella interminabile corsa all'AI che porta concretamente valore in azienda stiamo passando attraverso diverse fasi, tutto sommato prevedibili. La prima si è incentrata sulla potenza dei modelli, di frontiera e non: sembra(va) impossibile fare AI senza puntare sul modello più potente del momento. Da qui (anche, non solo) nasce una seconda rincorsa: serve hardware in quantità, e sempre più potente, per soddisfare la fame di computing. Ma a questo punto molte aziende utenti arrivano a una terza fase: non si fa bene l'AI senza darle in pasto dati giusti e di qualità, e qui ci si scontra con la storica poca attenzione delle imprese per il data management.

Diventa difficile parlare di AI efficace se i dati aziendali sono dispersi, poco governati, spesso invisibili ai sistemi che dovrebbero sfruttarli: prima c'è da lavorare su questo fronte, poi pensare a come fare AI. Una tesi che anche Dell Technologies ha sempre portato avanti e per la quale ha sviluppato, circa due anni fa, la sua AI Data Platform. Che oggi fa da "core" per tutti gli ambienti AI progettati da Dell e che ora vede alcune importanti aggiunte.

In generale, il problema affrontato dalla AI Data Platform è che è inutile investire in costose GPU e altri sistemi di AI se non si riescono a portare loro i giusti dati, in grandi volumi, nel momento in cui servono. Serve quindi un'architettura di data management (in senso lato) che offra elasticità nell'accesso allo storage, elevate prestazioni nella gestione dei flussi dati e anche - ed è un punto di forza su cui punta molto Dell - una compatibilità nativa con le principali tecnologie di accelerazione per l'AI, ossia quelle di Nvidia.

Così la AI Data Platform si basa su tre livelli di tecnologie. Quello più "basso" riguarda l'accesso ai dati, quindi comprende gli Storage Engine per il file/object storage e il Lightning File System pensato per la massima performance nel dialogo tra migliaia di GPU e lo storage NVMe. Sopra questo layer ci sono i Data Engine mirati per il data processing, la data analytics e la ricerca massiva su grandi moli di dati non strutturati. Il terzo layer è quello della Data Orchestration, che in estrema sintesi permette di ottimizzare ed automatizzare i flussi dei dati su larga scala verso le applicazioni di AI.

Fonte: Dell

Fin qui tutto bene, perché la AI Data Platform fin dall'inizio ha aiutato le imprese a "vedere" una roadmap che metta sinergicamente insieme AI, dati e cybersecurity. E a passare - come sintetizza Varun Chhabra, senior vice president dell'Infrastructure Solutions Group di Dell - "dal data chaos ai risultati concreti dell'AI". Bisogna però anche fare passi tecnologici in più, perché la AI Data Platform deve adattarsi alle applicazioni dell'AI agentica, quindi risolvere un problema noto degli agenti AI: ogni volta che si attivano devono ricominciare praticamente da capo a capire il contesto in cui operano.

È cioè vero che gli agenti di una impresa possono attingere agli stessi dati e agli stessi documenti, ma ognuno deve rielaborare da capo la propria comprensione del dominio ogni volta che esegue una query o analizza nuove informazioni. Il risultato è uno spreco di tempo e token, oltre che risposte meno affidabili ed un maggior carico di lavoro per l'eventuale operatore umano che guida e corregge l'AI. Ed è anche il motivo per cui molti progetti di AI agentica funzionano benissimo come pilot ma poi crollano quando vengono estesi su larga scala.

Se il problema chiave è dare contesto affidabile agli agenti AI, Dell lo affronta arricchendo la AI Data Platform - in particolare il Data Orchestration Layer - con tre nuove componenti pensate per lavorare in sequenza.

Il primo tassello è lo Unified Semantic Layer, un livello semantico unificato che stabilisce regole e definizioni comuni, in modo che un termine abbia lo stesso significato ovunque compaia, nei dati strutturati come in quelli non strutturati. Collegato allo Unified Semantic Layer c'è l'Enterprise Knowledge Graph: se il livello semantico chiarisce cosa significa una parola, questo grafo della conoscenza spiega come le informazioni sono collegate tra loro e con quelle di altri sistemi. Il grafo si basa su metadati, lineage dei dati e cronologia delle query, e si affina in modo continuo.

Idealmente "sopra" questi due componenti si collocano i Knowledge Agent: "agenti della conoscenza", ciascuno specializzato su un argomento e trattato come fonte attendibile per quel dominio. Le aziende possono definire per ogni agente le linee guida da seguire, il modello AI da usare, un budget massimo di token, il perimetro dei dati accessibili. 

Fonte: Dell

Dell ha potenziato anche la parte di preparazione dei dati integrata nel Data Engine Layer della AI Data Platform. Questa parte ora può sfruttare l'accelerazione in hardware offerta dalle GPU Nvidia, grazie al supporto della libreria specifica cuDF, e Apache Arrow, il formato colonnare in-memory che permette di spostare dati tra storage e computing in modo efficiente. Con questi due potenziamenti, spiega Dell, i workload di batch processing hanno prestazioni fino a 20 volte superiori.

Altra novità è il Dell Storage Performance Tool, uno strumento open source - usato anche da Dell stessa - per fare il benchmarking dello storage compatibile S3, in particolare delle soluzioni Dell ObjectScale e PowerScale. Serve a stimare con maggiore precisione l'infrastruttura necessaria per le applicazioni di AI che si stanno implementando e, di conseguenza, a garantire che i dati arrivino alle GPU senza strozzature dovute ai limiti dello storage implementato.