I molti livelli della sovranità AI

Quando un'azienda affida una quota crescente delle proprie decisioni operative a sistemi di intelligenza artificiale, che è l'obiettivo ad esempio dell'AI agentica, il punto chiave in prospettiva non è quanto sia avanzata la tecnologia adottata ma quanto margine di manovra resti quando si decide eventualmente di fare scelte tecnologiche diverse. O, più in breve, quale livello di rischio di lock-in comportino oggi le piattaforme di intelligenza artificiale. Intorno a questo passaggio ruota uno studio recente dell'IBM Institute for Business Value, di cui avevamo già dato sinteticamente notizia, dedicato a quella che gli autori definiscono "AI sovereignty". Esaminiamolo in maggiore dettaglio.

Lo studio di IBM lo specifica immediatamente: "AI sovereignty isn’t owning the stack. It’s staying in control when conditions change". Addio quindi alle ambizioni di chi pensa di potersi portare in casa tutto uno stack AI: è una mossa consentita solo a pochi, per complessità e costi, e che in generale nemmeno avrebbe senso. La sovranità per la maggior parte delle imprese, quindi, è "solo" capacità di manovra tecnologica: conservare sempre la possibilità di spostare i dati, sostituire i modelli e trasferire i carichi di lavoro tra ambienti diversi, quando diventa opportuno per ragioni tecniche, commerciali o di compliance.

Mantenere questa capacità di manovra è tutt'altro che scontato, perché i modelli architetturali dell'AI sono decisamente diversi da quelli che li hanno preceduti. Per decenni le imprese hanno infatti seguito uno schema collaudato: standardizzare, centralizzare, scalare. Il metodo ha funzionato per i gestionali, per l'infrastruttura e perfino per le prime fasi di adozione del cloud. Con l'AI lo stesso approccio mostra dei limiti, spiega IBM, perché non cambia soltanto il ritmo del cambiamento ma la natura stessa delle dipendenze tecnologiche.

Nei sistemi tradizionali le dipendenze tecnologiche si concentrano in infrastruttura e applicazioni e variano in modo relativamente prevedibile. Con l'AI si estendono al livello dei modelli di AI e ai servizi che li circondano, introducendo molta più complessità indipendente dalle scelte dell'azienda utente. Ad esempio, un modello AI può modificare il proprio comportamento senza cicli di rilascio formali, oppure i suoi termini di servizio o i controlli di sicurezza possono essere aggiornati senza preavviso. Determinati modelli o strumenti possono scomparire del tutto, senza abbastanza tempo per prepaparsi adeguatamente. E il modo in cui modelli e tool si integrano, dipendono fra loro e dialogano "dentro" l'infrastruttura dell'AI provider preferito è anch'esso fuori dal controllo dell'utente. È una differenza sostanziale rispetto al passato e anche al concetto di sovranità del cloud (o del multicloud).

Negli ultimi due anni, i CEO interpellati da IBM per lo studio in esame hanno già vissuto sulla propria pelle questa volatilità imprevista. L'aumento dei prezzi figura al primo posto tra le "sorprese" subite con maggiore frequenza, seguito dalle modifiche ai termini di servizio o alle restrizioni d'uso e dalla dismissione di modelli o servizi. Compaiono poi i cambiamenti nelle pratiche di trattamento dei dati, i problemi di qualità, il degrado delle prestazioni, le modifiche alle clausole sulla privacy e le limitazioni di accesso su base geografica. Questa instabilità ha un costo, che le organizzazioni devono assorbire in mancanza di una vera "AI sovereignty".

Premesso questo, come si costruisce una concreta sovranità dell'AI? Lo studio IBM la articola in cinque componenti. La visibilità riguarda la conoscenza delle proprie dipendenze tecnologiche e dei punti di lock-in. La governance è la capacità di applicare politiche e requisiti di conformità a tutto lo stack AI. La portabilità è la capacità di spostare dati e carichi di lavoro tra ambienti diversi. La sostituibilità è la possibilità di cambiare modello AI o fornitore quando si vuole. La continuità, infine, è poter mantenere lo stesso (o quasi) livello di operatività anche in caso di interruzione o degrado di uno o più servizi AI.

Questo controllo completo ce l'hanno in pochi. La quota dei CEO che affermano di avere un controllo completo o elevato delle principali componenti dello stack AI è sempre di minoranza: 42% per le applicazioni e i sistemi, 38% per l'infrastruttura, 38% per i dati, 25% per i modelli. E la quota di chi ammette di non avere affatto il controllo, o di averlo basso, è significativa: 29, 26, 25 e 33 percento rispettivamente. Non stupisce, quindi, che il 71% del campione IBM dichiara che cambiare il fornitore o il modello AI principale sarebbe difficile se dovesse farlo oggi. Tra chi ha già provato a cambiare fornitore negli ultimi due anni, il 75% descrive il processo come complicato, a causa della portabilità dei dati, della necessità di rivalidare i modelli, dei requisiti di conformità e dei vincoli tecnici. Quello che in teoria dovrebbe essere un semplice aggiustamento tattico è spesso una "disruption" di mesi.

Secondo le analisi di IBM, chi punta a una maggiore sovranità dell'AI - che tra l'altro molte aziende stanno perseguendo con la repatriation dei carichi di lavoro AI dal cloud pubblico verso ambienti on-premise o privati - dovrebbe considerarla per tre ambiti interdipendenti: dati, modelli, infrastruttura. I dati sono ovviamente la base su cui poggia tutto il resto, dato che ogni modello e applicazione AI dipende da essi. La criticità è maggiore nei settori dove residenza, governance e tracciabilità dei dati sono requisiti normativi e non scelte architetturali. In caso di "switch", spostare i dati verso un altro ambiente AI richiede, secondo le stime dei CEO, una media di 145 giorni: troppo, secondo il 68% dei CEO, per garantire la conformità ai requisiti di residenza dei dati stessi.

Il secondo ambito di sovranità è quello dei modelli AI. Qui il vincolo principale non è tanto il modello in sé quanto gli strumenti, i framework e i termini di licenza che lo circondano. Il 57% dei CEO ritiene che sostituire un modello AI "core" richiederebbe un disaccoppiamento significativo o una ricostruzione completa delle interdipendenze IT. La scelta del modello non è quindi una scelta tattica modificabile rapidamente. Nei comparti regolamentati, poi, un cambio di modello può inoltre innescare cicli di rivalidazione, audit e conformità che ne aumentano costo e complessità. La sovranità sui modelli, in questa lettura, consiste nel poter passare a soluzioni interne o ad alternative compatibili, inclusi i modelli open source dove appropriato.

Il terzo ambito di sovranità è l'infrastruttura, intesa come controllo sulle applicazioni, sui livelli di orchestrazione, sugli ambienti di calcolo e sul luogo fisico in cui i carichi vengono eseguiti. Qui i tempi di trasferimento sono lunghi: oltre la metà dei dirigenti stima che spostare i sistemi e le applicazioni AI principali verso un altro fornitore richiederebbe almeno sei mesi. Per ridurre l'esposizione, molte organizzazioni adottano architetture ibride che combinano ambienti on-premise, cloud sovrano, hyperscaler, componenti open source e fornitori regionali.

Dato che la sovranità "totale" è improponibile, IBM presenta l'idea di una sovranità AI "selettiva", realizzata in modo diverso per sistemi diversi, in proporzione al loro valore strategico. Per questo lo studio propone una classificazione dei sistemi in tre livelli di criticità, ciascuno con aspettative di controllo diverse, da usare come modello operativo.

Il primo livello raccoglie i sistemi AI mission critical: qui IBM colloca il livello di controllo più elevato, che non implica necessariamente costruire ogni componente internamente ma poter sempre operare in autonomia se necessario, senza dipendenze insormontabili. Il secondo livello comprende componenti AI importanti ma non differenzianti: qui è ammesso appoggiarsi a dipendenze gestite, purché restino tutelati il controllo sui dati e sulle architetture. Il terzo livello raccoglie servizi AI operativi o di base, dove i costi di uno "switch" sono bassi e la dipendenza dal fornitore è accettabile. 

In generale, la logica del modello proposto da IBM è concentrare gli investimenti in sovranità dell'intelligenza artificiale là dove avere il controllo incide davvero, evitando di sovra-investire per avere flessibilità nelle funzioni AI di basso valore e, all'opposto, di sotto-tutelare quelle più critiche.