GenAI: i punti critici da risolvere prima, secondo Gartner

Evoluzione tecnologica veloce, potenzialità interessanti, tanta hype e molta paura che se non ci si muove in fretta si perderà il treno dell'innovazione. È un po' il ritratto dell'ingresso della GenAI in molte imprese, un ritratto che purtroppo vede i CIO spesso in difficoltà nel definire in fretta strategie efficaci per una Trasformazione Digitale "AI powered". Così si finisce per perdersi per strada aspetti anche importanti della GenAI, spiega Gartner, aspetti che a lungo andare - da qui al 2030 - faranno la differenza tra le aziende che faranno crescere l'AI in azienda in modo sicuro e strategico e quelle che non raggiungeranno, del tutto o in parte, i loro obiettivi.

Secondo gli analisti, oggi nel loro avvicinamento alla GenAI le organizzazioni si concentrano più che altro sulle sfide immediate che essa presenta, come il valore che può portare o la disponibilità dei dati necessari. Per molte ragioni più o meno comprensibili e valide, altri punti critici e rischi meno evidenti passano troppo in secondo piano e non vengono affrontati. Ma i CIO, spiega Gartner, dovrebbero invece affrontare già ora queste sfide nascoste, se vogliono garantire che la GenAI esprima tutto il suo valore e se vogliono evitare persino il fallimento dei progetti di Intelligenza Artificiale.

Il primo rischio nascosto che Gartner segnala è l'esplosione della "shadow AI". Un recente sondaggio condotto da Gartner su 302 cybersecurity leader ha rivelato che nel 69% delle organizzazioni i dipendenti utilizzano servizi pubblici di GenAI non autorizzati. Questo può portare a diversi problemi importanti, come in primis la perdita di proprietà intellettuali, l'esposizione impropria di dati aziendali e l'aumento nei rischi di cybersecurity. 

Tra l'altro, Gartner prevede che entro il 2030 oltre il 40% delle imprese avrà problemi di sicurezza IT o di compliance legati proprio all'uso non autorizzato di shadow AI. Per evitarli serve definire policy chiare per l'utilizzo degli strumenti di AI, condurre audit regolari sugli strumenti effettivamente usati incorporare la valutazione dei rischi della GenAI nei processi di valutazione delle piattaforme SaaS.

Altro rischio nascosto evidenziato da Gartner è il peso del "debito tecnico" associato alla GenAI. Il problema, spiega Gartner, è che molte aziende si stanno affidando alla GenAI come soluzione più rapida in attività come lo sviluppo di codice software e di altri contenuti digitali, senza però monitorare bene la qualità dei risultati ottenuti. La conseguenza è che, in futuro, la manutenzione e la revisione di quanto prodotto oggi dalla GenAI potrebbero comportare costi proibitivi, impattando sul ROI della GenAI stessa. Per questo servono standard chiari per la revisione e la documentazione di quanto creato dalla GenAI, e una stima costante del debito tecnico associato.

Prevedibilmente, Gartner segnala anche che lo sviluppo della GenAI nelle imprese sarà influenzato pesantemente dalle questioni di sovranità digitale, che oggi invece vengono spesso ignorate. Gartner prevede che entro il 2028 il 65% dei Governi mondiali introdurrà requisiti di sovranità tecnologica per migliorare l'indipendenza e proteggersi dalle interferenze normative extraterritoriali. Questi requisiti certamente limiteranno la condivisione internazionale dei dati e dei modelli di AI, potenzialmente rallentando l'implementazione dell'AI nelle imprese, aumentandone i costi e portando a risultati pratici meno che ottimali. Meglio per i CIO, quindi, integrare la sovranità dei dati sin dall'inizio nelle loro strategie AI.

Una introduzione eccessivamente ottimistica della GenAI pone poi il problema della perdita delle competenze e delle conoscenze che il personale umano ha e che non sono facilmente codificabili nei processi d'impresa. Questa perdita, o semplicemente erosione, delle competenze avviene gradualmente e spesso passa inosservata, tanto che secondo Gartner i CIO potrebbero non riconoscere il rischio fino a quando l'azienda non avrà difficoltà a funzionare senza l'AI o quando l'AI "fallirà" in casi limite che richiedono l'intuizione umana.

Infine, c'è il rischio del lock-in tecnologico. Secondo Gartner molte imprese stanno decidendo di affidarsi a un singolo fornitore di tecnologie e piattaforme di GenAI per velocizzarne l'adozione su larga scala. È comprensibile, ma molti CIO sottovalutano quanto i loro dati, modelli di AI o flussi di lavoro saranno poi strettamente legati agli ambienti specifici del fornitore scelto. E dipendere da un unico provider tecnologico inevitabilmente impatta - in negativo - sull'agilità tecnica di un'azienda e sul suo futuro potere negoziale. Motivo per cui, secondo Gartner, i CIO devono porre da subito l'interoperabilità come requisito per tutti i progetti di GenAI.