Una ricerca di IBM rileva che gli incidenti legati all’AI sono diffusi nell’area Europa e Medio Oriente, ma le capacità di governance e la responsabilità nella gestione del rischio non stanno tenendo il passo con l’adozione della tecnologia. Otto manager su dieci tra quelli intervistati dichiarano che nell’ultimo anno un incidente legato all’AI, come il malfunzionamento di un agente, l’esposizione di dati, errori decisionali guidati dall’AI o violazioni della sicurezza legate all’AI, sia arrivato all’attenzione del board o del top management. Tuttavia, meno della metà (40%, 37% in Italia) di queste aziende segnala di aver modificato policy o framework di governance dell’AI come risposta.

Quando il ritmo di implementazione dell’intelligenza artificiale supera la preparazione dei framework di governance e compliance, la maggioranza (56%, dato che scende al 44% in Italia) dei leader riferisce di procedere comunque entro limiti di rischio accettato, adattando la governance in corso d’opera anziché fermarsi. Solo un terzo (41% in Italia) rinvia completamente il deployment fino a quando la governance non è pronta.

L’indagine, condotta su oltre 3.200 senior leader in otto Paesi europei e del Medio Oriente (di cui 510 in Italia), suggerisce che le policy di governance saranno ulteriormente messe alla prova man mano che gli agenti AI assumeranno compiti più autonomi. Il 35% degli intervistati (43% in Italia) dichiara di utilizzare già oggi AI agentica in produzione, mentre tre quarti degli intervistati (82% in Italia) si aspettano che entro il 2027 gli agenti AI abbiano un certo livello di autonomia decisionale. Solo il 37% (dato che scende al 30% in Italia) afferma che l’attuale sistema di governance sia progettato per poter scalare con il deployment dell’AI agentica.

Quasi tutti i business leader intervistati (98%) hanno assegnato formalmente la responsabilità del rischio AI a livello di board, di cui il 26% (solo il 21% in Italia) con un comitato dedicato all’intelligenza artificiale a livello di consiglio di amministrazione. Tuttavia, la ricerca non evidenzia un consenso chiaro sulla responsabilità per gli esiti negativi derivanti dagli AI. Il ruolo più frequentemente indicato è quello del CIO o CTO dell’organizzazione, scelto solo dal 17% degli intervistati, percentuale che sale al 25% in Italia.

Anche le opinioni sulla responsabilità legale nel caso in cui un sistema di intelligenza artificiale causi un danno significativo risultano contrastanti: il 20% (22% in Italia)  ritiene che dovrebbe essere ripartita proporzionalmente tra chi lo utilizza e il fornitore, il 19% (stesso dato per l’Italia) sostiene che dovrebbe esistere un quadro normativo che al momento non è ancora adeguatamente definito, mentre il 14% (15% in Italia) ritiene che la responsabilità debba ricadere sul fornitore dell’AI o sul fornitore della tecnologia.

Per gestire, entro il 2027, agenti di AI sempre più autonomi che prendono decisioni senza l’approvazione umana in ogni fase, i dirigenti prevedono di aver bisogno di quadri giuridici o contrattuali formali che definiscano la responsabilità dei fornitori in caso di malfunzionamento degli agenti (33%, il 39% in Italia), soglie definite per l’intervento umano (32%, il 33% in Italia), monitoraggio in tempo reale e tracciabilità delle decisioni e delle azioni degli agenti (30%, il 32% in Italia) e la possibilità di interrompere immediatamente l’attività degli agenti in tutta l’azienda (29%, il 31% in Italia).

“Oggi il dibattito sull’AI non riguarda più soltanto l'adozione, ma tocca i temi di fiducia e responsabilità. Con il passaggio dagli assistenti agli agenti autonomi, la governance diventa una priorità strategica: deve essere integrata nel loro funzionamento, definendo confini operativi, responsabilità chiare e controlli in tempo reale. Solo così le imprese potranno portare l’AI su scala con fiducia e generare un valore di business concreto e sostenibile”, commenta Nico Losito, Amministratore Delegato di IBM Italia.