Bella l'AI generativa, ma molte delle aziende che la stanno approcciando saltando le tappe per non predere il (presupposto) treno dell'innovazione la stanno anche implementando senza tenere conto di diversi necessari requisiti di cybersecurity e protezione delle informazioni. Tanto che - sostiene ora Gartner - già nei prossimi anni (entro il 2028, per la precisione) un quarto di tutte le applicazioni di GenAI in ambito enterprise registrerà almeno cinque incidenti di sicurezza l'anno.

Si tratta di incidenti "minori", secondo gli analisti, ma conta la tendenza: il 25% di applicazioni poco affidabili del 2028 va paragonato con il corrispondente 9% del 2025. In tre anni, la quota di applicazioni a rischio dovrebbe sostanzialmente triplicare. Inoltre, sempre Gartner sottolinea che entro il 2029 il 15% di tutte le applicazioni GenAI enterprise subirà almeno un incidente di sicurezza grave l’anno, rispetto al 3% del 2025.

Il punto debole che porta questa dinamica è in particolare, per Gartner, l'integrazione delle applicazioni di AI agentica attraverso tecnologie come Model Context Protocol. L'integrazione tra agenti spesso sarà tutt'altro che ottimale, aumentando significativamente la superficie di attacco della catena complessiva di elementi di GenAI.

MCP si sta affermando come il protocollo ideale per la comunicazione e l'interazione fra agenti di AI. È un protocollo progettato per permettere ai sistemi di intelligenza artificiale, in particolare agli agenti e alle applicazioni di AI generativa, di interagire in modo strutturato con dati, strumenti e servizi esterni. In sostanza rappresenta uno strato di integrazione che collega il modello AI con il contesto operativo in cui deve agire, rendendo queste interazioni coerenti e ripetibili.

MCP si basa su un’interazione tra un agente AI che formula richieste e un sistema che espone risorse accessibili secondo regole standard. L’agente può interrogare queste risorse, utilizzarle per arricchire il proprio contesto decisionale e produrre un risultato cheva da una risposta testuale a un’azione concreta. MCP quindi semplifica l’integrazione tra AI e infrastrutture aziendali, favorendo lo sviluppo di agenti più autonomi e rendendo più uniforme l’accesso alle informazioni.

Il problema è che MCP è stato pensato per garantire interoperabilità e velocità di sviluppo, non sicurezza "by default". Per questo è possibile che insorgano errori e quindi vulnerabilità anche nell’uso comune dell'AI agentica, soprattutto quando gli agenti accedono a dati sensibili, elaborano contenuti non affidabili o comunicano verso l’esterno. Un qualsiasi processo di AI agentica che comprenda tutti e tre questi passi dovrebbe essere evitato in nome della sicurezza.

Eliminare del tutto i rischi associati all'integrazione di agenti AI non è possibile, quindi le aziende devono predisporre veri e propri security assessment formali per i flussi tra agenti AI, abilitando solo quelli a basso rischio e comunque rafforzando tutti i processi di autenticazione e autorizzazione degli agenti AI, adottando approcci e misure di protezione ad hoc e non ereditati dalla gestione dei ruoli del personale umano. 

A questo bisogna affiancare la "normale" protezione richiesta dall'AI, in particolare la difesa contro minacce e modelli di attacco già noti - ad esempio le varie forme di content/prompt injection - e un controllo molto attento sulla affidabilità dei componenti AI di terze parti. In ogni caso, avvisa Gartner, la crescente complessità generata dall’AI agentica porterà inevitabilmente a difficoltà nella gestione degli accessi ai dati e nel mantenimento della relativa compliance.