▾ G11 Media: | ChannelCity | ImpresaCity | SecurityOpenLab | Italian Channel Awards | Italian Project Awards | Italian Security Awards | ...

Cybersecurity: nell’era dell’AI prepararsi alla violazione non basta più

'Assume drift', ovvero prepararsi anche alla deriva, riconoscendo che gli ambienti AI evolvono costantemente e che ogni modifica, anche quelle che sembrano marginali, può alterare il livello di rischio

Cybersecurity L'opinione Tecnologie AI

Un sistema di intelligenza artificiale può superare una valutazione di sicurezza oggi e presentare nuovi rischi già pochi giorni dopo, senza che alcun attaccante sia intervenuto. Man mano che le organizzazioni introducono agenti AI, collegano i modelli ai sistemi aziendali e ampliano la quantità di dati a cui queste tecnologie possono accedere, il livello di sicurezza certificato ieri potrebbe non riflettere più la realtà operativa di oggi.

Da anni i professionisti della cybersecurity lavorano partendo da un presupposto consolidato: prima o poi un aggressore riuscirà a violare i sistemi di un'organizzazione. Questo approccio, noto come assume breach, ha spostato il focus dalla prevenzione assoluta alla capacità di rilevare rapidamente le minacce, contenerne l'impatto e garantire un ripristino efficace delle attività. L'intelligenza artificiale introduce però una sfida diversa. Nuove funzionalità, autorizzazioni, connessioni e flussi di dati possono modificare continuamente il comportamento e il profilo di rischio di un ambiente AI, anche in assenza di un incidente di sicurezza. Per i responsabili IT e della cybersecurity si apre così un nuovo punto cieco: la convinzione che l'ambiente valutato ieri sia identico a quello in funzione oggi.

Per affrontare questa nuova realtà, le organizzazioni devono adottare un approccio basato sul principio di assume drift: riconoscere che gli ambienti AI evolvono costantemente e che ogni modifica, anche apparentemente marginale, può alterare il livello di rischio. In altre parole, ciò che si sapeva di un sistema ieri potrebbe non essere più valido oggi. La sicurezza dell'AI non può quindi basarsi su verifiche periodiche e statiche, ma deve diventare un processo continuo di monitoraggio, validazione e adattamento.


Il rischio non riguarda più soltanto le minacce esterne

A differenza delle minacce informatiche tradizionali, il fenomeno del drift non richiede necessariamente l'intervento di un attore malevolo. Anche cambiamenti introdotti con le migliori intenzioni e per rispondere a esigenze operative possono generare conseguenze inattese sul piano della sicurezza.

Prendiamo il caso di un agente AI inizialmente progettato per riassumere documenti interni. Col tempo, l'organizzazione decide di collegarlo a un numero crescente di applicazioni, ampliarne l'accesso ai dati dei clienti e consentirgli di eseguire automaticamente determinate attività. Considerata singolarmente, ciascuna di queste evoluzioni può apparire ragionevole e giustificata. Nel loro insieme, però, possono trasformare radicalmente il profilo di rischio del sistema, attribuendogli livelli di accesso, privilegi e autonomia ben superiori a quelli previsti in fase di progettazione.

L'implementazione originaria potrebbe essere stata valutata e approvata secondo rigorosi criteri di governance e sicurezza. Ma l'organizzazione è davvero consapevole di ciò che quell'agente è in grado di fare oggi?

A complicare ulteriormente il quadro contribuiscono le dinamiche tipiche degli ambienti aziendali moderni: dipendenti che adottano nuovi strumenti, team che sviluppano e distribuiscono agenti in autonomia, applicazioni che vengono integrate tra loro in modi non sempre pianificati o monitorati centralmente. Man mano che queste trasformazioni si accumulano, il divario tra ciò che i team di sicurezza ritengono di dover proteggere e ciò che è realmente in funzione può ampliarsi rapidamente, creando nuove aree di rischio difficili da individuare e governare.


Il monitoraggio continuo deve diventare una prassi consolidata

Se il drift è inevitabile, l'obiettivo non può essere eliminare ogni cambiamento inatteso. Le organizzazioni devono piuttosto sviluppare la capacità di rilevare tempestivamente le evoluzioni dei propri ambienti AI, comprenderne l'impatto e intervenire quando necessario.

Il primo passo è acquisire piena visibilità sui sistemi di intelligenza artificiale in uso: quali agenti sono stati implementati, a quali dati possono accedere e quali attività sono autorizzati a svolgere. Questa mappatura deve includere anche gli strumenti introdotti al di fuori dei tradizionali processi di approvazione, spesso responsabili della nascita di aree di rischio difficili da individuare.

La visibilità, tuttavia, rappresenta solo l'inizio. Sapere che un agente esiste è utile, ma non sufficiente. È altrettanto importante comprenderne il contesto operativo: come interagisce con altri sistemi, quali dipendenze ha sviluppato nel tempo e in che modo il suo ruolo si è evoluto rispetto alle intenzioni originarie.

Per questo motivo il monitoraggio continuo deve concentrarsi sull'individuazione delle differenze tra l'assetto di controllo previsto e la realtà operativa. Gli agenti hanno ottenuto nuove autorizzazioni? Sono state aggiunte ulteriori fonti di dati? Le modifiche ai processi aziendali hanno introdotto percorsi di accesso non previsti? Non tutti i cambiamenti rappresentano una minaccia, ma le organizzazioni devono essere in grado di distinguere le normali evoluzioni operative da quelle che richiedono una valutazione più approfondita.

Un altro elemento fondamentale riguarda la responsabilità. Sebbene gli agenti AI siano progettati per operare con livelli crescenti di autonomia, devono comunque rimanere all'interno di un quadro di governance chiaramente definito. Assegnare la supervisione a referenti identificabili, stabilire limiti operativi precisi e mantenere la tracciabilità delle decisioni e delle azioni più rilevanti consente di valutare con maggiore efficacia quando sia necessario rafforzare o aggiornare i controlli.

In definitiva, la supervisione non può esaurirsi con l'approvazione iniziale di un sistema di intelligenza artificiale. La governance deve accompagnarne l'intero ciclo di vita, attraverso verifiche periodiche che garantiscano il continuo allineamento tra i controlli definiti in fase di progettazione e le modalità con cui il sistema viene realmente utilizzato. In un contesto caratterizzato dal cambiamento continuo, la sicurezza dell'AI dipende sempre meno da una valutazione puntuale e sempre più dalla capacità di adattarsi all'evoluzione dell'ambiente operativo.


Prepararsi a individuare anche ciò che non era stato previsto

Anche con meccanismi di supervisione avanzati, alcuni cambiamenti possono passare inosservati. È qui che il principio di assume drift incontra una delle lezioni più importanti apprese nel corso di decenni di cybersecurity e gestione degli incidenti: quando emerge un problema, raramente si dispone fin dall'inizio di un quadro completo della situazione.

Le prime domande sono sempre le stesse: cosa è successo, quali sistemi sono coinvolti, quali dati sono stati interessati e quali azioni devono essere intraprese immediatamente per limitare il rischio. Prima ancora della correzione, serve comprendere con precisione l'accaduto.

La stessa capacità è necessaria quando vengono individuati cambiamenti inattesi in un ambiente AI. I team di sicurezza potrebbero dover ricostruire rapidamente le attività svolte da un agente, verificare a quali dati o autorizzazioni abbia avuto accesso e determinare se sia necessario limitarne l'operatività o isolarne alcune funzionalità. Il monitoraggio continuo può favorire l'individuazione tempestiva delle anomalie, ma quando una modifica sfugge ai controlli diventa essenziale disporre della visibilità e del contesto necessari per comprenderne rapidamente l'impatto.

Una volta accertata la natura del problema, le organizzazioni devono poter intervenire con rapidità. Le misure correttive possono includere la revoca di autorizzazioni eccessive, l'annullamento di un’azione non autorizzata, il ripristino dei dati coinvolti o la revisione dei controlli che hanno consentito l'emergere del rischio. Quanto più velocemente è possibile comprendere cosa è cambiato, tanto più efficace sarà la risposta.

Questa capacità di investigare, recuperare e ripristinare le condizioni operative diventerà sempre più critica man mano che l'intelligenza artificiale assumerà un ruolo centrale nei processi aziendali. Se il principio assume breach ha insegnato alle organizzazioni a prepararsi agli attacchi, il principio assume drift impone di prepararsi al cambiamento continuo. In un ecosistema AI in costante evoluzione, la resilienza non dipenderà soltanto dalla capacità di prevenire i problemi, ma anche da quella di comprendere rapidamente ciò che è cambiato e di riportare i sistemi a uno stato sicuro e controllato.


Accettare il cambiamento, non l'incertezza

L'adozione dell'intelligenza artificiale non rallenterà in attesa che le organizzazioni risolvano tutte le sfide legate alla governance. Al contrario, le aziende stanno accelerando la sperimentazione e l'integrazione di queste tecnologie nei processi quotidiani, mentre i sistemi che le supportano diventano sempre più interconnessi, autonomi e dinamici.

L'approccio assume breach ha insegnato ai responsabili della sicurezza una lezione fondamentale: prevenire ogni possibile attacco è irrealistico. Il principio di assume drift applica la stessa logica agli ambienti di intelligenza artificiale. Non è possibile dare per scontato che sistemi, autorizzazioni, flussi di dati e modalità operative restino immutati nel tempo. Il cambiamento è una caratteristica intrinseca di questi ecosistemi, non un'eccezione.

Ciò che le organizzazioni possono controllare è la capacità di individuare rapidamente le trasformazioni più significative, comprenderne le implicazioni e reagire con tempestività quando emergono nuovi rischi. Visibilità, monitoraggio continuo, governance e resilienza operativa diventano quindi elementi complementari di una stessa strategia.

Nell'era dell'intelligenza artificiale, sapere che un ambiente era sicuro ieri non basta più. La vera sfida è capire come è cambiato oggi, quali nuovi rischi presenta e se l'organizzazione è pronta a gestirli. Perché, in un contesto in cui l'evoluzione è continua, la sicurezza non consiste nel preservare uno stato immutabile, ma nel mantenere il controllo del cambiamento.

Rick Vanover è Vice President of Product Strategy di Veeam Software

Tag correlati

Esplora altri articoli su questi argomenti

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato

Notizie correlate

Iscriviti alla nostra newsletter

Soluzioni B2B per il Mercato delle Imprese e per la Pubblica Amministrazione

Iscriviti alla newsletter

www.impresacity.it - 8.3.36 - 4.6.4 - X0