In fatto di intelligenza artificiale, appare evidente che la gran parte delle imprese oggi sta affrontando il tema dell’AI agentica. Ci sono però aziende che hanno già fatto il passo successivo, in una ipotetica scala evolutiva dell’AI, e stanno considerando come implementare la cosiddetta “phyisical AI”: l’intelligenza artificiale che – per usare un’espressione di moda – “esce dallo schermo” e si integra in oggetti autonomi. Sta proprio in questo alto grado di autonomia la novità della physical AI, perché di intelligenza (o presunta tale) integrata nei sistemi di controllo industriale e nei robot ne abbiamo già vista parecchia. Ora però tutto sale, metaforicamente, ad un livello superiore.

“Il vero cambiamento – racconta Marco Molinaro, Cybersecurity Lead di Accenture – si ha quando i sistemi di controllo o i robot si integrano in una architettura basata su AI e sono supervisionati da sciami di agenti, ciascuno con il proprio ruolo e il proprio compito. Questi agenti di fatto ricevono input da un mondo fisico, li analizzano in un contesto pienamente digitale, sfruttano la capacità cognitiva dell'intelligenza artificiale per prendere decisioni e trasporle in azioni nuovamente nel mondo fisico”. Sembra uno scenario molto futuribile ma in realtà non lo è: la domanda di queste tecnologie già esiste, sta solo crescendo gradualmente e non con i picchi che normalmente associamo all’AI.

Inoltre, ricorda Molinaro, quella di creare sistemi industriali totalmente autonomi con AI a bordo è una possibilità tecnologica, non un obbligo: “È insieme una sfida e una scelta, uno spunto di riflessione per tutti. Va considerato che un sistema autonomo basato su AI non ha un comportamento sempre ripetibile, impostato da regole definite a monte. C’è una componente ‘statistica’ per cui gli output non sono sempre gli stessi anche a fronte dei medesimi input. Questo non vuol dire che il comportamento di un sistema autonomo sia imprevedibile, anzi è noto in funzione di diversi scenari, ma può variare entro un certo margine. È una questione che, anche nelle imprese, merita molto approfondimento”.

Il salto dal determinismo del software tradizionale al comportamento probabilistico degli algoritmi interessa ovviamente anche chi si occupa di cybersecurity. Non solo perché il comportamento della physical AI va controllato e gestito ma anche perché diventa essa stessa una nuova superficie di attacco, al confine tra realtà fisica e mondo digitale. “Ci siamo abituati all’idea che le minacce digitali possono avere ripercussioni di natura fisica – ricorda Molinaro – e ora c’è un passo in più: il mondo fisico percepito dai sensori, ad esempio di un robot industriale, diventa un input digitale che può influenzare il comportamento del sistema quando viene elaborato dall’AI”.

Anche in questo caso, per comprendere la natura delle nuove minacce a cavallo tra fisico e digitale bisogna ricordare che il comportamento dell’AI è probabilistico. Quindi il complesso di agenti che controlla un sistema fisico autonomo ha un comportamento che è determinato sì dall’insieme dei suoi compiti e obiettivi, ma anche da cosa accade nel mondo fisico in cui opera. La realtà diventa quindi una sorta di prompt fisico fatto di oggetti, immagini e suoni. E un prompt imprevisto o creato ad hoc – con un manifesto sul muro, una voce di sottofondo, un oggetto inaspettato su un tavolo – può alterare il percorso decisionale delle intelligenze artificiali.

Se questo è il futuro della sicurezza ciberfisica, ad esso ci si può preparare per tempo mettendo in sicurezza già adesso i percorsi di adozione dell’intelligenza artificiale – in particolare agentica – nelle imprese industriali italiane. E qui la questione, sottolinea Accenture, non è solo tecnologica ma soprattutto strategica. “Tutto parte – spiega Molinaro – da una comprensione di quello che la propria azienda è e vuole fare, di dove e come intende adottare i modelli di AI, di quali processi vuole automatizzare e lasciar orchestrare dagli agenti AI. Questo conta anche lato sicurezza, perché permette di definire forme personalizzate di guardrailing dell’AI”. Un guardrailing “su misura” che serve di sicuro, perché le funzioni di sicurezza intrinseche e native delle piattaforme AI di mercato non sono sufficienti.

Volendo semplificare molto le cose, le aziende oggi stanno affrontando diversi ostacoli all’interno di un percorso verso una “propria” AI efficace e sicura, ostacoli che sono spesso nuovi, inevitabilmente come per ogni nuova tecnologia, ma in parte anche già visti e non per questo meno pericolosi, come ad esempio è per quella “shadow AI” – l’utilizzo incontrollato dei tool pubblici di AI, che mette a rischio le informazioni e la sicurezza d’impresa – che richiama tante forme di shadow IT già sperimentate. In questo scenario alle imprese servono, più che soluzioni puntuali, partner capaci che le accompagnino in un percorso di adozione pervasiva e allo stesso tempo sicura dell’AI, un percorso che passa inevitabilmente dalla conoscenza profonda dei processi aziendali e dalle competenze necessarie a capire come questi possano evolvere grazie alle nuove tecnologie.

“L’intelligenza artificiale – racconta Molinaro – può portare trasformazioni epocali ma non semplicemente perché la si può usare: le aziende sono fatte di processi e di competenze e ogni rivoluzione importante passa per queste dimensioni. Avere a disposizione una nuova tecnologia non porta una trasformazione automatica e immediata, questa narrativa secondo me non è mai stata portata avanti neanche da chi si occupa di modelli di frontiera. Non a caso realtà come OpenAI e Anthropic oggi sono sempre più vicine a chi nelle imprese si occupa direttamente di trasformazione e di cambiamento”.

Accenture questo lo sa bene, in particolare nel caso di Anthropic: è da circa un anno che le due aziende hanno stabilito una importante partnership tecnologica – con tanto di creazione di un Accenture Anthropic Business Group con circa 30 mila professionisti Accenture “formati” sulle tecnologie collegate a Claude – che come obiettivo si pone proprio aiutare le imprese nell’adozione delle tecnologie di intelligenza artificiale. Una collaborazione che vede una importante quota anche di cybersecurity, con Accenture che contribuisce a mettere in sicurezza i modelli di nuova generazione di Anthropic e che ha “distillato” la sua esperienza in sicurezza digitale nella piattaforma Cyber.AI, basata sempre su Claude.