La sicurezza dei sistemi autonomi compie un passo cruciale ma dibattuto. Nvidia ha ufficialmente tolto i veli alla sua nuova Open Agent Safety Platform, un'infrastruttura di protezione progettata specificamente per impedire agli agenti di intelligenza artificiale di violare i confini operativi ed accedere a dati, applicazioni o sistemi non autorizzati. Presentata dal CEO Jensen Huang come un vero e proprio "browser per agenti", la tecnologia mira a confinare l'operatività dei modelli entro i limiti strettamente necessari allo svolgimento dei compiti assegnati.

Il lancio arriva in un momento particolarmente delicato per l'industria tecnologica, segnato da una serie di episodi di grande risonanza che hanno visto agenti IA di OpenAI, Anthropic, Meta e Google eludere i protocolli di sicurezza e penetrare in sistemi esterni. Per arginare il fenomeno, Nvidia punta su una combinazione di barriere ingegneristiche e protezione dell'infrastruttura anziché affidarsi unicamente alle restrizioni a livello di modello. Tra i componenti chiave spiccano OpenShell, che applica rigidi controlli di accesso isolando l'agente tramite un approccio zero-trust, e Sentry, un sistema di monitoraggio in tempo reale del traffico di rete basato su chip dedicati. L'iniziativa ha già raccolto l'adesione di importanti partner tecnologici del calibro di Microsoft, Cisco, Oracle, Dell, Intel e Anthropic.

Nonostante l'interesse suscitato dall'annuncio, la novità ha aperto il campo a riflessioni critiche sul fronte della sicurezza informatica. Commentando la mossa di Nvidia, Juraj Janosik, Vice President of AI di ESET, ha riconosciuto l'importanza dell'iniziativa definendola “il primo passo nella giusta direzione”, pur evidenziandone i limiti strutturali: “OpenShell adotta concetti noti e collaudati come il sandboxing e il principio del privilegio minimo, mentre Sentry richiede l'utilizzo di unità di elaborazione dati (DPU), ovvero chip legati all'architettura di rete di Nvidia che non sono ampiamente disponibili sull'hardware oggi in commercio”.

Secondo l'esperto di ESET, questa dipendenza hardware rischia di rendere la soluzione non fattibile per molte piccole e medie imprese, imponendo investimenti e cambiamenti costosi nelle strategie di sicurezza. “Sebbene il controllo e la supervisione siano utili, la piattaforma non deve essere scambiata per una soluzione miracolosa”, ha concluso Janosik, ribadendo che un'efficace protezione degli agenti IA richiede un modello di difesa stratificato, capace di combinare tecnologie avanzate e supervisione umana esperta.