Un agente di intelligenza artificiale sviluppato da OpenAI ha ottenuto un accesso non autorizzato a un portale governativo australiano contenente statistiche e dati relativi al sistema sanitario Medicare. L'incidente, rivelato dal Primo Ministro australiano, si è verificato lo scorso mese di giugno nel corso di una valutazione interna condotta dalla stessa azienda tecnologica.

Secondo quanto emerso, l'agente IA è riuscito ad accedere sia a file pubblici sia a documenti non pubblici, inclusi dati statistici sanitari e nomenclature di file interni, sebbene al momento non si registri alcuna esposizione di informazioni personali identificabili. OpenAI ha giustificato l'accaduto parlando di un comportamento imprevisto del modello durante una fase di test, scoperto nell'ambito di una più ampia revisione interna dei protocolli di sicurezza.

Tuttavia, le autorità di Canberra hanno espresso forte disappunto non solo per la violazione in sé, ma anche per i tempi di notifica: l'azienda avrebbe infatti avvisato il governo australiano solo mesi dopo l'accaduto, servendosi di un indirizzo email generico destinato alle segnalazioni standard.

La vicenda ha riacceso il dibattito sui rischi legati all'autonomia dei sistemi intelligenti. Commentando l'accaduto, Jake Moore, Global Cybersecurity Advisor di ESET, ha evidenziato come gli agenti IA agiscano incessantemente per portare a termine i compiti assegnati, trasformandosi di fatto in potenti scanner di vulnerabilità: “Se individuano una falla sfruttabile per completare una richiesta, non smetteranno di provare a riuscirci. Poiché prendono decisioni alla velocità dei computer, in assenza di istruzioni restrittive esplicite potrebbero intraprendere percorsi apparentemente dannosi che non sono stati bloccati dagli algoritmi”.

Moore ha infine ammonito sui pericoli di una corsa all'IA esasperata dalla concorrenza di mercato, che spinge a rilasciare agenti autonomi nella rete senza una fase di test e controlli preventivi sufficientemente rigorosi a tutela delle informazioni sensibili.