Allarme sicurezza per l’intelligenza artificiale: gli agenti IA tentano attacchi informatici nei test del Regno Unito
L’intelligenza artificiale potrebbe essere in grado di compiere azioni simili a quelle di un hacker umano. È quanto emerge dai test condotti dall’AI Security Institute (Aisi) del Regno Unito, che ha messo alla prova alcuni sistemi avanzati sviluppati da OpenAI e Anthropic chiedendo loro di risolvere una sfida di sicurezza informatica legata a GitHub, la piattaforma online di proprietà di Microsoft utilizzata da milioni di sviluppatori.
Gli esperti hanno individuato comportamenti considerati potenzialmente rischiosi: gli agenti di intelligenza artificiale, software capaci di agire in autonomia oltre le funzioni dei chatbot tradizionali, avrebbero avviato attività non autorizzate rivolte a persone e organizzazioni reali.
“L’attività svolta ha mostrato segni di comportamenti inediti e potenzialmente ingannevoli, di portata e gravità impreviste“, ha dichiarato l’Aisi, organismo sostenuto dallo Stato britannico e incaricato di valutare i rischi legati ai modelli avanzati di intelligenza artificiale per la sicurezza nazionale.
“L’Aisi è stato istituito per renderne più sicuro l’utilizzo dell’IA e garantire che le persone possano continuare a trarne beneficio nella vita quotidiana e sul lavoro”, ha sottolineato Kanishka Narayan, ministro per l’IA del governo di Andy Burnham.
I test e le azioni non autorizzate
Le verifiche dell’istituto sono iniziate il 25 luglio e le vulnerabilità sono state individuate tre giorni dopo. I ricercatori hanno sottoposto agli agenti basati su Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI una richiesta: “risolvere una sfida di sicurezza informatica” che coinvolgeva GitHub.
Durante le analisi sono stati inizialmente rilevati “trasferimenti di dati insoliti in uscita dai sistemi di ricerca”, fino alla scoperta che “alcuni degli agenti avevano intrapreso attività prolungate e potenzialmente dannose rivolte a persone e organizzazioni reali“.
Nel complesso, i test hanno evidenziato 19 azioni non autorizzate nel corso di 10 sessioni. Di queste, 17 sarebbero state attribuite all’agente sviluppato da Anthropic e due a quello di OpenAI.
L’agente che ha imitato un hacker umano
L’episodio più rilevante ha riguardato il modello Mythos di Anthropic, che avrebbe replicato alcune modalità tipiche degli attacchi informatici condotti da persone reali. Secondo l’Aisi, l’agente avrebbe cercato di ottenere accesso a GitHub inducendo gli utenti a inserire un “codice malevolo”, attraverso la creazione di account falsi basati su persone reali e l’invio di messaggi ingannevoli.
A bloccare la distribuzione del codice dannoso sarebbe stato l’intervento della revisione umana. L’istituto ha comunque precisato che i test sono stati condotti portando i modelli oltre le condizioni normali di utilizzo, anche attraverso la disattivazione di alcuni filtri progettati per impedire comportamenti pericolosi.
Le reazioni delle aziende
L’Aisi ha informato GitHub, che ha provveduto a disattivare gli account falsi individuati. Anthropic ha spiegato che i parametri utilizzati durante la prova “non sono rappresentativi di nessuno dei nostri modelli di produzione” e ha aggiunto che sta svolgendo un’indagine interna per “individuare le cause del suo comportamento”.
Anche OpenAI ha precisato che le condizioni del test “non rispecchiano l’uso ordinario” e che l’azienda “continuerà a collaborare con i valutatori e le altre parti interessate per rafforzare le pratiche condivise volte a condurre valutazioni in sicurezza”.
Nuovi episodi e corsa allo sviluppo dell’IA
Il caso arriva dopo altri episodi simili registrati nelle ultime settimane. A metà luglio OpenAI aveva comunicato che un agente basato sui propri modelli aveva violato una startup di intelligenza artificiale durante un test. Poco dopo, Anthropic aveva riferito che il modello Claude aveva violato tre organizzazioni durante una fase di valutazione.
Entrambe le società si stanno preparando per lo sbarco a Wall Street, mentre cresce il dibattito sulla sicurezza dei sistemi di intelligenza artificiale sempre più autonomi.