Digital Innovation Forum, Nobile (AGID): "Attacchi hacker? L'IA generativa è un attaccante con più capacità offensiva: ecco come difendersi"

Intervista a Mario Nobile, direttore Generale dell’Agenzia per l’Italia Digitale, presente alla Cernobbio digitale

Lei più volte ha sottolineato che l’IA Act non deve essere vissuto come un semplice vincolo normativo, ma anche come un’opportunità strategica. Come possiamo trasformare le regole in un acceleratore per l’innovazione e adottare un’IA che sia più sicura e strutturale da questo punto di vista?

“L’AI Act è una regola e le regole sono una condizione necessaria, ma non sufficiente. Anche oggi, nel dibattito mondiale, molti esponenti delle società di frontiera chiedono regole: è un punto importante da cui partire. Come abbiamo declinato questo principio? Nella legge italiana e nell’AI Act è indicato che l’essere umano deve essere al centro. Nelle linee guida che abbiamo pubblicato come Agenzia per l’Italia Digitale forniamo indicazioni più dettagliate. Un giornalista può utilizzare l’intelligenza artificiale su sei livelli, da zero a cinque, esattamente come avviene per la guida autonoma. Il livello cinque oggi non esiste e non sarebbe neanche possibile pensare a un’attività completamente automatizzata. Una giornalista può usare l’intelligenza artificiale al livello quattro, tre o due: in questo modo riceve un supporto significativo, ma alla fine è l’essere umano a essere potenziato”.

Quando parliamo di IA ci viene in mente soprattutto anche tutto il tema legato alla pubblica amministrazione e alla sanità digitale. A che punto siamo sotto questi due fronti e su quali investimenti, secondo Lei, dobbiamo ancora puntare?

“L’AI Act rappresenta per noi una base regolatoria all’interno della quale deve essere chiaro che oggi non esiste un livello di totale autonomia. Il dibattito è tra esseri umani che sanno usare e governare l’intelligenza artificiale ed esseri umani che non lo sanno fare.
Dobbiamo puntare un po’ sul coraggio. Il dato sanitario è uno dei dati più personali che esistano, ma lo stesso GDPR, il regolamento europeo sulla protezione dei dati, nel suo titolo richiama anche la libera circolazione delle informazioni. Pensiamo, per esempio, a una persona che prenota un esame o una visita specialistica e non riesce a raggiungere l’ospedale per motivi contingenti, come uno sciopero dei mezzi o un problema meteorologico. Si verifica così un no-show, cioè la mancata presentazione, che rappresenta una perdita di valore per il sistema sanitario. Utilizzare l’intelligenza artificiale significa anticipare i comportamenti e integrare informazioni, come quelle meteorologiche o relative agli scioperi dei trasporti, per poter gestire meglio gli appuntamenti. Si potrebbe, per esempio, ricorrere a forme di overbooking, come avviene nel settore aereo, oppure avvisare le persone in lista d’attesa: se Mario probabilmente non riuscirà a raggiungere l’ospedale perché viaggia in autobus e c’è uno sciopero, posso inserire un’altra persona oppure chiamare un taxi per consentirgli di arrivare. La cosa più importante è che quell’esame possa essere effettuato. L’intelligenza artificiale è un amplificatore. Bisogna considerarla come una cucina a gas rispetto al fuoco: rende molto più facile utilizzare il fuoco”.

È notizia di queste ore che nei supermercati francesi c’è stato un attacco hacker che ha messo ko diversi supermercati e impianti. Come proteggerci da questi eventi e che cosa fare per evitarli?

“Il tema dell’Internet of Things, cioè degli oggetti connessi alla rete, come frigoriferi, microonde e altri dispositivi, è sempre esistito nel settore della cybersicurezza. Anche nella nostra vita individuale, se non proteggiamo i nostri dispositivi, non aggiorniamo le password e non le cambiamo, creiamo oggetti che possono potenzialmente essere attaccati. L’acceleratore, oggi, è rappresentato dal fatto che l’intelligenza artificiale generativa permette agli attaccanti di disporre di una maggiore capacità offensiva e di strumenti più intelligenti. Questo è un monito a mantenere le buone pratiche che abbiamo sempre indicato, a partire dall’igiene digitale: utilizzare password complesse e aggiornarle regolarmente. Non dobbiamo farlo soltanto sullo smartphone, che è l’oggetto che utilizziamo ogni giorno, ma anche sui dispositivi IoT, cioè sugli elettrodomestici e sugli altri oggetti collegati alla rete. In questo momento stiamo assistendo a una forte evoluzione degli agenti di intelligenza artificiale generativa, che rende molto più facile per un attaccante individuare le password”.