IA fuori controllo, Cerutti ad Affaritaliani: “Rallentare è possibile”. E avverte: “Prima servono condizioni di sicurezza”
Mentre l’intelligenza artificiale continua a svilupparsi a una velocità senza precedenti, cresce il dibattito sui rischi legati a sistemi sempre più potenti e autonomi. ChatGPT, Claude e Grok sono ormai capaci non soltanto di produrre testi e immagini, ma anche di analizzare grandi quantità di informazioni, sviluppare software e, attraverso strumenti esterni, portare a termine sequenze complesse di operazioni. Una crescita delle capacità che apre però un interrogativo cruciale: quanto possiamo davvero fidarci delle decisioni prese dall’IA e fino a che punto è possibile concederle autonomia?
A riaccendere il dibattito sono state anche le preoccupazioni espresse da alcuni ricercatori del settore e le ipotesi di rallentare lo sviluppo dei sistemi più avanzati. Il nodo non riguarda soltanto quanto rapidamente l’intelligenza artificiale stia progredendo, ma se gli strumenti utilizzati per valutarne sicurezza, affidabilità e limiti riescano a procedere alla stessa velocità. Sullo sfondo resta poi la competizione tra le grandi aziende tecnologiche, che rende inevitabile un’altra domanda: è davvero possibile frenare la corsa all’IA dopo gli enormi investimenti messi in campo?
Quanto siamo lontani da sistemi capaci di operare senza un intervento costante dell’uomo? E il futuro sarà quello di un’intelligenza artificiale al nostro fianco come assistente oppure esiste concretamente il rischio di perdere il controllo su sistemi sempre più autonomi? A fare il punto è Federico Cerutti, professore ordinario di Secure Digital Transformation presso il Dipartimento di Ingegneria dell’Informazione dell’Università degli Studi di Brescia e direttore del Master in Cybersecurity, che ad Affaritaliani analizza lo stato attuale dell’IA, i limiti dei sistemi più avanzati e le condizioni necessarie per affidare loro livelli crescenti di autonomia.
A che punto è oggi l’IA (ChatGpt, Claude, Grok)?
Abbiamo sistemi capaci di svolgere compiti che, pochi anni fa, avremmo considerato estremamente difficili: possono analizzare documenti, sviluppare software, combinare testo e immagini e, quando hanno accesso a strumenti esterni, eseguire sequenze articolate di azioni. Da questo, tuttavia, non segue che le loro risposte offrano necessariamente lo stesso grado di affidabilità e di giustificazione che richiediamo quando una conclusione deve sostenere una decisione. Man mano che questi sistemi acquisiscono capacità operative, diventa essenziale stabilire quali evidenze accompagnino le loro conclusioni e in quali condizioni sia ragionevole agire sulla base di tali conclusioni.
Che cosa ha spinto Sam Altman a dichiarare che sarebbe meglio rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati?
Il tema del rallentamento pone una questione generale: quando le capacità di un sistema crescono rapidamente, può accadere che la nostra capacità di comprenderne i limiti e di prevederne il comportamento in condizioni nuove proceda più lentamente. In una situazione di questo tipo, rallentare una particolare fase di sviluppo o di impiego può avere una ragione molto semplice: consentire che le evidenze disponibili siano adeguate alla portata delle decisioni che si intendono prendere.
Ma è davvero possibile rallentarlo nonostante tutti i soldi investiti o è solo dichiarazione di facciata?
Rallentare è certamente possibile se con questo intendiamo rinviare un addestramento, un rilascio o l’impiego di una particolare capacità finché non siano soddisfatte determinate condizioni di sicurezza. Per valutare quanto una dichiarazione di prudenza corrisponda a una scelta effettiva, guarderei soprattutto ai criteri adottati e ai comportamenti osservabili. Se un’organizzazione dichiara che una certa capacità richiede maggiore cautela, la domanda empiricamente interessante è quali criteri abbia stabilito, quali verifiche effettui e se sia disposta a rinviare un risultato quando quei criteri non sono soddisfatti.
Quanto siamo lontani da un’IA vera e propria, cioè che non ha più bisogno dell’uomo?“
Qui credo sia utile chiarire che cosa intendiamo con “vera e propria,” perché l’autonomia completa dall’essere umano non è un criterio scientifico condiviso per definire l’intelligenza. Più che domandarci quando arriverà una macchina che non avrà più bisogno di noi, è opportuno chiederci quali forme di autonomia possiamo già osservare e con quale affidabilità. Un sistema può infatti operare autonomamente per molte ore e, allo stesso tempo, fallire di fronte a una situazione che non rientra tra le condizioni in cui è stato provato e valutato prima del suo impiego.
Secondo lei il futuro che ci aspetta è un’IA come assistente dell’uomo o più come Terminator?
Credo che questa alternativa sia troppo netta per descrivere ciò che probabilmente accadrà. Avremo sistemi con gradi di autonomia diversi, inseriti in contesti differenti e ai quali saranno affidati compiti con conseguenze di portata diversa. Un assistente che suggerisce come formulare una lettera e un sistema che opera autonomamente su un’infrastruttura informatica pongono problemi radicalmente diversi, anche qualora utilizzassero modelli simili. Gli scenari estremi meritano certamente di essere studiati, soprattutto quando le conseguenze possibili sono molto gravi, ma dal punto di vista scientifico preferisco formulare il problema in termini di giustificazione delle decisioni: quanto è affidabile il sistema, che cosa sappiamo dei suoi limiti e quando abbiamo evidenze sufficienti per concedergli maggiore autonomia?