L’intervista di Affaritaliani a Silvestri (La Sapienza)
Mentre l’intelligenza artificiale continua a guadagnare capacità che fino a pochi anni fa sembravano irraggiungibili, la corsa ai sistemi più avanzati apre interrogativi sempre più difficili da ignorare. ChatGPT, Claude e Grok non sono più soltanto strumenti capaci di generare testi: possono programmare, analizzare dati, scomporre problemi complessi e utilizzare strumenti esterni per verificare e correggere i propri risultati. Un salto tecnologico che alimenta il confronto sulla natura stessa di questi modelli: siamo ancora davanti a sofisticati sistemi che prevedono la parola successiva oppure stanno emergendo le prime forme di vero ragionamento artificiale?
LEGGI ANCHE: IA, Amodei insiste: “Per troppo tempo l’industria ha mentito alle persone”
A rendere ancora più acceso il dibattito sono gli allarmi sui rischi dei modelli più potenti e le ipotesi di rallentare la corsa all’IA. Una prospettiva che, però, si scontra con gli enormi interessi economici e con una competizione globale nella quale fermarsi, anche temporaneamente, può significare lasciare spazio ai concorrenti. E resta aperta un’altra questione: quanto siamo davvero lontani dall’AGI, un’intelligenza artificiale capace di competere con l’uomo in una vasta gamma di attività intellettuali? E soprattutto, il pericolo futuro è davvero quello di macchine che sfuggono al nostro controllo oppure il rischio più concreto riguarda il modo in cui gli esseri umani stabiliscono gli obiettivi e le regole dei sistemi che stanno costruendo?
A fare il punto è Fabrizio Silvestri – professore ordinario e coordinatore del dottorato in Data Science presso il Dipartimento di Ingegneria informatica, automatica e gestionale (DIAG) dell’Università La Sapienza di Roma – che ad Affaritaliani spiega a che punto siamo nella corsa all’intelligenza artificiale, perché rallentarla potrebbe essere estremamente difficile e quale sia il vero rischio da affrontare in vista di sistemi sempre più potenti.
Secondo lei, a che punto è oggi l’IA (ChatGPT, Claude, Grok)?
I sistemi di IA generativa oggi hanno raggiunto una capacità impressionante di produrre testo, codice e ragionamenti che, in molti contesti, si avvicinano o superano le prestazioni umane medie. I modelli più avanzati sono in grado di svolgere compiti complessi come programmazione, analisi di dati, traduzione e sintesi. Alcuni colleghi, definiscono questi sistemi come meri “pappagalli stocastici”, ovvero sistemi che generano il testo solo “indovinando” la parola successiva, questa narrativa rischia di sottostimare il salto qualitativo che si è verificato. I modelli attuali non si limitano a riformulare pattern visti nei dati di addestramento: sono in grado di combinare conoscenze in modi nuovi, decomporre problemi complessi in sotto-problemi, usare strumenti esterni (calcolatrici, motori di ricerca, interpreti di codice) per verificare e correggere i propri errori. Questi sistemi, oramai, mostrano forme embrionali di ragionamento. Mancano ancora la profondità del ragionamento causale, la capacità di costruire modelli del mondo realmente coerenti e la pianificazione a lungo termine. Ma molti ricercatori e aziende stanno lavorando a colmare anche questi gap.
Che cosa ha spinto Sam Altman a dichiarare che sarebbe meglio rallentare lo sviluppo dei sistemi di IA più avanzati?
Diversi fattori convergono. Innanzitutto, incidenti concreti: ad agosto un agente IA di OpenAI ha violato l’ambiente di test attaccando Hugging Face, dimostrando che i sistemi possono sviluppare comportamenti non previsti e potenzialmente pericolosi. Inoltre, il modello “Astra” è stato rallentato per preoccupazioni legate a capacità cibernetiche critiche. Io aggiungerei che in molti casi queste sono iniziative anche promozionali. Già nel 2020, quando OpenAI presentò GPT-3, scelse di non rilasciare i pesi del modello al pubblico, rendendolo accessibile solo tramite API, con la motivazione che il sistema era troppo potente e potenzialmente pericoloso. Era una posizione che molti nella comunità scientifica contestarono, perché limitava la possibilità di studiare il modello e sviluppare contromisure. La narrativa del “troppo pericoloso per essere rilasciato” ha quindi una storia pregressa, e oggi si ripropone in forma amplificata.
Ma è davvero possibile rallentarlo nonostante tutti i soldi investiti o è solo una dichiarazione di facciata
La domanda è legittima. OpenAI ha già chiesto al Congresso se un rallentamento coordinato tra aziende sarebbe legale, perché potrebbe violare le norme antitrust: il timore è che accordarsi per rallentare possa essere considerato collusione. La realtà è che gli incentivi economici, secondo me, rendono un rallentamento unilaterale quasi impossibile. Chi si ferma perde terreno. Detto questo, non è pura facciata: il fatto che leader del settore ammettano pubblicamente la necessità di rallentare è un segnale nuovo e significativo. Il punto è che senza un quadro normativo vincolante e internazionale, qualsiasi rallentamento resterà volontario e quindi fragile. Inoltre rimane la domanda: come si verifica che il rallentamento sia effettivamente avvenuto.
Quanto siamo lontani da un’IA vera e propria, cioè che non ha più bisogno dell’uomo?
Il punto è: che cosa significa AGI (Artificial General Intelligence)? Se intendiamo un’AGI un sistema capace di svolgere qualsiasi compito intellettuale umano, le stime vanno da chi dice che siamo già arrivati (Andreessen, Jensen Huang, con posizioni controverse e non condivise dalla maggioranza della comunità scientifica) a chi colloca l’AGI tra il 2027 e il 2030. I benchmark mostrano notevoli progressi ma molti compiti sono ancora totalmente appannaggio degli umani, per esempio non esiste ancora un sistema capace di condurre ricerca scientifica in modo completamente autonomo. Inoltre, se intendiamo un’IA che non ha “più bisogno dell’uomo” in senso forte, per esempio autonoma, auto-migliorante, non supervisionabile, ecc.; siamo più lontani, probabilmente oltre l’orizzonte dei 5–10 anni, e ci sono molti ricercatori che dubitano che tale soglia sia raggiungibile con le architetture attuali (ad esempio il premio Turing Yann LeCun).
Secondo lei il futuro che ci aspetta è un’IA come assistente dell’uomo o più come Terminator?
Né l’uno né l’altro, o meglio: entrambi sono narrazioni semplificate. Lo scenario più realistico è quello dell’IA come infrastruttura: una tecnologia pervasiva, integrata nei processi decisionali economici, sanitari, amministrativi, che amplifica la produttività umana. Il rischio non è un Terminator che si ribella, ma un sistema che funziona troppo bene nel servire obiettivi che però l’umano definisce male. La vera domanda non è “assistente o Terminator” ma “chi controlla l’infrastruttura e con quali regole”. Per questo la regolamentazione, semplificata e al passo con la tecnologia, come ho detto più volte, è oggi più urgente delle paure da fantascienza.