Dario Amodei: “Dobbiamo rallentare lo sviluppo dell’IA, potrebbe superare la nostra capacità di gestirla”
“Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo”. È questo il punto di partenza dell’appello lanciato da Dario Amodei, amministratore delegato di Anthropic, nel suo intervento dedicato al futuro dell’intelligenza artificiale. Non uno stop alla ricerca, ma un rallentamento della corsa per lasciare più spazio alla sicurezza, ai controlli e alla comprensione dei sistemi che si stanno costruendo.
“Lavoro sull’IA da dodici anni perché credo che possa innalzare in modo spettacolare la qualità della vita umana. Penso che l’IA potrebbe curare la maggior parte delle principali malattie nei prossimi cinque-dieci anni, accelerare fortemente i tassi di crescita economica, creare un mondo di abbondanza ed emancipazione e aprire una nuova stagione di rinascita della democrazia e della libertà”. Una potenza che, secondo il numero uno di Anthropic, rende necessario cambiare passo.
“L’IA comporta dei rischi e, proprio perché è così potente, questi rischi sono seri. Non costruire la tecnologia priva l’umanità dei suoi benefici o la consegna semplicemente nelle mani di potenze autoritarie, mentre costruirla troppo velocemente è irresponsabile. Da quest’estate circa, l’IA sta progredendo molto più rapidamente, innanzitutto perché l’IA è sempre più capace di costruire la generazione successiva di IA”, scrive Amodei. Un fenomeno che descrive come recursive self-improvement: una dinamica nella quale i modelli vengono impiegati per migliorare e sviluppare nuovi modelli, con la possibilità di accelerare ulteriormente il ciclo.
“Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e gestire questi sistemi. Nonostante tutti i progressi, comprendiamo ancora soltanto una frazione infinitesimale di ciò che avviene all’interno di questi modelli”, prosegue il fondatore di Anthropic, che richiama anche il recente episodio che ha coinvolto agenti di OpenAI durante un test con Hugging Face: “È facile liquidare questo incidente perché nessuno è rimasto ferito e i danni economici sono stati limitati. Uno sciame dotato di capacità superiori e di un livello di disallineamento comparabile avrebbe potuto provocare danni catastrofici”.
“Considerato il ritmo accelerato dello sviluppo delle capacità dell’IA, temo che entro sei-dodici mesi uno sciame del genere possa essere in grado di prendere il controllo dell’intera Internet attraverso una botnet persistente”: uno scenario personale e condizionale, non una previsione certa. Ma proprio questa possibilità, sostiene, rende urgente intervenire prima che i sistemi diventino troppo difficili da controllare.
Leggi anche: Manager / Chi è Dario Amodei, il fondatore di Anthropic che sfida OpenAI nella corsa all’intelligenza artificiale
L’obiettivo è quello di “rallentare la cadenza alla quale miglioriamo le capacità dei modelli di IA”, così da utilizzare il tempo guadagnato per aumentare la capacità di valutare e controllare i modelli prima che le loro capacità crescano ulteriormente. “Continuo a credere che l’IA possa migliorare enormemente la qualità della vita umana. Il mio desiderio di concretizzare questi benefici è intatto. Le misure che propongo per far avanzare la frontiera a un ritmo sicuro non saranno facili. Ma credo che lo dobbiamo all’umanità: dobbiamo almeno provarci”.
Musk concorda, Altman apre alla stessa strada
L’appello ha trovato rapidamente una risposta da parte di Elon Musk. “Dario is right”, ha commentato Musk. Anche Sam Altman, CEO di OpenAI, ha espresso una posizione favorevole all’idea di procedere con maggiore cautela: “Concordo con Dario sul fatto che dobbiamo procedere con cautela in questo campo. Questo è stato uno dei temi principali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane. L’impegno di garantire ai valutatori indipendenti un accesso simile a quello dei dipendenti è un’ottima idea, e faremo lo stesso. Presto condivideremo ulteriori dettagli”.
La sfida, per l’industria, potrebbe quindi essere quella di trovare un equilibrio tra due esigenze apparentemente opposte: continuare a innovare e assicurarsi che la capacità di controllare ciò che viene costruito non rimanga troppo indietro.