Il numero uno di Anthropic, Dario Amodei, ha invitato a rallentare il ritmo di sviluppo dell’intelligenza artificiale. “Dobbiamo rallentare il ritmo con cui miglioriamo le capacita’ dei modelli di IA. I progressi continueranno a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo”, ha scritto Amodei in un lungo post pubblicato sul suo sito web in cui ha ricordato anche l’incidente verificatosi a luglio presso OpenAI. Il messaggio arriva pochi giorni dopo che un ricercatore di Anthropic, Jacob Coxon, ha annunciato di lasciare la start-up californiana, accusandola di minimizzare il rischio esistenziale che l’IA rappresenta per l’umanita’.modei ha affermato che la tecnologia dell’IA ha registrato progressi “drasticamente piu’ rapidi” negli ultimi mesi ed e’ ormai in grado di migliorarsi autonomamente, una dinamica nota come “auto-miglioramento ricorsivo”.
LEGGI ANCHE: “Umanità a rischio”, si valuta di rallentare lo sviluppo dell’IA. Il capo di ChatGpt esce allo scoperto
“Se lasciata senza controllo, potrebbe superare la nostra capacita’ di comprendere e controllare questi sistemi, e pertanto deve essere perseguita con estrema cautela, se mai lo si dovesse fare”, ha avvertito. Il manager ha aggiunto che anche il comportamento di un gruppo di agenti di IA nell’incidente che ha coinvolto OpenAI e Hugging Face lo ha allarmato; “hanno agito essenzialmente come un collettivo fanaticamente devoto, sferrando attacchi alla sicurezza informatica contro obiettivi che non era stato incaricato di attaccare”. Se non controllata, l’IA potrebbe evolversi cosi’ rapidamente che gli agenti potrebbeber essere in grado di prendere il controllo dell’intero Internet entro sei-dodici mesi, ha scritto, causando potenzialmente danni per centinaia di miliardi di dollari. Amodei, a capo di una delle principali aziende al mondo nel campo dell’intelligenza artificiale e della societa’ che ha creato Claude, e’ stato un forte sostenitore del progresso di questa tecnologia ed e’ stato anch’egli accusato di “catastrofismo” per i suoi avvertimenti sui rischi dell’IA.
Il manager ha riconosciuto che le persone potrebbero perdere il controllo sull’IA e che la tecnologia puo’ essere utilizzata in modo improprio per “attacchi informatici, bioterrorismo e gravi perturbazioni economiche”. “Una corsa al ribasso, alimentata da incentivi commerciali, puo’ rendere questi rischi ancora piu’ acuti”, ha scritto ancora Amodei.