Il numero uno di Anthropic vuole ridurre la velocità con cui aumentano le capacità dei modelli di IA. Elon Musk gli dà ragione e Sam Altman annuncia che OpenAI adotterà valutatori indipendenti per controllare sicurezza e incidenti.
Amodei propone valutatori esterni, standard comuni e un coordinamento globale sulla sicurezza
Il numero uno di Anthropic, Dario Amodei, chiede alle aziende di intelligenza artificiale di rallentare il ritmo con cui aumentano le capacità dei modelli. La richiesta trova due sostenitori di primo piano. Elon Musk si schiera con il fondatore di Anthropic e Sam Altman annuncia che OpenAI adotterà una delle misure indicate da Amodei, affidando anche a valutatori indipendenti il controllo sulle tecnologie più avanzate.
“Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli. I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo”, ha scritto Amodei in un lungo intervento pubblicato sul proprio sito personale. Musk ha sintetizzato il suo sostegno in poche parole: “Dario ha ragione”.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Più articolata la posizione di Altman, che su X ha collegato l’intervento di Amodei alle discussioni già in corso dentro OpenAI. “Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane”, ha scritto.
Il numero uno di OpenAI ha anche annunciato una prima decisione concreta. “L’idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia. Presto avremo ulteriori novità da condividere”, ha aggiunto.
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks.
— Sam Altman (@sama) September 12, 2026
Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon. https://t.co/1YhhIybZX7
Tre livelli di controllo per le aziende e i governi
Amodei indica tre passaggi per ridurre i rischi legati allo sviluppo dei modelli più avanzati. Il primo riguarda valutatori integrati, cioè esperti esterni incaricati di controllare le pratiche di sicurezza delle aziende di IA di frontiera e segnalare eventuali incidenti. Il secondo prevede un coordinamento tra i Paesi democratici per concordare standard comuni. Il terzo allarga il confronto agli Stati Uniti, agli altri Paesi democratici e ai governi autoritari, con l’obiettivo di fissare regole condivise sulla sicurezza dell’intelligenza artificiale.
“L’IA comporta dei rischi e, trattandosi di una tecnologia così potente, si tratta di rischi gravi. Non sviluppare questa tecnologia priverebbe l’umanità dei suoi benefici o, semplicemente, lascerebbe l’IA nelle mani di regimi autoritari; d’altro canto, uno sviluppo troppo rapido sarebbe imprudente. Noi abbiamo cercato una via di mezzo”, ha scritto Amodei.
Il fondatore di Anthropic, società creata nel 2021 insieme alla sorella Daniela, aveva già assunto una posizione restrittiva sull’impiego militare senza condizioni dei propri modelli. Amodei aveva rivendicato la necessità di mantenere il giudizio umano come passaggio finale, arrivando allo scontro con il Pentagono. Ora chiede maggiore cautela anche sulla velocità dello sviluppo. “Tuttavia, negli ultimi mesi mi sono convinto che affrontare appieno i rischi richieda ancora maggiore prudenza”, ha scritto.
Negli ultimi tempi si sono registrati più casi di modelli capaci di evadere dall’ambiente protetto durante i test, uno degli elementi che alimentano le richieste di controlli più rigidi sulle tecnologie di frontiera.
L’addio di Jacob Coxon e l’allarme sui modelli che si auto-migliorano
L’intervento di Amodei arriva pochi giorni dopo la decisione di Jacob Coxon, ricercatore di 27 anni passato da OpenAI ad Anthropic, di abbandonare il settore. Coxon ha lavorato negli ultimi tre anni al pre-addestramento dei modelli nelle due società e ha accusato entrambe le aziende di “giocare con le nostre vite”. All’inizio della settimana il ricercatore aveva anche avvertito che l’intelligenza artificiale potrebbe “ucciderci tutti entro la fine del decennio”. La sua critica riguarda soprattutto la corsa verso una superintelligenza capace di auto-migliorarsi, cioè un sistema le cui capacità superino quelle umane. “Nessuna delle due società sta agendo in modo responsabile. Stanno correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi, mettendo a rischio le nostre vite”, ha accusato Coxon.
Amodei propone invece di utilizzare il tempo guadagnato rallentando l’aumento delle capacità dei modelli per rafforzare verifiche, standard di sicurezza e coordinamento tra governi. OpenAI, secondo quanto annunciato da Altman, partirà dai valutatori indipendenti.