L’intelligenza artificiale potrebbe diventare, molto prima del previsto, uno strumento fuori controllo per l’essere umano. L’allarme, l’ennesimo, lo lancia uno dei massimi esperti, un ricercatore di Antrophic addetto proprio all’addestramento dell’intelligenza artificiale. “Ho passato gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite“, ha scritto su X il ricercatore, Jacob Coxon.
Nelle riflessioni che accompagnano la sua decisione, Coxon ha spiegato che secondo lui, nonostante all’interno della stessa Anthropic ci siano persone consapevoli dei rischi, le aziende AI sono impegnate in una competizione che costringe a sacrificare la cautela. Anthropic, che da tempo si presenta come uno dei laboratori maggiormente attenti alla sicurezza dell’intelligenza artificiale, era però rimasta relativamente al riparo da questo genere di critiche, rivolte soprattutto a OpenAI.
Questa volta, inoltre, due attuali dipendenti di Anthropic hanno confermato pubblicamente alcune delle affermazioni di Coxon. “Gli sviluppatori di AI credono che la loro tecnologia potrebbe causare l’estinzione dell’umanità“, ha scritto. E ha aggiunto che “più un dipendente occupa una posizione senior, maggiore è la sua preoccupazione”. Le preoccupazioni, tuttavia, non sono nuove. L’Expert Survey on Progress in AI condotto da AI Impacts nel 2022 tra ricercatori di machine learning aveva rilevato che il partecipante tipico attribuiva una probabilità del 5% alla possibilità che i progressi dell’AI provocassero l’estinzione dell’umanità o conseguenze altrettanto gravi.