A- A+
Economia
OpenAI e Google, l'allarme dei dipendenti: "Con l'IA si rischia l'estinzione"
intelligenza Artificiale

OpenAI e Google DeepMind, ex dipendenti lanciano l’allarme

Una lettera aperta, firmata da 13 esperti di intelligenza artificiale, inclusi quattro attuali dipendenti di OpenAI e due scienziati di Google DeepMind  (di cui uno ancora in servizio) denuncia la scarsa attenzione alla sicurezza e la cultura della segretezza che caratterizza le grandi aziende del settore. Il documento rivela che proprio OpenAI e Google DeepMind, i due laboratori di ricerca più avanzati al mondo sull’IA, obbligano i dipendenti in uscita a firmare accordi di "non-denigrazione", impedendo loro di parlare negativamente dell'azienda, pena la perdita delle quote azionarie maturate.

Pur riconoscendo che l'IA "può portare benefici senza precedenti all'umanità", i firmatari evidenziano anche rischi significativi che questo settore comporta come il rafforzamento delle disuguaglianze alla manipolazione e disinformazione, fino alla possibilità di perdere il controllo sui sistemi autonomi di IA, con il rischio di estinzione dell'umanità.

LEGGI ANCHE: Bankitalia: IA? Bene investire, ma serve cooperazione per evitare rischi

Infatti nel documento chiamato “A Right to Warn about Advanced Artificial Intelligence”, si legge che “i sistemi di intelligenza artificiale che apprendono in modo autonomo” potrebbero determinare, sfuggendo al controllo umano, “l’estinzione dell’umanità”.

Il New York Times ha rilanciato la notizia, intervistando Daniel Kokotajlo, un ex ricercatore di OpenAI che si è dimesso nel 2022. Kokotajlo ha criticato OpenAI per la sua corsa verso l'IA generativa, prevedendo che questa tecnologia potrebbe arrivare entro il 2027 con una probabilità del 70% di causare danni catastrofici o la distruzione dell'umanità. Ha citato un episodio del 2022 in cui Microsoft testò una nuova versione di Bing, presumibilmente utilizzando GPT-4 senza l'approvazione del board, che non intervenne nonostante comportamenti anomali del sistema.

Kokotajlo ha poi confessato di aver rifiutato di firmare la clausola di "non-denigrazione", rinunciando a 1,7 milioni di dollari in quote maturate. Un altro ex dipendente, William Saunders, ha descritto l'approccio di OpenAI come "lanciamo le cose nel mondo, vediamo cosa succede e poi le aggiustiamo". Jan Leike, che non è tra i firmatari ma ha espresso le sue preoccupazioni su X, ha criticato la cultura aziendale che privilegia il lancio di nuovi prodotti rispetto alla sicurezza.






in evidenza
Annalisa tra record e un sogno: "Non ho più vent'anni e vorrei..."

La confessione intima

Annalisa tra record e un sogno: "Non ho più vent'anni e vorrei..."


motori
DACIA lancia la sfida della decarbonizzazione di oggi e domani

DACIA lancia la sfida della decarbonizzazione di oggi e domani

Testata giornalistica registrata - Direttore responsabile Angelo Maria Perrino - Reg. Trib. di Milano n° 210 dell'11 aprile 1996 - P.I. 11321290154

© 1996 - 2021 Uomini & Affari S.r.l. Tutti i diritti sono riservati

Per la tua pubblicità sul sito: Clicca qui

Contatti

Cookie Policy Privacy Policy

Cambia il consenso

Affaritaliani, prima di pubblicare foto, video o testi da internet, compie tutte le opportune verifiche al fine di accertarne il libero regime di circolazione e non violare i diritti di autore o altri diritti esclusivi di terzi. Per segnalare alla redazione eventuali errori nell'uso del materiale riservato, scriveteci a segnalafoto@affaritaliani.it: provvederemo prontamente alla rimozione del materiale lesivo di diritti di terzi.