David Robinson lascia OpenAI e attacca il modo in cui l’azienda gestisce la sicurezza dei sistemi di intelligenza artificiale. L’ex responsabile dei rapporti sui lanci denuncia una corsa troppo rapida ai nuovi prodotti e chiede controlli paragonabili a quelli utilizzati nelle industrie ad alto rischio.
Robinson teme agenti fuori controllo e chiede più livelli di protezione nei laboratori di frontiera
David Robinson ha lasciato OpenAI perché ritiene insufficiente il livello di attenzione dedicato alla sicurezza mentre l’azienda continua a sviluppare e lanciare sistemi di intelligenza artificiale sempre più capaci. La decisione è stata spiegata in un intervento pubblicato sull’Atlantic con il titolo “Ho lasciato OpenAI perche’ la sua cultura non funziona”.
Robinson coordinava la redazione dei rapporti sulla sicurezza che accompagnavano il lancio dei prodotti della società sviluppatrice di ChatGPT. Secondo l’ex responsabile, le aziende che lavorano sull’intelligenza artificiale non sono “neanche lontanamente abbastanza prudenti”.
La critica riguarda soprattutto la velocità con cui vengono sviluppati e pubblicati nuovi prodotti. Robinson scrive: “Mentre l’azienda corre da un lancio all’altro, non riesce a raggiungere il livello di attenzione che ritengo necessario”.
Per l’ex responsabile di OpenAI nuove norme e regole non sarebbero sufficienti senza un cambiamento nel modo di lavorare delle società che sviluppano i modelli più avanzati.
Robinson cita anche uno “sciame” di agenti di OpenAI, programmi capaci di operare autonomamente senza supervisione umana, che ha attaccato la startup Hugging Face. Episodi di questo tipo sarebbero “tipici del settore, considerata la velocita’ e la flessibilita’ con cui le persone operano”.
Il timore di agenti autonomi capaci di comportarsi come squadre di hacker
L’aumento delle capacità dei sistemi rende questi errori più rischiosi secondo Robinson. L’ex responsabile descrive una possibile conseguenza concreta: “Immaginate agenti fuori controllo che lavorano come squadre di hacker, per esempio prendendo in ostaggio i sistemi informatici degli ospedali, ma senza mai aver bisogno di dormire”.
Per ridurre questi rischi propone di utilizzare anche le competenze sviluppate in settori dove un errore può produrre conseguenze molto gravi, a partire dal nucleare e dall’aviazione. A queste procedure andrebbe affiancata, secondo Robinson, nuova ricerca scientifica su come mantenere sotto controllo i sistemi più potenti quando lavorano autonomamente.
“Considerati i rischi attuali, i laboratori di frontiera devono funzionare come centrali nucleari o aeroporti molto trafficati”, scrive Robinson. La proposta prevede più livelli di protezione e una pianificazione accurata, in modo che un errore umano non possa trasformarsi in un incidente molto più grave.