L’ex ricercatore di Anthropic e OpenAI mette sotto accusa la corsa ai modelli sempre più potenti. Il timore riguarda soprattutto sistemi capaci di migliorarsi da soli, mentre un altro ricercatore stima oltre il 10% di rischio estremo entro dieci anni.
Coxon teme l’auto-miglioramento dei modelli, Hubinger stima oltre il 10% di rischio entro dieci anni
In un’intervista alla Cnn, Jacob Coxon, ex ricercatore di Anthropic con un’esperienza precedente anche in OpenAI, torna sulle ragioni che lo hanno portato a lasciare l’azienda e accusa il settore dell’intelligenza artificiale di “giocare d’azzardo con le nostre vite”.
Coxon ha lavorato per tre anni all’allenamento dei modelli di IA. Il rischio che indica con maggiore preoccupazione riguarda la possibilità che sistemi sempre più avanzati vengano utilizzati per accelerare ulteriormente il proprio sviluppo. Ciò che trova “più spaventoso è che l’intelligenza artificiale venga utilizzata per rendersi più intelligente da sola”. È il meccanismo dell’auto-miglioramento a preoccupare l’ex ricercatore. Aziende in competizione tra loro potrebbero utilizzare modelli sempre più capaci per progettare, allenare e migliorare le generazioni successive, aumentando progressivamente velocità e potenza dello sviluppo.
Secondo Coxon, le società del settore sono “costrette a lanciarsi in una corsa sfrenata verso la creazione di una tecnologia letale”. La critica coinvolge direttamente le due aziende nelle quali ha lavorato. “Nessuna delle due aziende sta agendo in modo responsabile”, ha affermato riferendosi a OpenAI e Anthropic. L’allarme non significa però che i sistemi disponibili oggi abbiano già capacità tali da poter provocare l’estinzione dell’umanità. Nel materiale viene precisato che le IA attuali non sarebbero abbastanza intelligenti da superare l’uomo al punto da rappresentare un simile pericolo immediato.
La preoccupazione riguarda piuttosto la velocità con cui la tecnologia sta migliorando e ciò che potrebbe accadere se i modelli futuri riuscissero a contribuire direttamente alla progettazione di sistemi ancora più potenti.
Hubinger: rischio superiore al 10% entro il prossimo decennio
Una posizione ancora più esplicita arriva da Evan Hubinger, informatico che continua a lavorare per Anthropic. “Crediamo davvero che l’AI potrebbe sterminare tutta l’umanità. Personalmente, penso che la percentuale che questo possa accadere supererà il 10% entro il prossimo decennio”, ha sostenuto.
La percentuale è quindi una valutazione personale di Hubinger, non una previsione scientifica condivisa né una stima attribuita a Coxon. Le preoccupazioni dei ricercatori spingono verso una richiesta di regolamentazione del settore. Per Coxon, il problema nasce dalla competizione tra aziende che continuano ad aumentare le capacità dei propri modelli mentre mancano regole comuni sufficienti a rallentarne lo sviluppo qualora emergano rischi difficili da controllare.
Il confronto riguarda così due esigenze che stanno diventando sempre più difficili da conciliare: mantenere il vantaggio tecnologico e impedire che la corsa tra laboratori riduca lo spazio destinato ai controlli di sicurezza.