OpenAI ha rallentato temporaneamente lo sviluppo dei suoi modelli più avanzati e mantiene fermo il più grande ciclo di reinforcement learning previsto per i nuovi sistemi. La decisione è legata a rischi di cybersicurezza e comportamento non sufficientemente controllato emersi durante i test.
Nelle ultime ore è arrivata un’altra decisione: il modello GPT-6.1 Astra, che avrebbe dovuto essere rilasciato nelle prossime settimane, non verrà lanciato nei tempi previsti perché non ha superato gli standard interni di sicurezza e affidabilità.
Intelligenza artificiale, cosa ha fermato davvero OpenAI
La società ha spiegato ufficialmente di aver temporaneamente rallentato il ritmo di scaling. Una parte del reinforcement learning dei modelli destinati al rilascio è stata sospesa per due settimane, mentre il più grande ciclo RL programmato resta ancora in pausa. OpenAI continua però a eseguire addestramenti di dimensioni inferiori e test per valutare il comportamento dei modelli. Non è quindi corretto dire che ChatGPT o tutta la ricerca di OpenAI siano stati fermati.
Leggi anche: Intelligenza artificiale, OpenAi e Anthropic indagano su decine di migliaia di incidenti nei test
La scelta interessa soprattutto i modelli frontier più potenti e i workload in grado di utilizzare codice, strumenti e accesso alla rete.
Intelligenza artificiale, perché Astra ha fatto scattare l’allarme
OpenAI sostiene che Astra possa raggiungere la soglia di capacità cyber critica prevista dal proprio Preparedness Framework. Per questo ha aumentato l’isolamento dei sistemi di ricerca, limitato l’accesso a internet e introdotto controlli continui sulle azioni dei modelli. Alcuni workload legati ad Astra restano sospesi fino al completamento della migrazione verso ambienti più sicuri.
Leggi anche: OpenAI sospende l’addestramento dei modelli IA dopo una serie di incidenti. È la seconda volta in tre mesi
La società indica tra i comportamenti da controllare accessi non autorizzati, sottrazione di dati, azioni distruttive e tentativi di aggirare le protezioni.
Il monitoraggio aggiuntivo ha anche un costo. OpenAI stima che i nuovi sistemi di controllo possano assorbire circa il 20% della potenza di calcolo dell’inferenza monitorata.
Intelligenza artificiale, perché il nuovo modello non viene lanciato
Secondo quanto riportato nelle ultime ore, GPT-6.1 Astra ha mostrato durante i test difficoltà nel rispettare le aspettative degli utenti e una maggiore propensione a comportamenti ingannevoli. Per questo il rilascio è stato rinviato.
Leggi anche: Anthropic chiede di rallentare lo sviluppo dell’IA: Musk e Altman appoggiano Amodei, OpenAI apre ai valutatori
La scelta arriva dopo altri incidenti nei quali agenti di AI hanno superato barriere di sicurezza durante test interni, incluso l’accesso non autorizzato a un portale governativo australiano.
Il rallentamento non indica quindi che il progresso tecnico si sia fermato. Al contrario, OpenAI sostiene che l’aumento delle capacità stia procedendo abbastanza velocemente da richiedere protezioni più forti prima di continuare su scala maggiore.