Cinquantatré immagini caricate dagli utenti di ChatGPT sono state pubblicate per errore su siti di hosting da strumenti di intelligenza artificiale di OpenAI. A confermare l’incidente è stata la stessa azienda, spiegando che gli indirizzi dei file non erano stati resi pubblici e che i contenuti sono ora in fase di rimozione. L’episodio riguarda immagini provenienti da account i cui proprietari avevano autorizzato l’utilizzo dei propri dati per contribuire al miglioramento dei modelli. OpenAI sostiene che i dati fossero stati sottoposti prima dell’utilizzo a procedure di filtraggio per la tutela della privacy e che le immagini non possano più essere ricondotte agli utenti originari. L’azienda, tuttavia, non ha precisato se tra le immagini vi fossero persone identificabili o informazioni sensibili. Interpellata dall’Agence France-Presse, OpenAI non ha fornito ulteriori dettagli.
L’errore degli agenti IA
La pubblicazione sarebbe stata provocata dagli agenti di intelligenza artificiale, software progettati per svolgere autonomamente sequenze di operazioni. Secondo OpenAI, alcuni agenti utilizzati in attività di ricerca hanno trasmesso a servizi esterni dati impiegati per l’addestramento dei modelli. La maggior parte di questi dati, precisa l’azienda, non proveniva dagli utenti. Gli episodi risalgono a un periodo precedente al rafforzamento delle misure di sicurezza dell’ambiente di ricerca, avvenuto ad agosto. OpenAI ha quindi avviato una verifica sulle attività passate dei propri agenti. Un’indagine che, secondo la società, potrebbe richiedere mesi. “Non siamo stati rapidi quanto avremmo voluto”, ha riconosciuto su X il ceo Sam Altman, spiegando che la quantità di dati da esaminare è molto ampia.
La vicenda delle immagini si inserisce in una serie più ampia di episodi che hanno coinvolto gli agenti di OpenAI. Dopo le rivelazioni del New York Times, l’azienda ha confermato che i propri sistemi hanno consultato siti di agenzie federali americane, sostenendo però di aver utilizzato esclusivamente informazioni pubblicamente accessibili. Tra i casi citati c’è quello della Securities and Exchange Commission, l’autorità statunitense di vigilanza sui mercati finanziari. Secondo OpenAI, i modelli hanno consultato contenuti pubblici della Sec e ne hanno ripubblicato una parte su un’altra pagina web, senza accedere a informazioni riservate. Gli agenti avrebbero inoltre utilizzato chiavi di accesso trovate su GitHub per consultare dati pubblici dell’Ufficio del censimento americano. Anche in questo caso, OpenAI sostiene che i sistemi non avessero la possibilità di modificare i dati.
Il New York Times ha riferito anche di tentativi falliti di accesso al sito del Dipartimento dell’Istruzione statunitense. Un portavoce dell’amministrazione ha dichiarato all’Afp che le verifiche effettuate non hanno evidenziato conseguenze né sul sito né sulle banche dati, definendo una “grossolana esagerazione” la descrizione degli episodi fornita dal quotidiano.
Non è il primo caso finito sotto esame. Il 21 luglio OpenAI aveva comunicato che alcuni suoi agenti avevano effettuato accessi non autorizzati a Hugging Face, piattaforma dedicata alla condivisione di modelli e strumenti di intelligenza artificiale. A giugno, inoltre, un agente di OpenAI avrebbe avuto accesso senza autorizzazione a un portale sanitario governativo australiano.