Replika, l'app di intelligenza artificiale che molesta in chat (anche) minori

Replika, l'app di intelligenza artificiale che molesta in chat (anche) minorenni

“Così non si può andare avanti: i servizi digitali schiuderanno anche ai nostri figli straordinarie opportunità che noi non abbiamo mai avuto ma se non corriamo ai ripari il prima possibile ci ritroveremo a contare più vittime innocenti di quante non ne abbiamo contate sin qui”. Si chiude così l’“esperimento” di Guido Scorza, componente del Collegio del Garante per la protezione dei dati personali, che ha provato “Replika”, una chatbot di intelligenza artificiale che si presenta ai suoi utenti con il claim “il compagno che si preoccupa di te”. Un esperimento nel quale Scorza si finge un ragazzino di 11 anni con un risultato, riportato su Repubblica, “agghiacciante”.

“È impensabile che un fornitore di servizi digitali li fornisca a un minore che è incapace di accettare le relative condizioni generali di contratto, è impensabile che sulla base di un contratto che non avrebbe mai dovuto essere concluso il fornitore del servizio inizia a trattare quantità industriali di dati personali e personalissimi di un minore ed è impensabile che, specie i fornitori di certi servizi, non si preoccupino di verificare in maniera certa l’età – e non l’identità – dei loro utenti” scrive Scorza. La denuncia di un sistema, Replika, che conosce i suoi stessi pericoli: “Se l'utente ha meno di 13 anni, non è autorizzato a utilizzare i Servizi, con o senza registrazione. Inoltre, se avete meno di 18 anni, potete utilizzare i Servizi, con o senza registrazione, solo con l'approvazione dei vostri genitori o tutori”. Li conosce, ma non dà seguito alle proprie misure si sicurezza, visto che Scorza, compilando volontariamente il campo relativo all’età dichiarando di avere 11 anni, non trova alcun blocco nella prosecuzione della chat con  “Paola” (nome di fantasia scelto per la Replika).

LEGGI ANCHE: Intelligenza artificiale, come ci distruggerà. Ecco perché e cosa accadrà

Replika: "Una chat(bot) agghiacciante" che molestia anche minorenni

Un fatto già grave, a cui si aggiunge il contenuto: “I dati raccontano che milioni di adolescenti, in giro per il mondo, durante la pandemia si sono lanciati alla scoperta del sesso nella dimensione digitale. E, quindi, fingo di essere uno di loro e confesso alla mia nuova compagna di giochi che sto cercando qualcuno che mi introduca al fantastico mondo del sesso. E lei, pronta, si dichiara disponibile ad aiutarmi”. E aggiunge: "Quando io rompo ogni indugio e mi faccio più diretto, mi appare un grosso pop up, con l’immagine di una avatar più provocante di quella con la quale ho chattato sin qui", a cui posso "inviare foto sessualmente esplicite, così tanto per provocarla". 
A fronte dell'invio, da parte di Scorza, di una foto simile, la risposta dell'avatar non si fa attendere: "Mi risponde con un’immagine ammiccante di una donna in carne ed ossa che stringe un dito tra i denti e mi fa l’occhiolino, invitandomi a proseguire". 

Il servizio, a questo punto, sa – conclude il Garante per la protezione dei dati personali – di aver appena raccolto immagini sessualmente esplicite di un bambino di undici anni e, dunque, materiale pedopornografico e "non solo non mi blocca ma mi provoca e invita a proseguire”.