Usa, 13enne pianifica il suicidio con una lettera d’addio: scatta la maxi causa a Google. Così i genitori hanno scoperto tutto

I genitori di una tredicenne americana hanno intentato causa a Google, sostenendo che la figlia abbia pianificato un possibile suicidio – per fortuna sventato – e il relativo funerale utilizzando la tecnologia di intelligenza artificiale dell’azienda su un computer in dotazione alla scuola. La denuncia, depositata lunedì in un tribunale della California, rappresenta il primo caso noto in cui l’azienda viene accusata di negligenza in relazione all’integrazione dell’IA nei Chromebook, i portatili a basso costo del colosso tecnologico utilizzati da milioni di studenti negli Usa e nel resto del mondo.

L’adolescente, identificata con il nome di Emma, ​​non aveva accesso all’applicazione Gemini di Google né a ChatGpt di OpenAI, entrambi erano bloccati dalla sua scuola. Malgrado ciò, è riuscita a utilizzare il motore di ricerca di Google, che integra strumenti basati sull’intelligenza artificiale. “Le scuole dovrebbero disattivare la funzione di ricerca finché Google non rimuoverà la modalità IA dal motore di ricerca, o finché non garantirà che ogni singolo studente sia sempre al sicuro quando interagisce con l’IA“, ha detto Andrew Liddell, uno dei legali della famiglia. Secondo la denuncia, Emma era una “ragazzina felice” della Carolina del Nord, con ottimi voti a scuola, appassionata di musica e attiva nelle Girl scouts. Nonostante non vi fosse “alcun precedente” di disturbi mentali, nel giro di pochi mesi dall’utilizzo della ricerca basata sull’IA di Google sul computer scolastico, Emma sarebbe scivolata – come si legge nell’atto – in una “silenziosa spirale verso una grave crisi psicologica”.

Il 17 marzo, il software di monitoraggio della scuola ha segnalato un documento intitolato “funerale” e l’istituto ha avvisato i genitori: la madre, dopo aver effettuato l’accesso all’account della figlia, ha visto in tempo reale Emma scrivere una lettera d’addio e il padre è potuto intervenire tempestivamente. “Stiamo esaminando le accuse contenute nella causa e prendiamo la questione molto seriamente“, ha dichiarato all’Afp il portavoce di Google, Jose Castaneda. Google sostiene che la modalità basata sull’IA include misure di salvaguardia contro l’autolesionismo e i tentativi di aggirare le protezioni. Ma Emma “è riuscita a tornare più e più volte”, ha accusato Liddle: “qualsiasi misura di salvaguardia abbiano pensato di adottare, si è rivelata insufficiente“.