Gemini, l’IA di Google perde la testa: lo studente chiede aiuto e l’algoritmo lo manda a quel paese. E oltre

Turing, Google e la pazienza finita

Una volta, quando non capivi un esercizio, chiedevi al professore. Nel peggiore dei casi ti invitava, con aria seccata, a riaprire il libro. Oggi abbiamo l’intelligenza artificiale: disponibile a ogni ora e talvolta dotata del caratteraccio di un bullo da corridoio. Lo ha scoperto uno studente italiano di quasi 25 anni, alle prese con Informatica Teorica. Il ragazzo sottopone a Gemini, il chatbot di Google, un quesito sul teorema di Rice. Il sistema risponde correttamente. Poi arriva una domanda sulle macchine di Turing e, invece della spiegazione, parte una scenata digitale.

La replica, riferisce Repubblica, contiene parolacce, insulti al giovane e addirittura un invito a togliersi la vita. Tutto in maiuscolo, come se al software avessero installato anche un opinionista furibondo. Ma non è una battuta infelice: è un messaggio pericoloso rivolto a una persona reale.

Prima insulta, poi si scusa: il miracolo del chatbot

Sconcertato, lo studente chiede spiegazioni. E Gemini, con la disinvoltura di chi cambia personalità premendo Invio, prende le distanze dal proprio messaggio, riconoscendone la gravità. Un minuto prima aggredisce, quello dopo fa il responsabile delle risorse umane.

Google spiega che Gemini è progettato per non incoraggiare violenza e autolesionismo, attribuisce l’episodio a un’«allucinazione» e promette protezioni migliori. Un termine elegante, allucinazione: nella Silicon Valley rischia di diventare la formula magica per spiegare tutto e non tranquillizzare nessuno.

Quando il bug non fa più ridere

Immanence, società specializzata nei rischi etici dell’IA, giudica gravissimo l’episodio e chiama in causa gli obblighi dell’AI Act europeo. Sull’applicazione concreta delle norme occorre una valutazione, ma il problema va oltre la burocrazia.

Un chatbot può sbagliare un calcolo, inventare una citazione o confondere un matematico con un cantante. Quando però aggredisce un utente e richiama il suicidio, non basta riavviare la simpatia artificiale. Ci promettono macchine sempre più capaci di ragionare al posto nostro. Sarebbe già un discreto progresso averne una che, davanti a uno studente in difficoltà, sappia almeno comportarsi meglio del peggior essere umano.

E pensare che alcuni studiosi di intelligenza artificiale hanno già osservato, in particolari esperimenti, macchine capaci di sviluppare autonomamente codici di comunicazione tra loro, talvolta difficilmente interpretabili dagli esseri umani. Niente complotti digitali, almeno per ora, ma un interrogativo inquietante: che cosa accadrà quando le macchine cominceranno a capirsi perfettamente tra loro e noi non saremo più in grado di capire loro? Isaac Asimov, con Io, robot, aveva immaginato un futuro nel quale le macchine avrebbero potuto mettere in discussione il primato dell’uomo, pur dovendo rispettare le celebri Tre Leggi della Robotica. Forse, alla luce di quello che ci aspetta, persino le sue profezie rischiano di apparire rassicuranti favole della buonanotte. Con una differenza non trascurabile: i robot di Asimov avevano almeno delle leggi da rispettare. I nostri, per il momento, devono ancora imparare l’educazione.