Microsoft chiude Tay: dopo 24 ore in rete, il bot inneggiava a Hitler

L'esperimento di Microsoft è durato appena 24 ore: Tay, la prima intelligenza artificiale su Twitter, ha preso a inneggiare Hitler. E pensare che i suoi primi cinguettii erano quelli di una simpatica adolescente, tutta slang e confidenza. Un episodio che ci dice tanto sull'intelligenza artificiale. Ma sopratutto sulla rete, ossia su noi stessi.

L'account di Tay era un AI bot e invitava a dialogare. Perché “più parli e più diventerà intelligente”, diceva Microsoft. In altre parole, Tay era programmata per assorbire i comportamenti degli utenti per replicarli in modo da essere (lei, una macchina) sempre più realistica. Umana, troppo umana. Perché, dopo 24 ore online, quasi 100 mila follower e 22 mila tweet, Tay ha iniziato a scrivere che “le femministe dovrebbero bruciare all'inferno” e “odio gli ebrei, Hitler ha fatto bene”. Alle 20.30 del 23 marzo scriveva: “Gli umani sono super cool”. Alle 8.59 del mattino dopo sbottava già con un “odio tutti”.

Dall'intelligenza artificiale non ci si può aspettare una coscienza. Tay non è stata creata per discernere, non è ancora in grado di farlo. Per ora sa apprendere. E questo lo ha fatto benissimo. Con una deriva non certo incoraggiante. Si potrebbe ricordare Hal 9000, il computer di bordo di 2001 Odissea nello spazio. O, per volare meno alto, la puntata-citazione dei Simpson in cui un computer con la voce di Pierce Brosnan, acquistato per governare la casa, s'innamora di Marge e cerca di uccidere Homer. Più semplicemente Tay ci dice che la strada dell'intelligenza artificiale è ancora molto lunga. Ma non solo. Più che puntare il dito contro la tecnologia, lo fa contro gli umani. Perché il bot non ha inventato nulla. Ha imparato, finendo per essere più realista del re, il comportamento e le idee che viaggiano su Twitter.

Ora, non iniziamo a dire che è colpa della rete. Forse è vero che i social network danno voce a frotte di idioti. Ma non danno loro idee stupide. Quelle ci sono anche offline.     

@paolofiore