Quando l’algoritmo costruisce la realtà che poi misura

Il giudizio dell’intelligenza artificiale che modifica il futuro

Abbiamo discusso a lungo degli errori dell’intelligenza artificiale: dati inesatti, omonimie, informazioni vecchie, conclusioni prive di contesto. Ma esiste un problema ancora più interessante. Che cosa accade quando il giudizio della macchina non si limita a descrivere una persona, ma contribuisce a modificarne il futuro?

Immaginiamo un professionista escluso da una selezione perché un sistema lo considera meno affidabile di altri candidati. Quella decisione non dimostra che la valutazione fosse corretta. Gli sottrae però un’esperienza, una relazione, forse un avanzamento professionale. Se in futuro un altro sistema interpreterà l’assenza di quelle esperienze come un ulteriore segnale negativo, la prima decisione avrà contribuito a costruire i dati che sembreranno confermarla.

Feedback loop e contaminazione decisionale: il rischio nascosto dell’AI

La ricerca conosce questo fenomeno come feedback loop. Uno studio presentato alla conferenza EAAMO nel 2023 ha mostrato come i circuiti di retroazione nei sistemi decisionali basati sul machine learning possano, a seconda delle condizioni, rafforzare, perpetuare o anche ridurre distorsioni preesistenti. Non è quindi corretto sostenere che ogni algoritmo finisca inevitabilmente per discriminare. È corretto però riconoscere che una decisione automatizzata può modificare l’ambiente dal quale arriveranno i dati successivi.

Chiamerei questo rischio “contaminazione decisionale”: il momento in cui smettiamo di misurare soltanto la realtà e cominciamo a misurare anche le conseguenze delle decisioni che il sistema stesso ha contribuito a produrre. È una distinzione fondamentale, perché trasforma il controllo dell’AI da una verifica iniziale a un problema permanente.

Lo vediamo con particolare chiarezza nei sistemi di raccomandazione. Una ricerca pubblicata nel 2026 sul Journal of Intelligent Information Systems ha osservato, in simulazioni iterative, che i circuiti di retroazione possono rafforzare il vantaggio dei contenuti già popolari e ridurre progressivamente la diversità delle raccomandazioni. La macchina non registra soltanto le preferenze: contribuisce a orientarle, e poi utilizza quei nuovi comportamenti come dati.

Reputazione digitale e controllo umano: perché ripetere non significa verificare

Lo stesso principio dovrebbe interessarci quando parliamo di reputazione. Una notizia ripresa da venti siti non equivale a venti verifiche. Una valutazione ripetuta da più sistemi non diventa automaticamente più vera. La ripetizione non crea verità. Crea soltanto l’impressione che una verità sia stata verificata molte volte.

Per questo il controllo umano non può ridursi a qualcuno che firma alla fine del processo. Bisogna sapere da dove arrivano i dati, distinguere le fonti originali dalle loro copie e soprattutto osservare che cosa accade dopo che una decisione è stata presa. Nel 2026 il NIST americano ha dedicato un rapporto specifico al monitoraggio dei sistemi AI dopo la loro introduzione nel mondo reale, sottolineando la necessità di valutarne affidabilità ed effetti anche dopo il deployment.

Propongo allora un criterio semplice: quando un sistema influenza una decisione rilevante, dovremmo verificare non soltanto quali dati abbia utilizzato, ma quali nuovi dati quella decisione abbia contribuito a creare. È la differenza fra misurare una persona e modificare il percorso attraverso il quale verrà misurata in futuro.

Il rischio più serio dell’intelligenza artificiale non è che interpreti male la realtà. È che, decisione dopo decisione, contribuisca a costruire una realtà che finirà per darle ragione.