Quando l’AI decide chi è credibile, chi risponde dell’errore?

L’intelligenza artificiale non si limita più a raccogliere informazioni sulle persone. Sempre più spesso contribuisce a valutarle

Il salto decisivo dell’intelligenza artificiale non avviene quando una macchina racconta chi siamo. Avviene quando qualcuno comincia a decidere su di noi sulla base di quel racconto. Finché l’AI organizza informazioni, possiamo discutere di accuratezza, fonti, errori e contesto. Quando quelle stesse informazioni diventano la base per assumere una persona, concedere un credito, scegliere un manager o valutare un partner, entriamo in un territorio diverso: quello del giudizio.

La reputazione diventa uno strumento di giudizio

È qui che la reputazione smette di essere soltanto immagine e diventa infrastruttura decisionale. Un sistema può analizzare curriculum, articoli, registri pubblici e migliaia di documenti in pochi secondi. Ma chi garantisce che abbia distinto un’accusa da una condanna, un’opinione da un fatto accertato, un omonimo dalla persona realmente esaminata? E soprattutto: chi decide quale peso attribuire a ogni informazione?

L’equivoco più pericoloso consiste nel confondere la capacità di elaborare dati con la capacità di esprimere giudizi attendibili. Un algoritmo può essere impeccabile nel raccogliere i fatti e profondamente sbagliato nel trasformarli in un giudizio. La frequenza con cui una notizia compare online non ne certifica la verità. La quantità dei documenti non stabilisce automaticamente la gravità di un episodio. E una correlazione non è una responsabilità.

AI Act e GDPR: la responsabilità non può essere delegata

Il legislatore europeo ha già riconosciuto la delicatezza del problema. L’AI Act considera ad alto rischio alcune applicazioni utilizzate nella selezione del personale e nella valutazione del merito creditizio; il GDPR prevede tutele specifiche rispetto alle decisioni esclusivamente automatizzate che producono effetti giuridici o incidono significativamente sulle persone. Ma nessuna norma, da sola, risolve la questione centrale: la responsabilità umana non può scomparire dietro l’efficienza della macchina.

Non credo che la soluzione sia impedire all’intelligenza artificiale di partecipare ai processi decisionali. Sarebbe poco realistico e probabilmente anche sbagliato. Un sistema capace di confrontare grandi quantità di informazioni può migliorare una valutazione. Il problema nasce quando la velocità viene scambiata per affidabilità e quando il cosiddetto “controllo umano” si riduce alla firma finale su una conclusione già formulata dall’algoritmo.

Trasparenza e diritto di contestare le decisioni

Dovremmo allora pretendere una regola semplice: nessun giudizio algoritmico rilevante dovrebbe essere considerato affidabile se non è possibile ricostruire quali informazioni lo hanno prodotto, verificarne la provenienza, comprenderne i limiti e sapere chi se ne assume la responsabilità. E dovrebbe essere possibile correggere non soltanto il dato sbagliato, ma anche il giudizio che continua a produrre conseguenze dopo che quel dato è stato rettificato.

C’è poi un aspetto ancora più insidioso. Quando un giornale pubblica un’informazione inesatta, esistono un autore, un direttore, una testata e una procedura di rettifica. Quando quella stessa informazione entra in un sistema automatico che contribuisce a escludere qualcuno da un’opportunità, la catena delle responsabilità diventa molto meno visibile. Il danno può prodursi senza che la persona sappia quale valutazione lo abbia determinato.

La domanda, quindi, non è se l’intelligenza artificiale saprà giudicarci meglio degli esseri umani. È quali giudizi siamo disposti a delegarle, sulla base di quali prove e con quale possibilità di contestazione.

Abbiamo costruito una società nella quale la reputazione dipende sempre più dalle informazioni disponibili. Ora rischiamo di costruirne una nella quale quelle informazioni decidono automaticamente opportunità, esclusioni e destini professionali. Il vero pericolo non è che le macchine imparino a giudicarci. È che gli esseri umani smettano di sentirsi responsabili dei giudizi che affidano loro.