Quando l’intelligenza artificiale decide chi merita fiducia

Non chiediamo più agli algoritmi soltanto di trovare informazioni. Cominciamo ad affidarci a loro per valutare persone, imprese e istituzioni. Ma chi risponde quando una macchina trasforma una reputazione in un giudizio?

Per secoli abbiamo cercato di distinguere i fatti dalle opinioni. Poi abbiamo imparato che anche i fatti, quando vengono selezionati e raccontati, possono contribuire a costruire immagini molto diverse della stessa persona. Oggi siamo davanti a un passaggio ulteriore: l’intelligenza artificiale non si limita a organizzare ciò che sappiamo. Comincia a influenzare ciò che pensiamo di sapere degli altri. E soprattutto quanto possiamo fidarci di loro.

Immaginiamo un imprenditore con trent’anni di attività, centinaia di rapporti commerciali e una controversia giudiziaria conclusa a suo favore. Un sistema di intelligenza artificiale potrebbe individuare numerosi articoli relativi all’inizio della vicenda, senza attribuire sufficiente importanza alla sua conclusione. La risposta sarebbe apparentemente documentata, forse persino accompagnata da fonti autorevoli. Eppure il giudizio complessivo potrebbe risultare profondamente ingiusto.

Il problema non sarebbe necessariamente una notizia falsa. Sarebbe una conclusione sbagliata costruita attraverso informazioni vere, ma incomplete.

Quando l’AI trasforma le informazioni in giudizi

È qui che si sta consumando una trasformazione della quale discutiamo ancora troppo poco. Fino a ieri temevamo che Internet potesse conservare per sempre il nostro passato. Oggi dobbiamo interrogarci su che cosa accade quando una macchina interpreta quel passato e lo trasforma in una valutazione utilizzabile da altri. Una valutazione che può orientare una scelta professionale, una relazione bancaria, un investimento o una decisione commerciale.

Esiste una differenza fondamentale tra reputazione, credibilità e affidabilità. La reputazione riguarda come siamo percepiti. La credibilità misura la fiducia attribuita alle nostre parole. L’affidabilità richiede invece una verifica dei comportamenti e dei risultati. Sono dimensioni collegate, ma non equivalenti. Eppure un sistema tecnologico può finire per confonderle, trasformando la visibilità digitale in un indicatore improprio del valore di una persona.

Il rischio è particolarmente insidioso perché l’intelligenza artificiale non ha bisogno di inventare nulla per produrre un giudizio distorto. È sufficiente attribuire troppo peso a una fonte, ignorarne un’altra, confondere due omonimi oppure considerare attuale un’informazione superata. Il risultato può apparire credibile proprio perché ogni singolo elemento sembra verificabile.

Le garanzie normative e il diritto di contestare le valutazioni

Le istituzioni hanno cominciato a riconoscere il problema. I principi OCSE sull’intelligenza artificiale richiamano trasparenza, comprensibilità e possibilità di contestare gli esiti dei sistemi. Il regolamento europeo sull’AI individua determinati utilizzi ad alto rischio, mentre il GDPR prevede specifiche garanzie per le decisioni esclusivamente automatizzate che producono effetti giuridici o incidono significativamente sulle persone. Ma non ogni giudizio reputazionale generato da una macchina rientra automaticamente in queste tutele.

Ed è proprio in questo spazio che si apre la questione più importante. Se un algoritmo contribuisce a stabilire che una persona non è credibile, chi deve dimostrare che quella conclusione sia fondata? Chi verifica l’identità del soggetto, la qualità delle fonti, la cronologia degli eventi? E chi garantisce che una rettifica non rimanga invisibile mentre il giudizio negativo continua a circolare?

La responsabilità del giudizio tra tecnologia e informazione

Non credo che la soluzione sia impedire alle macchine di formulare valutazioni. Sarebbe inutile, oltre che contrario alle opportunità offerte dalla tecnologia. Credo invece che dobbiamo pretendere una nuova responsabilità del giudizio: ogni valutazione capace di incidere sulla reputazione dovrebbe essere riconducibile a fonti identificabili, criteri comprensibili, informazioni aggiornate e procedure effettive di contestazione e correzione.

La stessa responsabilità deve valere per chi produce informazione. Un articolo giornalistico, una comunicazione promozionale e un documento giudiziario non possono essere trattati come testimonianze equivalenti. E una conclusione generata dall’AI non diventa vera perché viene ripetuta da altri sistemi. Senza questa distinzione rischiamo di costruire un circuito nel quale la reputazione alimenta il giudizio e il giudizio, a sua volta, consolida la reputazione.

Il futuro della fiducia e il rischio di delegare alle macchine

La fiducia non è una media statistica delle opinioni disponibili. È una conclusione che richiede prove, contesto e responsabilità. Possiamo delegare alle macchine la ricerca e l’analisi di enormi quantità di informazioni. Non possiamo permetterci di delegare anche la responsabilità delle conseguenze senza sapere chi ne risponderà.

Perché il vero potere dell’intelligenza artificiale non sarà soltanto decidere quali informazioni mostrarci. Sarà contribuire a stabilire chi consideriamo degno di essere creduto. E una società che non sa più distinguere tra un giudizio verificato e uno semplicemente generato rischia di affidare alle macchine qualcosa di molto più importante della propria memoria: la propria capacità di giudicare.