Intelligenza artificiale e visione algoritmica del mondo

La “visione algoritmica del Mondo” impoverisce i poveri. E’ questa la sintesi del rapporto Alston che lo scorso 11 ottobre il Segretario generale delle Nazioni Unite ha trasmesso all’Assemblea generale sulla povertà estrema e i diritti umani: Report of the Special Rapporteur on the promotion and protection of the right to freedom of opinion and expression” (https://srpovertyorg.files.wordpress.com/2019/10/a_74_48037_advanceuneditedversion-1.pdf) 

L’analisi effettuata in molti paesi del Globo è senza appello, a cominciare dall’India che ha realizzato Aadhaar il più grande sistema di identificazione biometrica del mondo: raccoglie i dati anagrafici, la fotografia, le impronte digitali e l’immagine dell’iride di oltre 1,2 miliardi cittadini indiani. Per i cittadini indiani possedere la Aadhaar card è essenziale per accedere ai servizi pubblici, quali le cure mediche, l’istruzione, il pagamento delle tasse. Dal 2009 quando è partito Aadhaar ha permesso di raggiungere l’obiettivo della registrazione delle nascite e stabilire l’identità legale di tutti cittadini e ha consentito di risolvere il furto di identità e il suo uso fraudolento. Ma nello stesso tempo milioni di famiglie povere che non in grado di gestire e forse comprendere questa registrazione digitale si sono viste negare le razioni di cibo distribuite gratuitamente e nonostante la loro povertà fosse evidente alle persone che distribuivano il cibo, Aadhaar lo negava loro. Tant’è che il Governo è stato costretto a restituire la capacità di discernere, se dare o non dare il cibo, alle persone della distribuzione. In un secondo caso il Governo del Kenya ha obbligato tutti i cittadini e i residenti nel paese a dotarsi di un documento di riconoscimento per poter accedere ai servizi sociali attraverso la registrazione di impronte digitali, scansione della retina e dell’iride e di un campione vocale e uno di DNA. 

Il rischio è che un terzo della popolazione che non si è registrato per le innegabili condizioni locali (ad es. assenza di Internet) non acceda ai servizi sanitari e di welfare anche per l’incapacità di gestire/ comprendere questi sistemi. «I soggetti più vulnerabili – scrive Alston – solitamente non vengono coinvolti nell’elaborazione dei sistemi IT e i professionisti di questo settore non hanno gli strumenti per anticipare i problemi che questi potrebbero sollevare»,poi aggiunge:«i sistemi di protezione sociale e assistenza sono sempre più spesso guidati dai dati e le tecnologie sono usate per automatizzare, predire, identificare, stimare, individuare e punire, l’obiettivo appare essere la riduzione della spesa sociale, l’istituzione di sistemi di sorveglianza governativa invadente e la generazione di profitti per aziende private.” In aggiunta «In misura maggiore rispetto al passato, l’attuale stato sociale digitale è spesso sostenuto dal presupposto di partenza che l’individuo non è un titolare dei diritti, ma piuttosto un richiedente. In tale veste, una persona deve convincere chi prende le decisioni che è “meritevole”, che soddisfa i criteri di ammissibilità. E gran parte di ciò deve avvenire per via elettronica, a prescindere dalle competenze del richiedente in tale ambito». 

Ma non solo i Paesi dove si stanno facendo raccolte di massa di dati biometrici e DNA come in Kenia, Sudafrica, Argentina,  Bangladesh, Cile, Irlanda, Giamaica, Malesia, Filippine e Stati Uniti, ma anche in Italia, dove il GDPR tutela i cittadini sui dati biometrici, 18 milioni di persone non hanno mai usato internet nell'ultimo anno e di solito hanno la licenza media ed elementare, spesso hanno più di 55 anni potrebbero avere problemi e addirittura nel Regno Unito sono 11 milioni coloro che non hanno competenze digitali. Bisogna comprendere che l’Intelligenza Artificiale che genera la “visione algoritmica” non deve sostituire la capacità di discernere dell’essere umano, in qualsiasi settore essa sia inserita, deve aiutare l’analisi, ma non deve prendere decisioni soprattutto quando c’è in gioco la vita umana come avviene per la sanità, per gestione della povertà, per il welfare in generale, altrimenti come riferito dal Guardian a causa del malfunzionamento di un sensore biometrico, l’impronta digitale di Motka Majhi non è stata riconosciuta dalla macchina che quindi non gli ha erogato il cibo necessario ala sua sussistenza; il 22 maggio Motka Majhi è morto, secondo i suoi parenti a causa della fame. Rischiamo di avere i primi omicidi delle Intelligenze Artificiali. Coloro che sono studiosi, progettisti, realizzatori di algoritmi cosiddetti intelligenti abbiamo bene in mente ciò come elemento etico centrale.

Riporto di seguito l’ordinamento del (General Data Protection Regulation), cimosa protezione dei dati personali in Europa ed Italia. Nel nostro ordinamento l’art. 9 del GDPR riguarda proprio il trattamento dei dati biometrici, che è generalmente vietato ma risulta ammesso se si verificano i casi previsto al paragrafo 2 (vedi in particolare le lettere b), g), h), i)).  

Articolo 9 del GDPR

Trattamento di categorie particolari di dati personali

1. È vietato trattare dati personali che rivelino l’origine razziale o etnica, le opinioni politiche, le convinzioni religiose o filosofiche, o l’appartenenza sindacale, nonché trattare dati genetici, dati biometrici intesi a identificare in modo univoco una persona fisica, dati relativi alla salute o alla vita sessuale o all’orientamento sessuale della persona.

2. Il paragrafo 1 non si applica se si verifica uno dei seguenti casi:a) l’interessato ha prestato il proprio consenso esplicito al trattamento di tali dati personali per una o più finalità specifiche, salvo nei casi in cui il diritto dell’Unione o degli Stati membri dispone che l’interessato non possa revocare il divieto di cui al paragrafo 1;b) il trattamento è necessario per assolvere gli obblighi ed esercitare i diritti specifici del titolare del trattamento o dell’interessato in materia di diritto del lavoro e della sicurezza sociale e protezione sociale, nella misura in cui sia autorizzato dal diritto dell’Unione o degli Stati membri o da un contratto collettivo ai sensi del diritto degli Stati membri, in presenza di garanzie appropriate per i diritti fondamentali e gli interessi dell’interessato;c) il trattamento è necessario per tutelare un interesse vitale dell’interessato o di un’altra persona fisica qualora l’interessato si trovi nell’incapacità fisica o giuridica di prestare il proprio consenso;d) il trattamento è effettuato, nell’ambito delle sue legittime attività e con adeguate garanzie, da una fondazione, associazione o altro organismo senza scopo di lucro che persegua finalità politiche, filosofiche, religiose o sindacali, a condizione che il trattamento riguardi unicamente i membri, gli ex membri o le persone che hanno regolari contatti con la fondazione, l’associazione o l’organismo a motivo delle sue finalità e che i dati personali non siano comunicati all’esterno senza il consenso dell’interessato;e) il trattamento riguarda dati personali resi manifestamente pubblici dall’interessato;f) il trattamento è necessario per accertare, esercitare o difendere un diritto in sede giudiziaria o ogniqualvolta le autorità giurisdizionali esercitino le loro funzioni giurisdizionali;g) il trattamento è necessario per motivi di interesse pubblico rilevante sulla base del diritto dell’Unione o degli Stati membri, che deve essere proporzionato alla finalità perseguita, rispettare l’essenza del diritto alla protezione dei dati e prevedere misure appropriate e specifiche per tutelare i diritti fondamentali e gli interessi dell’interessato;h) il trattamento è necessario per finalità di medicina preventiva o di medicina del lavoro, valutazione della capacità lavorativa del dipendente, diagnosi, assistenza o terapia sanitaria o sociale ovvero gestione dei sistemi e servizi sanitari o sociali sulla base del diritto dell’Unione o degli Stati membri o conformemente al contratto con un professionista della sanità, fatte salve le condizioni e le garanzie di cui al paragrafo 3;i) il trattamento è necessario per motivi di interesse pubblico nel settore della sanità pubblica, quali la protezione da gravi minacce per la salute a carattere transfrontaliero o la garanzia di parametri elevati di qualità e sicurezza dell’assistenza sanitaria e dei medicinali e dei dispositivi medici, sulla base del diritto dell’Unione o degli Stati membri che prevede misure appropriate e specifiche per tutelare i diritti e le libertà dell’interessato, in particolare il segreto professionale;j) il trattamento è necessario a fini di archiviazione nel pubblico interesse, di ricerca scientifica o storica o a fini statistici in conformità dell’articolo 89, paragrafo 1, sulla base del diritto dell’Unione o nazionale, che è proporzionato alla finalità perseguita, rispetta l’essenza del diritto alla protezione dei dati e prevede misure appropriate e specifiche per tutelare i diritti fondamentali e gli interessi dell’interessato.

3. I dati personali di cui al paragrafo 1 possono essere trattati per le finalità di cui al paragrafo 2, lettera h), se tali dati sono trattati da o sotto la responsabilità di un professionista soggetto al segreto professionale conformemente al diritto dell’Unione o degli Stati membri o alle norme stabilite dagli organismi nazionali competenti o da altra persona anch’essa soggetta all’obbligo di segretezza conformemente al diritto dell’Unione o degli Stati membri o alle norme stabilite dagli organismi nazionali competenti.

4. Gli Stati membri possono mantenere o introdurre ulteriori condizioni, comprese limitazioni, con riguardo al trattamento di dati genetici, dati biometrici o dati relativi alla salute.