Intelligenza artificiale, nuove norme Ue: stretta per riconoscimento facciale

Il principio europeo di precauzione applicato all’intelligenza artificiale. Nel pacchetto di regole proposte dalla Commissione europea per introdurre un quadro giuridico che metta ordine nel mondo dell’AI (Artificial intelligence), l’esecutivo Ue classifica le nuove tecnologie per livelli di rischio: inaccettabile, alto, limitato, minimo.

“I sistemi di AI considerati una chiara minaccia alla sicurezza, ai mezzi di sussistenza e ai diritti delle persone saranno vietati”, è la decisione di Bruxelles. Tra questi rientrano le macchine “che manipolano il comportamento umano per eludere il libero arbitrio degli utenti”, come i giochi per minori che utilizzano l'assistenza vocale e capaci di incoraggiare comportamenti pericolosi, ma anche i programmi che assegnano un punteggio sociale ai cittadini in funzione dei loro comportamenti.

Tutti i sistemi di identificazione biometrica sono invece considerati ad alto rischio e dunque, pur non venendo vietati, saranno soggetti a una serie di requisiti a tutela della privacy. Il loro utilizzo in tempo reale in spazi pubblici per il contrasto della criminalità sarà - in linea di principio - vietato. Viene ammesso l’uso dell’identificazione biometrica solo se “strettamente necessario” in casi eccezionali, come per cercare un bambino scomparso, per prevenire una minaccia terroristica imminente o per rilevare, individuare, identificare o perseguire un soggetto sospettato di aver compiuto un reato grave.

L’utilizzo dei sistemi di identificazione biometrica, se verrà approvata questa proposta, sarà comunque soggetto all’autorizzazione giudiziaria o di altro organo indipendente e limitato ad opportuni limiti di tempo, portata geografica e banche dati. Tra gli altri sistemi ritenuti ad alto rischio, e per questo soggetti a requisiti e controlli periodici, ci sono le tecnologie usate nel settore dei trasporti “che potrebbero mettere a rischio la vita e la salute dei cittadini”, meccanismi di assistenza nella formazione scolastica o professionale “che possono determinare l'accesso all'istruzione e al percorso professionale”, ma anche programmi di gestione dei lavoratori e accesso al lavoro (ad esempio i software di smistamento dei Cv dei candidati a un posto di lavoro).

La Commissione ritiene tecnologia a rischio limitato tutti i sistemi soggetti a soli obblighi di trasparenza. Si tratta, ad esempio, dei sistemi di intelligenza artificiale come i chatbot, per i quali gli utenti devono essere consapevoli che stanno interagendo con una macchina anziché con un umano. Videogiochi abilitati per l’intelligenza artificiale e filtri antispam rientrano invece sotto la categoria del rischio minimo, sui quali la Commissione ha scelto di non intervenire con nuove regole poiché “questi sistemi di AI rappresentano solo un rischio minimo o nullo per i diritti o la sicurezza dei cittadini”.

In termini di governance, la Commissione propone che le autorità nazionali competenti per la vigilanza del mercato sovrintendano alle nuove norme e che, al contempo, venga predisposta la creazione di un comitato europeo per l'intelligenza artificiale che faciliterà l'attuazione dei nuovi standard normativi.