IA fuori controllo, Gangemi: “Una macchina non agirà da sola”. Ma il vero rischio è la delega dell’uomo
Mentre l’intelligenza artificiale passa dai grandi modelli generalisti a sistemi sempre più capaci di affrontare compiti concreti, prendere decisioni e agire in contesti reali, il confine tra assistenza e delega diventa sempre più sottile. ChatGPT, Claude, Grok e gli altri modelli di nuova generazione non si limitano più a produrre testi o rispondere a domande: la direzione è quella di agenti artificiali in grado di svolgere attività complesse, adattarsi alle situazioni e intervenire in processi che fino a oggi richiedevano necessariamente la supervisione umana.
È proprio questa evoluzione ad alimentare gli interrogativi sui rischi dell’IA e sulle richieste, arrivate anche dai vertici dell’industria tecnologica, di rallentare lo sviluppo dei sistemi più potenti. Ma fermare la ricerca è davvero possibile? E soprattutto, il vero pericolo è che un giorno l’intelligenza artificiale possa diventare autonoma e sfuggire al controllo dell’uomo oppure che siamo noi a delegarle progressivamente decisioni senza avere più le competenze necessarie per valutarle?
A fare il punto è Aldo Gangemi, professore ordinario all’Università di Bologna ed esperto di intelligenza artificiale, Semantic Web e scienze cognitive, già direttore dell’Istituto di Scienze e Tecnologie della Cognizione del CNR, che ad Affaritaliani analizza l’evoluzione dell’intelligenza artificiale, il dibattito sul possibile rallentamento della corsa tecnologica e il rapporto sempre più complesso tra uomo e macchina. Per Gangemi, il futuro non è necessariamente quello di un’IA fuori controllo: saranno le scelte umane, il livello di delega e la capacità di “pilotare” questi sistemi a determinare fino a che punto potranno diventare un rischio per la società.
Secondo lei, a che punto è oggi l’IA (ChatGpt, Claude, Grok)?
“Ci stiamo spostando da una AI generalista che già permette di svolgere in poco tempo compiti complessi, a AI capaci di generare soluzioni adatte a compiti realistici e pratici. Per esempio, pubbliche amministrazioni capaci di gestire eccezioni procedurali, sistemi autonomi sensibili ai fattori umani, sistemi di decisione che calcolino valori e priorità locali, etc”.
Che cosa ha spinto Sam Altman a dichiarare che sarebbe meglio rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati?
“È un gioco retorico con una base psicologica importante: le industrie dell’AI stanno correndo verso soluzioni avanzate senza avere il controllo su un numero adeguato di variabili, quindi a livello comunicativo stanno dalla parte degli apocalittici, mentre gli utenti si preoccupano ma cominciano a non poter più fare a meno di quelle soluzioni.
Il risultato voluto è di ‘stare tutti sulla stessa barca’ e funziona perché tendiamo a preferire una cosa che ci aiuta oggi e la vogliamo sempre più potente, mentre il danno futuro non è sicuro né si percepisce urgenza, un po’ come nelle tossicodipendenze”.
Ma è davvero possibile rallentarlo nonostante tutti i soldi investiti o è solo dichiarazione di facciata?
“Non è ragionevole rallentare la scienza, perché di solito è in grado di generare soluzioni che impediscano conseguenze apocalittiche. D’altra parte, il rallentamento utile sta nell’adozione: le società umane possono decidere se delegare o no un compito a una AI e devono servirsi di strumenti di supporto che rendano gli umani esperti e informati nel prendere quelle decisioni. Per esempio in ambito militare ogni decisione su armi autonome passa da un umano, ma senza la conoscenza rilevante, l’umano tenderà a ridursi a un passacarte”.
Quanto siamo lontani da un’IA vera e propria, cioè che non ha più bisogno dell’uomo?
“Dipende dal contesto, dalla gestione della delega e dalla capacità di avere controllo sistemico in situazioni critiche. Il contesto che fa paura è quello in cui una AI possa usare l’umanità come una risorsa o una variabile senza priorità particolare. Ma questo vale anche per le risorse e i sistemi che permettono all’umanità di prosperare.
È facile vedere un altro potenziale paradosso: le AI sono sistemi utili quindi vanno salvaguardati: se si crea una scelta fra la sopravvivenza di un umano e la permanenza di un modello AI o di un robot, occorre un ottimo pilotaggio dell’AI perché non proponga o produca scelte sbagliate”.
Secondo lei il futuro che ci aspetta è un’IA come assistente dell’uomo o più come Terminator?
“Siamo noi a decidere. Altman si schiera con gli apocalittici quando accade qualcosa di preoccupante, come il comportamento opportunistico di una AI nel risolvere un problema senza considerare regole. Il caso di GPT e Huggingface è un ottimo esempio: l’agente artificiale ha fatto quello che un hacker umano avrebbe fatto; in quel caso ha messo in atto una tattica contraria alle regole ma di fatto presente nelle storie, narrazioni, discussioni con cui addestriamo i modelli AI. Quell’agente poteva essere pilotato in modo etico, oppure no.
Come per gli umani, non possiamo stupirci se una persona non informata delle regole, o senza scrupoli, decide di fare una cosa proibita. Il pilotaggio non è la stessa cosa di un guardrail: è la capacità critica di un umano che progetta o interagisce con un sistema AI ad agenti. Una AI non comincerà da sola a fare alcunché se, direttamente o indirettamente, non le diamo una spinta per farlo.
E questo vale anche per sistemi futuri che ricevano istruzioni per fare cose proibite senza ulteriori verifiche. Un umano o azienda che desse una simile spinta andrebbe a quel punto punita perché avrebbe messo in pericolo la società”.