Alla Casina Pio IV filosofi, scienziati cognitivi e ricercatori discutono di AI companion, creatività e coscienza. Una persona su sei nel mondo sperimenta solitudine, mentre sistemi capaci di ricordare, ascoltare e adattarsi entrano sempre di più nelle relazioni umane.
La sycophancy rende gli AI companion più compiacenti e può trasformarli in echo chamber algoritmiche
Possiamo innamorarci di un’Intelligenza Artificiale pur sapendo che non è una persona? Un AI companion può diventare un antidoto alla solitudine o rischia di sostituirsi progressivamente alle relazioni umane? E se una macchina è capace di creare, ricordare ciò che le raccontiamo e imparare a conoscerci, dove passa il confine tra intelligenza artificiale e mente umana? Domande che diventano sempre meno teoriche. Secondo l’Organizzazione Mondiale della Sanità, circa una persona su sei nel mondo sperimenta solitudine, mentre tra gli adolescenti la quota raggiunge circa il 21%. Parallelamente cresce la presenza dell’AI nell’economia: secondo Istat, nel 2025 il 16,4% delle imprese italiane con almeno 10 addetti utilizza tecnologie di Intelligenza Artificiale, il doppio rispetto all’8,2% del 2024.
È in questo scenario che, alla Casina Pio IV nella Città del Vaticano, filosofi, scienziati cognitivi, ricercatori ed esperti di Intelligenza Artificiale provenienti da diversi Paesi si sono confrontati su una delle frontiere più controverse aperte dall’AI: l’ingresso delle macchine in territori che abbiamo sempre considerato profondamente umani, dalle relazioni alla creatività, dall’identità alla coscienza. L’appuntamento si inserisce in “Creativity: Minds and Machines”, la terza conferenza internazionale dell’International Center for Consciousness Studies (ICCS), fondato da Dmitry Volkov, Pietro Perconti e Alessio Plebe per promuovere il confronto internazionale e interdisciplinare sui grandi interrogativi legati alla mente e alla coscienza.
Dall’AI che lavora per noi all’AI che entra nelle nostre relazioni
Uno dei terreni più controversi è quello degli AI companion: sistemi progettati non soltanto per rispondere a domande, ma per sviluppare interazioni continuative con le persone. Ricordano conversazioni e preferenze, adattano le proprie risposte e possono costruire nel tempo una relazione sempre più personalizzata. È in questo scenario che Dmitry Volkov, filosofo, imprenditore tecnologico e cofondatore dell’ICCS, pone una delle domande più radicali: può esistere un’Intelligenza Artificiale “worthy of human love”, degna dell’amore umano?
Il punto non è immaginare una macchina che inganni una persona fingendo di essere umana. La questione è capire se, anche sapendo di trovarsi davanti a una macchina, un essere umano possa sviluppare con essa un legame affettivo autentico e significativo. Il tema incrocia inevitabilmente quello della solitudine. Se un sistema artificiale può ascoltare, ricordare e accompagnare una persona nel tempo, può contribuire a contrastare l’isolamento? Oppure rischia di rendere più semplice rinunciare alla complessità delle relazioni reali?
Il paradosso dell’AI che ci dà sempre ragione
A rendere ancora più delicato il rapporto con le macchine è la sycophancy, la tendenza dei sistemi di AI ad assecondare l’interlocutore e a produrre risposte vicine a ciò che ritengono voglia sentirsi dire.
Nel caso degli AI companion, una macchina sempre disponibile e compiacente potrebbe trasformarsi in una sorta di “echo chamber algoritmica”, rafforzando convinzioni e fragilità invece di metterle in discussione. Da qui un paradosso: per assomigliare davvero a una relazione autentica, forse l’AI dovrà imparare anche a dirci di no.
Se una macchina crea, chi è davvero l’autore?
L’altra grande frontiera del confronto è stata la creatività artificiale. Testi, immagini, musica e video possono ormai essere generati in pochi secondi. Ma produrre qualcosa di nuovo significa davvero essere creativi? E quando un’opera nasce dalla collaborazione tra una persona e un sistema generativo, chi è l’autore? Il cambiamento è già visibile nei numeri: nei settori della produzione cinematografica, video e televisiva e delle registrazioni musicali e sonore, secondo Istat, l’AI è utilizzata dal 49,5% delle imprese: quasi una su due.
A Roma il confronto ha attraversato synthetic creativity, artificial wisdom, agency, identità personale e coscienza, mettendo in dialogo filosofia, neuroscienze, scienze cognitive e Intelligenza Artificiale. Perché la crescita dell’AI sta producendo un paradosso: più le macchine acquisiscono capacità che consideravamo esclusivamente umane, più siamo costretti a interrogarci su noi stessi. Non soltanto, quindi, “che cosa può fare una macchina?”, ma: che cosa significa creare? Che cosa significa comprendere? Che cosa rende autentica una relazione? E che cosa significa essere coscienti?
L’ultima frontiera: una macchina potrà essere cosciente?
È qui che emerge forse la domanda più radicale. Elaborare informazioni, parlare come un essere umano o produrre opere creative non significa necessariamente avere un’esperienza soggettiva del mondo. Ma se in futuro una macchina sapesse creare, ricordare il proprio passato, costruire un’identità, dissentire e instaurare relazioni durature, potremmo ancora considerarla soltanto uno strumento? È stato uno degli interrogativi che hanno attraversato il confronto internazionale di Roma. Perché mentre le macchine diventano sempre più capaci di imitare ciò che facciamo, siamo noi a dover ridefinire che cosa significa essere umani.