L'Ue contro X, la Commissione avvia una nuova indagine sui deepfake sessuali generati da Grok
L’indagine punta a verificare se X abbia rispettato gli obblighi previsti dal Digital Services Act (DSA) in materia di valutazione dei rischi
Bruxelles apre un’indagine contro X per i deepfake sessuali creati da Grok e sulle possibili violazioni delle norme europee
La Commissione Europea ha aperto una nuova indagine formale contro X, nell’ambito delle norme sui servizi digitali, ampliando il procedimento avviato nel 2023. L’obiettivo è verificare se la piattaforma abbia valutato e mitigato adeguatamente i rischi legati all’integrazione di Grok, in particolare la diffusione di contenuti sessualmente espliciti manipolati con l’intelligenza artificiale, i cosiddetti “deepfake”, inclusi quelli che potrebbero configurare abusi sessuali su minori.
“I deepfake sessuali non consensuali, sia di donne che di bambini, rappresentano una forma violenta e inaccettabile di degradazione”, ha dichiarato la vicepresidente della Commissione, Henna Virkkunen. "Con questa indagine, stabiliremo se X ha rispettato i propri obblighi giuridici ai sensi del Digital Service Act o se ha trattato i diritti dei cittadini europei, compresi quelli di donne e bambini, come danni collaterali del proprio servizio", aggiunge Virkkunen.
Le indagini
L’indagine punta a verificare se X abbia rispettato gli obblighi previsti dal Digital Services Act (DSA) in materia di valutazione e mitigazione dei rischi sistemici, inclusi quelli legati alla diffusione di contenuti illegali, agli effetti negativi della violenza di genere e alle possibili conseguenze sul benessere fisico e mentale derivanti dall’uso delle funzionalità di Grok sulla piattaforma. Bruxelles valuterà anche se l’azienda abbia realizzato e trasmesso alla Commissione una valutazione dei rischi ad hoc prima di lanciare funzionalità con un impatto significativo sul profilo di rischio del servizio.
Contestualmente, la Commissione ha ampliato il procedimento formale avviato nel dicembre 2023, per accertare se X abbia correttamente valutato e mitigato i rischi sistemici associati ai propri sistemi di raccomandazione, compreso il recente passaggio a un algoritmo basato su Grok. Eventuali carenze potrebbero configurare violazioni del DSA. Nel corso dell’istruttoria, la Commissione continuerà a raccogliere prove tramite richieste di informazioni, interviste e ispezioni, e potrà imporre misure provvisorie se il servizio non dovesse adeguarsi significativamente. Bruxelles potrà inoltre emettere una decisione di non conformità o accettare eventuali impegni correttivi proposti da X. Con l’apertura del procedimento, le autorità nazionali degli Stati membri vengono sollevate dalla vigilanza sulle presunte violazioni.
La nuova indagine si inserisce nel quadro del procedimento iniziato il 18 dicembre 2023 su X, che riguarda il funzionamento del meccanismo di notifica e rimozione dei contenuti, le misure contro i contenuti illegali e i rischi legati ai sistemi di raccomandazione. Per altre violazioni, tra cui design ingannevole, scarsa trasparenza pubblicitaria e accesso limitato ai dati per i ricercatori, la Commissione aveva già adottato il 5 dicembre 2025 una decisione di non conformità, infliggendo a X una sanzione di 120 milioni di euro.