Ue, nuova indagine su X per i deepfake sessuali: introdotte restrizioni sull’uso di Grok

La Commissione europea ha avviato una nuova indagine nei confronti di X per verificare se la piattaforma abbia correttamente valutato e mitigato i rischi legati all’integrazione di Grok, il sistema di intelligenza artificiale sviluppato dalla società. Al centro dell’attenzione vi è la diffusione di immagini sessualmente esplicite manipolate tramite IA, i cosiddetti deepfake sessuali, un fenomeno che solleva gravi preoccupazioni in termini di tutela dei diritti fondamentali.

L’indagine mira a stabilire se X abbia rispettato gli obblighi previsti dal Digital Services Act (Dsa), la normativa europea che impone alle grandi piattaforme digitali di prevenire e gestire i rischi sistemici derivanti dai propri servizi. In particolare, l’Unione europea intende valutare se siano state adeguatamente protette le persone più vulnerabili, come donne e minori.

“Stabiliremo se X ha rispettato i propri obblighi giuridici ai sensi del Digital Services Act o se ha trattato i diritti dei cittadini europei, compresi quelli di donne e bambini, come danni collaterali del proprio servizio”, ha dichiarato in una nota Henna Virkkunen, vicepresidente della Commissione europea.

A fine gennaio, in risposta alle crescenti pressioni da parte di governi e istituzioni internazionali, X ha annunciato un cambio di rotta introducendo nuove restrizioni. Le misure impediscono agli utenti di modificare o generare immagini sessualizzate di persone reali attraverso Grok, nel tentativo di arginare l’uso improprio dell’intelligenza artificiale.

Il caso rappresenta un nuovo banco di prova per l’applicazione del Digital Services Act e per il ruolo dell’Unione europea nella regolamentazione delle tecnologie emergenti, sempre più centrali nel dibattito su sicurezza, diritti digitali e responsabilità delle piattaforme.