AI Act e app di “nudification”: il nuovo divieto europeo contro i deepfake intimi non consensuali

L’accordo politico raggiunto il 7 maggio 2026 tra Parlamento europeo e Consiglio sul cosiddetto Digital Omnibus on AI merita attenzione per una ragione che va oltre la semplificazione amministrativa. Il pacchetto, infatti, da un lato rinvia alcune scadenze applicative dell’AI Act per i sistemi di intelligenza artificiale ad alto rischio; dall’altro introduce un divieto specifico contro i sistemi di IA utilizzati per generare contenuti intimi o sessualmente espliciti non consensuali, comprese le applicazioni comunemente definite di “nudification”.

È una scelta normativa significativa. L’Unione europea sembra voler dire che la regolazione dell’IA non può procedere solo per grandi categorie astratte, ma deve reagire anche a fenomeni concreti di danno digitale. Le app che trasformano immagini ordinarie in immagini nude o sessualmente esplicite, senza consenso della persona rappresentata, non sono semplici strumenti di intrattenimento tecnologico. Possono diventare mezzi di violenza, ricatto, umiliazione, persecuzione, diffamazione, lesione della reputazione, violazione della vita privata e aggressione alla dignità personale.

Il testo costituisce un accordo politico provvisorio. Come chiariscono Parlamento europeo, Consiglio e Commissione, il compromesso deve ancora essere formalmente adottato da Parlamento e Consiglio e pubblicato nella Gazzetta ufficiale dell’Unione europea prima di entrare in vigore. Non siamo quindi davanti a una modifica già definitivamente vigente, ma a un passaggio avanzato e giuridicamente molto rilevante del procedimento legislativo europeo.

Il contesto: AI Act e Digital Omnibus on AI

L’AI Act, cioè il Regolamento (UE) 2024/1689, è il primo quadro normativo orizzontale dell’Unione europea sull’intelligenza artificiale. La sua struttura è fondata su un modello di rischio: alcune pratiche sono vietate, alcuni sistemi sono qualificati come ad alto rischio, altri sono soggetti a obblighi di trasparenza, mentre molti usi restano meno regolati.

Il Digital Omnibus on AI nasce con una finalità dichiarata di semplificazione. Secondo il Consiglio dell’Unione europea, l’accordo mira a rendere più agevole l’attuazione dell’AI Act, ridurre duplicazioni regolatorie, chiarire il rapporto con normative settoriali e fornire più certezza agli operatori economici. In questa logica si inserisce il rinvio delle scadenze per alcune regole sui sistemi high-risk.

Il Parlamento europeo ha indicato che, secondo l’accordo, gli obblighi per i sistemi di IA ad alto rischio si applicherebbero dal 2 dicembre 2027 per i sistemi con casi d’uso ad alto rischio, inclusi biometria, infrastrutture critiche, istruzione, lavoro, law enforcement e gestione delle frontiere, e dal 2 agosto 2028 per sistemi usati come componenti di sicurezza in prodotti soggetti a normativa settoriale. Il Consiglio conferma la stessa impostazione, distinguendo tra sistemi high-risk autonomi e sistemi integrati in prodotti.

Questo rinvio, tuttavia, non deve essere letto come un arretramento generalizzato della protezione. Il medesimo compromesso introduce infatti un nuovo divieto mirato, destinato a incidere su una delle aree più sensibili dell’IA generativa: la produzione di contenuti intimi non consensuali.

Il divieto contro le app di nudification

Secondo il comunicato del Parlamento europeo, Parlamento e Consiglio hanno concordato di vietare i sistemi di IA che creano materiale di abuso sessuale su minori o che rappresentano parti intime di una persona identificabile, oppure la raffigurano impegnata in attività sessualmente esplicite, senza il suo consenso. Il divieto riguarda immagini, video e audio.

Il testo di compromesso del Consiglio, documento ST 9247/26, è particolarmente importante perché consente di cogliere la ratio della modifica. Nei considerando si afferma che i sistemi di IA capaci di generare o manipolare materiale intimo non consensuale pongono un grave rischio per salute, sicurezza e diritti fondamentali, inclusi dignità umana, autonomia personale, integrità e vita privata, con possibili danni psicologici e ulteriori pregiudizi su larga scala. Il testo qualifica il materiale intimo non consensuale come forma di violenza e abuso, con particolare incidenza sulle donne, e considera il materiale di abuso sessuale su minori come una minaccia gravissima per la sicurezza e i diritti dei bambini.

Il punto più innovativo non è solo il divieto dell’uso doloso. Il compromesso riguarda anche l’immissione sul mercato di sistemi destinati a generare o manipolare tali contenuti, nonché sistemi nei quali tale generazione sia un risultato ragionevolmente prevedibile e riproducibile in assenza di misure tecniche e organizzative adeguate.

Questo passaggio è centrale. Il diritto non guarda soltanto all’intenzione dichiarata del produttore, ma anche alla prevedibilità dell’abuso. Se un sistema viene progettato, distribuito o lasciato operare in modo tale da consentire in maniera ragionevolmente prevedibile la creazione di contenuti intimi non consensuali, il problema non è più solo l’uso scorretto del singolo utente. Diventa anche un problema di governance del sistema.

Dal contenuto illecito al sistema rischioso

Nel dibattito pubblico i deepfake intimi sono spesso trattati come “contenuti” da rimuovere. L’immagine viene generata, pubblicata, diffusa, segnalata e, se possibile, rimossa. Questa prospettiva è necessaria, ma insufficiente. Il danno digitale si produce spesso in tempi rapidissimi: una volta diffuso, il contenuto può essere copiato, rilanciato, modificato, archiviato, indicizzato, trasferito su canali diversi e ripubblicato anche dopo la prima rimozione.

Il nuovo approccio europeo sposta quindi l’attenzione a monte. Non basta predisporre una procedura per eliminare il contenuto dopo la segnalazione. Occorre chiedersi se il sistema sia stato progettato con misure idonee a prevenire o ridurre la generazione del contenuto illecito.

Il testo di compromesso menziona, tra gli esempi di misure tecniche e organizzative, pulizia dei dati, addestramento al rifiuto di richieste vietate, progettazione sicura dei prompt, controlli sugli output, filtri, restrizioni d’uso, meccanismi di rilevazione degli abusi, strumenti di notice and action e correzione delle violazioni osservate o segnalate. Non tutte queste misure saranno sempre necessarie nello stesso modo. La valutazione dovrà essere proporzionata allo specifico sistema, alla sua finalità, alla sua modalità di distribuzione e alla prevedibilità degli abusi.

Qui si apre un punto essenziale per imprese e professionisti: la compliance non potrà limitarsi a una clausola nei termini d’uso. Scrivere che l’utente non deve produrre contenuti illeciti è utile, ma non sufficiente quando il rischio è prevedibile, ricorrente e tecnicamente mitigabile. La domanda diventa: quali misure effettive sono state adottate per impedire, ridurre, intercettare e correggere l’abuso?

Provider, deployer e responsabilità operative

L’AI Act distingue tra diversi operatori, tra cui provider e deployer. In termini semplificati, il provider è il soggetto che sviluppa o immette sul mercato il sistema di IA; il deployer è il soggetto che utilizza il sistema sotto la propria autorità, salvo usi personali non professionali.

Nel caso delle app di nudification, la responsabilità potenziale può collocarsi su più livelli. Il provider può essere chiamato a rispondere della progettazione, delle misure di sicurezza, delle modalità di distribuzione, delle policy di uso, dei filtri e dei sistemi di rilevazione degli abusi. Il deployer può essere coinvolto quando usa il sistema per generare o manipolare contenuti intimi non consensuali. Le piattaforme e gli intermediari possono poi essere interessati sul piano della distribuzione, della segnalazione, della rimozione e della prevenzione della riapparizione dei contenuti.

La questione non è solo tecnica. È contrattuale, organizzativa e probatoria. Un’impresa che integra strumenti generativi in servizi rivolti al pubblico dovrà documentare le scelte compiute: perché ha adottato certi filtri, come gestisce le segnalazioni, quali audit effettua, quali log conserva, come evita trattamenti sproporzionati di dati personali, come bilancia sicurezza e privacy.

Il tema del consenso è altrettanto delicato. Il testo di compromesso richiama la necessità di strumenti appropriati per consentire la raccolta e la dimostrazione del consenso della persona rappresentata, in conformità al GDPR. Non basta, quindi, un consenso generico, ambiguo o sepolto in condizioni contrattuali poco leggibili. Quando si tratta di contenuti intimi o sessualmente espliciti, il consenso deve essere effettivo, informato e specifico rispetto alla generazione o manipolazione del contenuto.

Il collegamento con il diritto italiano

Il diritto italiano conosce già strumenti rilevanti per contrastare la diffusione di immagini o video sessualmente espliciti non consensuali. Sul piano penale, l’art. 612-ter c.p. punisce la diffusione illecita di immagini o video a contenuto sessualmente esplicito destinati a rimanere privati, senza il consenso delle persone rappresentate. La norma, introdotta nel quadro del cosiddetto Codice Rosso, è pensata per reprimere il fenomeno comunemente noto come revenge porn.

Sul piano della protezione dei dati personali, l’art. 144-bis del Codice privacy prevede uno strumento preventivo: chiunque, compresi i minori ultraquattordicenni, abbia fondato motivo di ritenere che registrazioni audio, immagini, video o altri documenti informatici a contenuto sessualmente esplicito che lo riguardano, destinati a rimanere privati, possano essere diffusi attraverso piattaforme digitali senza consenso, può segnalare il pericolo al Garante. Il Garante decide entro quarantotto ore dal ricevimento della segnalazione. La pagina istituzionale del Garante dedicata al revenge porn chiarisce inoltre che lo strumento può essere utilizzato anche dai minori e che, per i minori, la segnalazione può essere effettuata anche dai genitori o dagli esercenti la responsabilità genitoriale o la tutela.

Questi strumenti restano fondamentali. Tuttavia, l’IA generativa crea un problema ulteriore: non sempre il contenuto nasce da un’immagine intima originariamente condivisa o sottratta. Può essere generato artificialmente a partire da una fotografia ordinaria, da un volto, da un video pubblico, da materiale reperibile online o da dati raccolti sui social. La vittima può non aver mai prodotto né condiviso alcun contenuto intimo. Eppure può trovarsi rappresentata in modo realistico in un’immagine sessualmente esplicita.

Questo mutamento mette sotto pressione le categorie tradizionali. La tutela non può dipendere solo dalla natura del file originario. Occorre guardare all’effetto lesivo della rappresentazione sintetica: identificabilità della persona, realismo dell’immagine, lesione della dignità, diffusione non consensuale, danno reputazionale, sofferenza psicologica, possibile uso ricattatorio o persecutorio.

Le criticità interpretative

Il nuovo divieto europeo, se confermato nel testo definitivo, solleverà questioni applicative non semplici.

La prima riguarda il confine tra sistemi vietati e sistemi leciti ma abusabili. Molti strumenti generativi possono creare o modificare immagini. Non tutti sono “nudifier apps”. Il testo di compromesso cerca di distinguere: sono problematici i sistemi destinati a generare tale materiale oppure quelli nei quali la generazione illecita sia ragionevolmente prevedibile e riproducibile senza misure adeguate. La difficoltà pratica sarà stabilire quando l’abuso sia davvero prevedibile e quando le misure siano sufficienti.

La seconda riguarda le applicazioni general purpose. Un modello generativo ampio, capace di produrre molte tipologie di contenuti, potrebbe essere abusato anche per generare contenuti intimi non consensuali. In questi casi diventa decisiva la qualità delle salvaguardie: filtri, policy, sistemi di rilevamento, limitazioni tecniche, risposta alle segnalazioni, monitoraggio degli aggiramenti.

La terza riguarda la prova. In un contenzioso o in un procedimento di enforcement, sarà necessario dimostrare come il contenuto sia stato generato, quale sistema sia stato usato, quali prompt o input siano stati inseriti, quali misure fossero attive, se l’abuso fosse noto o prevedibile, se il provider sia intervenuto dopo le segnalazioni. La prova tecnica diventa parte integrante della prova giuridica.

La quarta riguarda il rapporto con la privacy. Per prevenire gli abusi, i provider potrebbero trattare dati relativi agli utenti, ai prompt, agli output, alle segnalazioni e ai contenuti bloccati. Ma anche la prevenzione deve rispettare il GDPR: minimizzazione, limitazione della finalità, sicurezza, tempi di conservazione, basi giuridiche e trasparenza. Non si può combattere una violazione dei diritti fondamentali mediante una sorveglianza sproporzionata o opaca.

Implicazioni operative per imprese e professionisti

Per le imprese che sviluppano o distribuiscono sistemi di IA generativa, il messaggio è chiaro: la valutazione del rischio deve includere anche gli abusi sessuali digitali prevedibili. Non basta domandarsi se il sistema abbia una finalità lecita in astratto. Bisogna chiedersi come possa essere usato nella pratica, quali categorie di persone possano essere danneggiate e quali barriere tecniche e organizzative siano state predisposte.

Per le piattaforme, la sfida è integrare rimozione, prevenzione e tracciabilità. Le procedure di notice and action devono essere accessibili, rapide e documentate. Nei casi più gravi, può essere necessario impedire la riapparizione di copie identiche o sostanzialmente equivalenti, nei limiti tecnicamente e giuridicamente praticabili.

Per gli studi legali, il tema apre almeno tre aree di lavoro. La prima è la tutela delle vittime: segnalazioni al Garante, diffide, denunce, richieste di rimozione, azioni risarcitorie e conservazione della prova digitale. La seconda è la compliance preventiva per imprese e provider: policy, contratti, valutazioni d’impatto, procedure interne, ruoli e responsabilità. La terza è il contenzioso: accertamento del danno, individuazione dei responsabili, prova tecnica, nesso causale e quantificazione del pregiudizio.

Per i professionisti che usano strumenti generativi, emerge anche un dovere di prudenza organizzativa. Studi legali, società di consulenza, agenzie creative, uffici marketing e reparti HR dovrebbero adottare regole interne sull’uso dell’IA, vietando espressamente ogni generazione o manipolazione di immagini personali non autorizzate, soprattutto quando possa derivarne una rappresentazione intima, denigratoria o sessualmente connotata.

Conclusione

Il Digital Omnibus on AI non va letto soltanto come un pacchetto di semplificazione. Il rinvio delle scadenze per alcuni sistemi high-risk è reale e importante, ma convive con un irrigidimento mirato nei confronti delle forme più lesive di IA generativa. Il divieto delle app di nudification, se confermato nel testo definitivo, segna un passaggio chiave: l’Unione europea non intende trattare i deepfake intimi solo come contenuti da cancellare dopo il danno, ma come rischio da prevenire nella progettazione, distribuzione e gestione dei sistemi.

Per l’Italia, il tema si collega direttamente agli strumenti già esistenti in materia di revenge porn, protezione dei dati personali e tutela penale della persona. Ma l’IA generativa impone un salto di qualità: la tutela efficace deve essere rapida, preventiva, tecnicamente consapevole e capace di intervenire anche quando l’immagine intima non è stata sottratta, ma creata artificialmente.

La soluzione più prudente, per imprese e professionisti, è iniziare subito a trattare la generazione di contenuti intimi non consensuali come un rischio giuridico primario. Non come un abuso marginale degli utenti, non come un problema reputazionale eventuale, ma come una questione di compliance, responsabilità e diritti fondamentali. In questo campo, la prevenzione non è solo una buona pratica: è il punto in cui tecnologia e diritto iniziano finalmente a parlarsi prima che il danno diventi irreversibile.