Con la rapida crescita dell'intelligenza artificiale, siamo sempre più consapevoli che le immagini che vediamo o i testi che leggiamo online potrebbero non essere reali: in alcuni casi i fake sono così ben fatti che è difficile riconoscerli, e questo è un problema perché favorisce la diffusione di notizie o immagini false.
Tuttavia esiste un lato ancora più oscuro del "ritocco" digitale: il porno deepfake, ovvero l'elaborazione da parte di un algoritmo di immagini o video porno "finti", creati sulla base di immagini reali di utenti inconsapevoli, quasi sempre donne. Sophie Maddocks, esperta in abusi sessuali basati sulle immagini (quello che chiamiamo impropriamente revenge porn), spiega in un'intervista all'Università della Pennsylvania quali sono i rischi del porno deepfake.
Addestrati sulle donne. Il deepfake ha iniziato a prendere piede nel 2017, e già solo due anni dopo erano disponibili online già quasi 15.000 video generati dall'IA, il 96% dei quali era pornografico. Per creare contenuti porno, la tecnologia utilizza gli algoritmi di apprendimento profondo (in inglese deep learning) addestrati a rimuovere i vestiti dalle immagini delle donne, e rimpiazzarli con parti di corpi nudi. «Questi algortimi sarebbero in grado di spogliare anche gli uomini, ma vengono generalmente addestrati su corpi femminili», sottolinea Maddocks.
Senza permesso. Il principale problema del porno deepfake è che i contenuti vengono creati e condivisi quasi sempre senza il permesso dei protagonisti: chiunque può farlo, basta utilizzare uno dei molti siti disponibili online come Stable Diffusion. Quando non c'è consenso, il porno deepfake diventa un esempio di quello che chiamiamo impropriamente revenge porn ma che, spiega Maddocks, è più corretto definire "abuso sessuale basato sull'immagine".
Categorie a rischio. «Le donne appartenenti a minoranze, come adolescenti o single, rischiano maggiormente di soffrire di abusi sessuali basati sulle immagini», spiega Maddocks, che aggiunge alla lista «anche le persone LGBTQ, transessuali e i sex worker».
Mancano le leggi. Al momento il problema principale è che non esistono norme sul porno deepfake in quasi nessun Paese: nel Regno Unito è stata approvata una legge che ne regola la condivisione, ma non la creazione, mentre negli USA solo quattro Stati (New York, Virginia, Georgia e California) hanno delle leggi a riguardo. Esistono però alcune norme – anche in Italia − che riguardano l'abuso sessuale basato sull'immagine, ma sono sufficientemente ampie da includere anche il porno deepfake.
Mano a mano che la presenza dell'intelligenza artificiale si fa sempre più costante nella nostra vita quotidiana, è fondamentale che iniziamo a stabilire delle regole che ne limitino il raggio d'azione, per non correre il rischio di ritrovarci senza mezzi legali per punire chi viola dei diritti (come chi diffonde immagini porno fake online).
