Digital Life

Porno deepfake: cos’è e quali sono i rischi

Il porno deepfake è sempre più diffuso online, e spesso viene creato e condiviso senza il consenso dei protagonisti di immagini e video: cos'è precisamente e quali rischi comporta?

Con la rapida crescita dell'intelligenza artificiale, siamo sempre più consapevoli che le immagini che vediamo o i testi che leggiamo online potrebbero non essere reali: in alcuni casi i fake sono così ben fatti che è difficile riconoscerli, e questo è un problema perché favorisce la diffusione di notizie o immagini false.

Tuttavia esiste un lato ancora più oscuro del "ritocco" digitale: il porno deepfake, ovvero l'elaborazione da parte di un algoritmo di immagini o video porno "finti", creati sulla base di immagini reali di utenti inconsapevoli, quasi sempre donne. Sophie Maddocks, esperta in abusi sessuali basati sulle immagini (quello che chiamiamo impropriamente revenge porn), spiega in un'intervista all'Università della Pennsylvania quali sono i rischi del porno deepfake.

Addestrati sulle donne. Il deepfake ha iniziato a prendere piede nel 2017, e già solo due anni dopo erano disponibili online già quasi 15.000 video generati dall'IA, il 96% dei quali era pornografico. Per creare contenuti porno, la tecnologia utilizza gli algoritmi di apprendimento profondo (in inglese deep learning) addestrati a rimuovere i vestiti dalle immagini delle donne, e rimpiazzarli con parti di corpi nudi. «Questi algortimi sarebbero in grado di spogliare anche gli uomini, ma vengono generalmente addestrati su corpi femminili», sottolinea Maddocks.

Senza permesso. Il principale problema del porno deepfake è che i contenuti vengono creati e condivisi quasi sempre senza il permesso dei protagonisti: chiunque può farlo, basta utilizzare uno dei molti siti disponibili online come Stable Diffusion. Quando non c'è consenso, il porno deepfake diventa un esempio di quello che chiamiamo impropriamente revenge porn ma che, spiega Maddocks, è più corretto definire "abuso sessuale basato sull'immagine".

Categorie a rischio. «Le donne appartenenti a minoranze, come adolescenti o single, rischiano maggiormente di soffrire di abusi sessuali basati sulle immagini», spiega Maddocks, che aggiunge alla lista «anche le persone LGBTQ, transessuali e i sex worker».

Mancano le leggi. Al momento il problema principale è che non esistono norme sul porno deepfake in quasi nessun Paese: nel Regno Unito è stata approvata una legge che ne regola la condivisione, ma non la creazione, mentre negli USA solo quattro Stati (New York, Virginia, Georgia e California) hanno delle leggi a riguardo. Esistono però alcune norme – anche in Italia − che riguardano l'abuso sessuale basato sull'immagine, ma sono sufficientemente ampie da includere anche il porno deepfake.

Mano a mano che la presenza dell'intelligenza artificiale si fa sempre più costante nella nostra vita quotidiana, è fondamentale che iniziamo a stabilire delle regole che ne limitino il raggio d'azione, per non correre il rischio di ritrovarci senza mezzi legali per punire chi viola dei diritti (come chi diffonde immagini porno fake online).

22 agosto 2023 Chiara Guzzonato
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

L’incredibile vita di Guglielmo Marconi, lo scienziato-imprenditore al quale dobbiamo Gps, Wi-Fi, Internet, telefonia mobile… Per i 150 anni della sua nascita, lo ricordiamo seguendolo nelle sue invenzioni ma anche attraverso i ricordi dei suoi eredi. E ancora: come ci si separava quando non c’era il divorzio; il massacro dei Tutsi da parte degli Hutu nel 1994; Marco De Paolis, il magistrato che per 15 anni ha indagato sui crimini dei nazisti; tutte le volte che le monarchie si sono salvate grazie alla reggenza.

ABBONATI A 29,90€

Nutritivo, dinamico, protettivo: il latte materno è un alimento speciale. E non solo quello umano. Molti mammiferi producono latte, con caratteristiche nutrizionali e di digeribilità diverse. Ma qual è il percorso evolutivo che ha portato alla caratteristica più "mammifera" di tutte? Inoltre, ICub è stato testato per interagire con bambini autistici; quali sono i rimedi tecnologi allo studio per disinnescare il pericolo di alluvioni; all’Irbim di Messina si studia come ripulire il mare dagli idrocarburi; la ricerca delle velocità più estreme per raggiungere lo spazio e per colpire in guerra; il cinguettio degli uccelli e ai suoi molteplici significati.

ABBONATI A 31,90€
Follow us