Innovazione

Deep fake: come distinguerli in un battito di ciglia

Un nuovo metodo permette di smascherare la maggior parte dei video fasulli generati con l'intelligenza artificiale sfruttando una loro (per ora irrisolta) debolezza: l'assenza di occhi chiusi.

L'ultima frontiera della disinformazione virale sfrutta le potenzialità dell'intelligenza artificiale per far muovere e parlare personaggi famosi con i volti, le espressioni e le parole di altri: il deep fake, ossia la sostituzione delle facce, o di alcuni elementi del viso dei protagonisti, grazie a software estremamente avanzati, garantiscono oggi risultati realistici.

Per ora la tecnica è stata sfruttata soprattutto nella satira e nel mondo del cinema hard, ma l'ombra di filmati-bufala con personaggi politici lanciati in dichiarazioni mai fatte pesa (per esempio) sulle prossime elezioni di medio termine americane. Un gruppo di ricercatori dell'Università di Albany, New York, sembra però avere identificato un tallone d'Achille del meccanismo.

Deep fake: come funziona? Come spiegato su The Conversation, i video deep fake sfruttano un sistema di reti neurali profonde (cioè adibite al deep learning, l'apprendimento automatico basato su diversi livelli di rappresentazione) per studiare i movimenti facciali di una persona e sintetizzare immagini del volto di un'altra persona facendole assumere espressioni analoghe.

Per queste operazioni serve un ampio database di fotografie di entrambi i volti: maggiore è il numero di immagini usate per "istruire" un deep fake, tanto più realistico risulterà il video finito. E qui casca l'asino.

Le foto che nessuno vuole. Nella realtà, gli esseri umani sbattono gli occhi ogni 2-10 secondi, e ogni battito di ciglia richiede tra un decimo e quattro decimi di secondo. Difficilmente, però, si trovano in Rete foto di persone con gli occhi chiusi: un po' perché trascorriamo la maggior parte del tempo con gli occhi aperti, e un po' perché raramente un fotografo pubblica ritratti ad occhi chiusi in un servizio.

Fissità sospetta. Le reti neurali dei video deep fake hanno quindi poco materiale da cui attingere: il risultato è che raramente nei video deep fake vedrete il protagonista sbattere gli occhi. Siwei Lyu, direttore del laboratorio di Visione artificiale e Machine Learning dell'Università di Albany, ha sviluppato con i colleghi algoritmi in grado di identificare automaticamente e con precisione la posizione degli occhi nei video, e tener traccia di ogni battito di ciglia.

Nei due filmati qui sotto: 1) una persona "autentica" sbatte gli occhi mentre parla; 2) in un video deep fake non si vedono battiti di ciglia.

Pronto a tutto. Per evitare che il sistema cadesse nello stesso tranello delle reti neurali "nemiche", è stato istruito su una vasta libreria di foto di persone sia con gli occhi chiusi, sia aperti. La tecnica sembra funzionare e il team riesce ora a distinguere i video deep fake nel 95% dei casi.

Battaglia aperta. Si tratta tuttavia di una vittoria temporanea. Come ricordano i ricercatori, la tecnologia per produrre questi filmati è in continua evoluzione: i malintenzionati potrebbero per esempio recuperare frame di soggetti con occhi chiusi dai video usati per istruire le reti neurali, e aggirare così la falla temporanea. A ogni mossa segue una contromossa, come in una partita a scacchi.

4 settembre 2018 Elisabetta Intini
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Nel nuovo numero di Focus Storia, in occasione delle elezioni presidenziali americane, esploriamo l'affascinante e complesso mondo della politica statunitense. Ci poniamo domande sul sistema elettorale, le sue radici storiche e i paradossi che lo caratterizzano, come la possibilità che un candidato vinca con meno voti popolari. L’articolo "Dentro il sistema" fa luce su questi meccanismi, mentre "Scenario complesso" racconta una delle tornate elettorali più particolari di 200 anni fa.

In "Risultati controversi" analizziamo le elezioni più contestate della storia americana, e con "Tattiche e strategie elettorali" esploriamo come le campagne presidenziali si sono evolute con l'arrivo di nuove tecnologie, dall’epoca della radio a quella dell’intelligenza artificiale.

Concludiamo con una visita virtuale alla Casa Bianca, simbolo della presidenza americana, e l’articolo "Presidenti nei guai", che svela i problemi legali in cui sono incappati alcuni dei leader più noti degli Stati Uniti.

ABBONATI A 29,90€

In questo numero di Focus ci immergiamo in un affascinante mix di scienza, tecnologia e curiosità, esplorando innovazioni che plasmeranno il nostro futuro.

Il dossier sulle neurotecnologie è il cuore di questa edizione, con articoli che affrontano la possibilità di controllare dispositivi elettronici con la mente in "L’alba del cervello cibernetico", le nuove opportunità economiche in "Neurobusiness", e le implicazioni etiche in "I diritti del nostro cervello".

Tra gli altri temi, troviamo una nuova generazione di protesi intelligenti sempre più sofisticate, e celebriamo i 50 anni dal famoso messaggio di Arecibo con "Pronto alieni?". Inoltre, scopriamo l’impatto della noia sul comportamento umano in "Se non ci fosse la noia" e il fenomeno globale dei manga in "Mangamania".

 

ABBONATI A 31,90€
Follow us