Innovazione

Deep fake: come distinguerli in un battito di ciglia

Un nuovo metodo permette di smascherare la maggior parte dei video fasulli generati con l'intelligenza artificiale sfruttando una loro (per ora irrisolta) debolezza: l'assenza di occhi chiusi.

L'ultima frontiera della disinformazione virale sfrutta le potenzialità dell'intelligenza artificiale per far muovere e parlare personaggi famosi con i volti, le espressioni e le parole di altri: il deep fake, ossia la sostituzione delle facce, o di alcuni elementi del viso dei protagonisti, grazie a software estremamente avanzati, garantiscono oggi risultati realistici.

Per ora la tecnica è stata sfruttata soprattutto nella satira e nel mondo del cinema hard, ma l'ombra di filmati-bufala con personaggi politici lanciati in dichiarazioni mai fatte pesa (per esempio) sulle prossime elezioni di medio termine americane. Un gruppo di ricercatori dell'Università di Albany, New York, sembra però avere identificato un tallone d'Achille del meccanismo.

Deep fake: come funziona? Come spiegato su The Conversation, i video deep fake sfruttano un sistema di reti neurali profonde (cioè adibite al deep learning, l'apprendimento automatico basato su diversi livelli di rappresentazione) per studiare i movimenti facciali di una persona e sintetizzare immagini del volto di un'altra persona facendole assumere espressioni analoghe.

Per queste operazioni serve un ampio database di fotografie di entrambi i volti: maggiore è il numero di immagini usate per "istruire" un deep fake, tanto più realistico risulterà il video finito. E qui casca l'asino.

Le foto che nessuno vuole. Nella realtà, gli esseri umani sbattono gli occhi ogni 2-10 secondi, e ogni battito di ciglia richiede tra un decimo e quattro decimi di secondo. Difficilmente, però, si trovano in Rete foto di persone con gli occhi chiusi: un po' perché trascorriamo la maggior parte del tempo con gli occhi aperti, e un po' perché raramente un fotografo pubblica ritratti ad occhi chiusi in un servizio.

Fissità sospetta. Le reti neurali dei video deep fake hanno quindi poco materiale da cui attingere: il risultato è che raramente nei video deep fake vedrete il protagonista sbattere gli occhi. Siwei Lyu, direttore del laboratorio di Visione artificiale e Machine Learning dell'Università di Albany, ha sviluppato con i colleghi algoritmi in grado di identificare automaticamente e con precisione la posizione degli occhi nei video, e tener traccia di ogni battito di ciglia.

Nei due filmati qui sotto: 1) una persona "autentica" sbatte gli occhi mentre parla; 2) in un video deep fake non si vedono battiti di ciglia.

Pronto a tutto. Per evitare che il sistema cadesse nello stesso tranello delle reti neurali "nemiche", è stato istruito su una vasta libreria di foto di persone sia con gli occhi chiusi, sia aperti. La tecnica sembra funzionare e il team riesce ora a distinguere i video deep fake nel 95% dei casi.

Battaglia aperta. Si tratta tuttavia di una vittoria temporanea. Come ricordano i ricercatori, la tecnologia per produrre questi filmati è in continua evoluzione: i malintenzionati potrebbero per esempio recuperare frame di soggetti con occhi chiusi dai video usati per istruire le reti neurali, e aggirare così la falla temporanea. A ogni mossa segue una contromossa, come in una partita a scacchi.

4 settembre 2018 Elisabetta Intini
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

ll ritratto, le scoperte, il viaggio sul brigantino Beagle di Charles Darwin, il grande naturalista che riscrisse le leggi della vita e sfidò il pensiero scientifico e religioso del suo tempo. E ancora: la mappa delle isole linguistiche in Italia, per capire dove e perché si parla cimbro, occitano, grecanico o albanese; niente abiti preziosi, gioielli e feste: quando l'ostentazione del lusso era vietata; ritorno a Tientsin, un angolo di Cina “made in Italy”.

ABBONATI A 29,90€

La scienza sta già studiando il futuro di chi abiterà il nostro Pianeta. Le basi lunari e marziane saranno il primo step per poi puntare a viaggi verso stelle così lontane da richiedere equipaggi che forse trascorreranno tutta la vita in astronavi-città. Inoltre: quanto conta il sesso nella vita di coppia; i metodi più efficaci per memorizzare e ricordare; perché dopo il covid l'olfatto e il gusto restano danneggiati. E come sempre l'inserto speciale Focus Domande&Risposte ricco di coriosi quesiti ai quali rispondono studi scientifici.

ABBONATI A 29,90€
Follow us