Innovazione

Che cos’è il voice cloning (e come difendersi dai deepfake vocali)

Grazie all'IA è possibile clonare le voci, una tecnologia che può rivelarsi pericolosa se arriva nelle mani sbagliate. Ecco come possiamo difenderci dai deepfake vocali.

In quanti film e serie TV abbiamo visto super-spie o ladri provetti utilizzare dispositivi capaci di camuffare la propria voce, rendendola in tutto e per tutto simile a quella di un'altra persona? Ecco, grazie all'Intelligenza Artificiale, siamo arrivati esattamente a quel punto. Oggi è infatti possibile attuare quello che nel gergo tecnico si chiama voice cloning, una tecnologia tanto affascinante quanto pericolosa, in grado di diventare uno strumento devastante nelle mani di piccoli e grandi truffatori. Vediamo come funziona e, soprattutto, come possiamo difenderci dalle possibili frodi.

Come funziona. Il voice cloning sfrutta l'Intelligenza Artificiale per replicare una voce umana in modo sorprendentemente realistico. Basta un campione audio di soli tre secondi per catturare caratteristiche come l'intonazione, l'accento e persino il ritmo del respiro. L'algoritmo utilizza questi dati per generare nuove frasi, che suonano esattamente come se fossero pronunciate dalla persona originale. Questo strumento, sebbene faccia parte dei cosiddetti deepfake, trova applicazione innanzitutto in ambiti legati all'intrattenimento e alla sanità, permettendo, per esempio, la creazione di doppiaggi cinematografici o l'assistenza a persone con disabilità vocali.

uso fraudolento. Tuttavia, il potenziale uso fraudolento è preoccupante. Più lunghe sono le conversazioni più il programma può sfruttare una maggiore quantità di dettagli fonetici, semplificando la riproduzione di sfumature come esitazioni o cadenze, strascichi dialettali o pronunce errate.

Una manna per i truffatori, che hanno già trovato modi creativi per "accaparrarsi voci", per esempio raccogliendo campioni vocali da piattaforme pubbliche come YouTube o TikTok, con lo scopo di creare falsi audio.

Le prime applicazioni. La truffa più semplice consiste nell'invio di messaggi di emergenza tramite piattaforme come Whatsapp, in cui si esortano le vittime a trasferire denaro attraverso canali difficilmente tracciabili, come criptovalute o carte regalo. Numerosi casi di frode internazionale hanno già avuto luogo e in Australia a essere clonata è stata addirittura la voce del Premier del Queensland, per promuovere un falso investimento in Bitcoin che ha fatto cadere nella trappola decine di cittadini.

Un altro caso riportato dalle cronache si è verificato negli Emirati Arabi, dove i truffatori hanno riprodotto il modo di parlare di un direttore aziendale, rubando ben 51 milioni di dollari. A preoccupare, però, non sono queste frodi milionarie, ma piuttosto quelle rivolte a persone comuni, soprattutto in età avanzata. Una voce, infatti, potrebbe essere campionata anche durante una conversazione al bar o in un ristorante per poi essere utilizzata in raggiri su scala minore.

Una tecnologia così sofisticata, in grado di ingannare anche avanzatissimi sistemi di sicurezza, necessiterà di contromisure ipertecnologiche. O forse no…

Come difendersi. Per proteggere i cittadini occorre pianificare campagne di informazione mirate a rendere nota l'esistenza del problema. Per le aziende, l'adozione di sistemi di sicurezza biometrica con rilevamento della "vitalità" vocale può aiutare a distinguere una voce reale da una clonata, così come impostare un'autenticazione a più fattori.

Di pari passo, gli organi di polizia devono affinare le capacità investigative contro queste frodi e i governi sviluppare normative adeguate, come è già accaduto in Australia, dove è stato attuato il piano nazionale contro il crimine informatico per prevenire, rilevare e contrastare i truffatori, coinvolgendo aziende hi-tech e banche.

Consigli utili. Ma veniamo ai cosiddetti "rimedi della nonna", attuabili da ognuno di noi. In caso di richieste di denaro e dati sensibili, prima di procedere, è buona abitudine adottare precauzioni. Se la comunicazione si svolge in tempo reale, un buon consiglio è stabilire una parola d'ordine con i propri amici o familiari, qualcosa di semplice ma nota solo a loro.

In alternativa, si può porre una domanda personale a cui soltanto il diretto interessato sa rispondere. Se la voce è contenuta in un messaggio vocale, invece, il modo migliore è telefonare di persona per verificare, oppure far inviare all'interlocutore altri messaggi, inserendo nelle richieste ricordi comuni o informazioni sconosciute a estranei. Semplice ma efficace, e non c'è tecnologia che tenga.

20 ottobre 2024 Simone Valtieri
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Nel nuovo numero di Focus Storia, in occasione delle elezioni presidenziali americane, esploriamo l'affascinante e complesso mondo della politica statunitense. Ci poniamo domande sul sistema elettorale, le sue radici storiche e i paradossi che lo caratterizzano, come la possibilità che un candidato vinca con meno voti popolari. L’articolo "Dentro il sistema" fa luce su questi meccanismi, mentre "Scenario complesso" racconta una delle tornate elettorali più particolari di 200 anni fa.

In "Risultati controversi" analizziamo le elezioni più contestate della storia americana, e con "Tattiche e strategie elettorali" esploriamo come le campagne presidenziali si sono evolute con l'arrivo di nuove tecnologie, dall’epoca della radio a quella dell’intelligenza artificiale.

Concludiamo con una visita virtuale alla Casa Bianca, simbolo della presidenza americana, e l’articolo "Presidenti nei guai", che svela i problemi legali in cui sono incappati alcuni dei leader più noti degli Stati Uniti.

ABBONATI A 29,90€

In questo numero di Focus ci immergiamo in un affascinante mix di scienza, tecnologia e curiosità, esplorando innovazioni che plasmeranno il nostro futuro.

Il dossier sulle neurotecnologie è il cuore di questa edizione, con articoli che affrontano la possibilità di controllare dispositivi elettronici con la mente in "L’alba del cervello cibernetico", le nuove opportunità economiche in "Neurobusiness", e le implicazioni etiche in "I diritti del nostro cervello".

Tra gli altri temi, troviamo una nuova generazione di protesi intelligenti sempre più sofisticate, e celebriamo i 50 anni dal famoso messaggio di Arecibo con "Pronto alieni?". Inoltre, scopriamo l’impatto della noia sul comportamento umano in "Se non ci fosse la noia" e il fenomeno globale dei manga in "Mangamania".

 

ABBONATI A 31,90€
Follow us