Il deepfake è una tecnica avanzata di intelligenza artificiale che permette di creare video e immagini non vere, spesso manipolando volti umani in modo estremamente convincente. Questa tecnologia desta preoccupazioni per la sua capacità di diffondere informazioni fuorvianti e non verificate, minando alla base la fiducia degli utenti nei confronti delle immagini o dei filmati digitali che si incontrano quotidianamente sui social media e su altri siti web.
Ma cosa succederebbe se strumenti come ChatGPT potessero essere utilizzati per smascherare questi contenuti ingannevoli?
Un alleato inaspettato. A porsi questa domanda è stato un team di ricercatori dell'Università di Buffalo, negli Stati Uniti. I modelli linguistici, noti per generare testi coerenti e creativi, potrebbero sorprendentemente essere la chiave per individuare i media contraffatti sul web. Gli analisti hanno testato i più diffusi chatbot come ChatGPT di OpenAI, Gemini di Google e Copilot di Microsoft, per rilevare le immagini di volti umani create artificialmente.
Lo studio. Presentata alla IEEE/CVF Conference on Computer Vision & Pattern Recognition, la ricerca ha rivelato che, sebbene le performance di questi modelli non siano ancora all'altezza degli algoritmi più avanzati per il rilevamento dei deepfake, la loro forza sta nella capacità di spiegare le proprie decisioni in modo chiaro e comprensibile per gli esseri umani.
Meglio ChatGPT. Addestrato su vasti database di testo e immagini, ChatGPT è risultato essere il più efficace tra tutti. Il primo e più diffuso tra i LLM (Large Language Model), infatti, non solo comprende le relazioni linguistiche, ma può anche analizzare visivamente le foto in modo più dettagliato rispetto alla concorrenza. Il chatbot di OpenAI ha raggiunto un'accuratezza del 79.5% nell'evidenziare incongruenze in immagini generate da modelli come StyleGAN e Latent Diffusion.
Il plus. Il dato, in sé per sé, è comparabile con i tradizionali algoritmi di rilevamento dei deepfake, ma con un importante vantaggio: ChatGPT è in grado di spiegare il ragionamento dietro alle sue decisioni utilizzando un linguaggio accessibile. Per esempio, quando ha analizzato la foto di un uomo con gli occhiali generata dall'intelligenza artificiale, il modello ha notato che i capelli sul lato sinistro dell'immagine erano leggermente sfocati e che la transizione tra la persona e lo sfondo era un po' troppo brusca e priva di profondità.
Limiti. ChatGPT, però, non raggiunge ancora le prestazioni dei più sofisticati algoritmi di rilevamento dei deepfake, che superano il 90% di accuratezza.
Questo perché i LLM non riescono a cogliere le differenze statistiche invisibili all'occhio umano, che spesso vengono scovate con le procedure standard.
Inoltre, il modello spesso si rifiuta di analizzare contenuti quando non è sicuro della risposta. Questo comportamento indica che, sebbene ChatGPT possieda le potenzialità per effettuare un'analisi più accurata, è ancora necessario l'intervento umano per ottimizzare e guidare le sue capacità. La prossima sfida sarà perciò quella di affinare questi modelli con l'obiettivo di migliorarne l'accuratezza e renderli ancora più potenti, utili e accessibili.
