Speciale
Domande e Risposte
Digital Life

Quanto è preciso il riconoscimento facciale?

Genere e razza sono caratteristiche umane che possono mandare in tilt i software responsabili del riconoscimento facciale (e la colpa è nostra).

Il riconoscimento facciale è sempre più presente nelle nostre vite: molti di noi lo utilizzano più volte al giorno per sbloccare lo schermo dello smartphone, mentre le grandi aziende ne fanno uso per identificare persone specifiche in mezzo a grandi folle, analizzarne le emozioni e individuarne il genere (per poi, spesso, provare a vender loro qualcosa). Nonostante i progressi degli ultimi anni, gli algoritmi di apprendimento automatico non sono ancora precisi e, come spiega un articolo pubblicato sulla versione spagnola di The Conversation, possono per esempio discriminare per genere e razza o avere difficoltà a riconoscere persone transessuali.

Intelligenza artificiale e razzista. Gli algoritmi del machine learning seguono dei modelli di valutazione e/o interpretazione costruiti grazie all'elaborazione di grandi quantità di dati (per esempio, immagini). Per questo è fondamentale addestrare le macchine con dati il più possibile rappresentativi di ogni sfumatura umana: quando questo non accade, e si escludono determinate categorie di persone, l'IA restituisce risultati poco precisi, specchio delle inesattezze da noi commesse.

Un esempio di quanto una raccolta dati non rappresentativa dell'intera realtà possa influenzare negativamente il funzionamento di un prodotto ci arriva direttamente dal secolo scorso: tra il 1940 e il 1990 Kodak e Polaroid utilizzarono solamente modelli bianchi per calibrare i propri prodotti, con conseguenti problemi di luce e contrasto nella resa in video di soggetti di pelle scura.

Niente di nuovo. Nonostante gli illustri esempi di Kodak e Polaroid, sembra che gli attuali colossi tecnologici non abbiano imparato nulla dagli errori del passato: un recente studio di Gender Shades ha rivelato una falla nel sistema di classificazione commerciale di Microsoft, IBM e Face++, scoprendo che le donne con la pelle più scura erano soggette a un maggior numero di errori di classificazione rispetto al resto delle persone. Anche la popolarissima piattaforma di comunicazione Zoom è caduta nella trappola della discriminazione: diversi utenti neri hanno denunciato che, attivando lo sfondo virtuale, il loro volto non veniva riconosciuto e spariva dallo schermo.

Uomo, donna o…? Ciò che manda completamente in tilt gli algoritmi di riconoscimento facciale, non addestrati a dovere dai "padroni" umani, è il dover riconoscere persone senza una sessualità definita, come i transessuali (specie nel periodo della transizione) o gli individui con identità non binaria - ossia che non corrispondono strettamente e completamente al genere maschile o al genere femminile.
 
Uno studio ha analizzato quattro servizi commerciali di riconoscimento facciale (Amazon Rekognition, Clarifai, IBM Watson Visual Recognition e Microsoft Azure) e calcolato la precisione dei risultati di classificazione di genere di 2.450 immagini.

Se per uomini e donne la percentuale di accuratezza si avvicinava al 100%, per donne e uomini trans scendeva rispettivamente all'87% e al 70%, per poi crollare allo 0% nel caso di persone asessuali, genderqueer o non binarie.
 
La conclusione è che per quanto sia utile sottolineare gli errori di programmazione più comuni che affliggono i sistemi di intelligenza artificiale, soprattutto per cercare di migliorarne la precisione ed evitare discriminazioni di genere e razza, è importante avere sempre ben chiare le innumerevoli difficoltà del programmare una macchina a riconoscere la diversità rispetto al pensiero standard dei suoi progettisti.

5 gennaio 2021 Chiara Guzzonato
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Settant’anni fa agli italiani arrivò un regalo inaspettato: la televisione. Quell’apparecchio – che pochi potevano comprare e quindi si vedeva tutti insieme – portò con sè altri doni: una lingua in comune, l’intrattenimento garantito, le informazioni da tutto il mondo. Una vera rivoluzione culturale e sociale di cui la Rai fu indiscussa protagonista. E ancora: i primi passi della Nato; i gemelli nel mito e nella società; la vita travagliata, e la morte misteriosa, di Andrea Palladio; quando, come e perché è nato il razzismo; la routine di bellezza delle antiche romane.

ABBONATI A 29,90€

I gemelli digitali della Terra serviranno a simularne il futuro indicando gli interventi più adatti per prevenirne i rischi ambientali. E ancora, le due facce dell’aggressività nella storia dell’evoluzione umana; com’è la vita di una persona che soffre di balbuzie; tutti gli strumenti che usiamo per ascoltare le invisibili onde gravitazionali che vengono dall’alba dell’universo; le pillole intelligenti" che dispensano farmaci e monitorano la salute del corpo.

ABBONATI A 31,90€
Follow us