Speciale
Domande e Risposte
Digital Life

Quanto è preciso il riconoscimento facciale?

Genere e razza sono caratteristiche umane che possono mandare in tilt i software responsabili del riconoscimento facciale (e la colpa è nostra).

Il riconoscimento facciale è sempre più presente nelle nostre vite: molti di noi lo utilizzano più volte al giorno per sbloccare lo schermo dello smartphone, mentre le grandi aziende ne fanno uso per identificare persone specifiche in mezzo a grandi folle, analizzarne le emozioni e individuarne il genere (per poi, spesso, provare a vender loro qualcosa). Nonostante i progressi degli ultimi anni, gli algoritmi di apprendimento automatico non sono ancora precisi e, come spiega un articolo pubblicato sulla versione spagnola di The Conversation, possono per esempio discriminare per genere e razza o avere difficoltà a riconoscere persone transessuali.

Intelligenza artificiale e razzista. Gli algoritmi del machine learning seguono dei modelli di valutazione e/o interpretazione costruiti grazie all'elaborazione di grandi quantità di dati (per esempio, immagini). Per questo è fondamentale addestrare le macchine con dati il più possibile rappresentativi di ogni sfumatura umana: quando questo non accade, e si escludono determinate categorie di persone, l'IA restituisce risultati poco precisi, specchio delle inesattezze da noi commesse.

Un esempio di quanto una raccolta dati non rappresentativa dell'intera realtà possa influenzare negativamente il funzionamento di un prodotto ci arriva direttamente dal secolo scorso: tra il 1940 e il 1990 Kodak e Polaroid utilizzarono solamente modelli bianchi per calibrare i propri prodotti, con conseguenti problemi di luce e contrasto nella resa in video di soggetti di pelle scura.

Niente di nuovo. Nonostante gli illustri esempi di Kodak e Polaroid, sembra che gli attuali colossi tecnologici non abbiano imparato nulla dagli errori del passato: un recente studio di Gender Shades ha rivelato una falla nel sistema di classificazione commerciale di Microsoft, IBM e Face++, scoprendo che le donne con la pelle più scura erano soggette a un maggior numero di errori di classificazione rispetto al resto delle persone. Anche la popolarissima piattaforma di comunicazione Zoom è caduta nella trappola della discriminazione: diversi utenti neri hanno denunciato che, attivando lo sfondo virtuale, il loro volto non veniva riconosciuto e spariva dallo schermo.

Uomo, donna o…? Ciò che manda completamente in tilt gli algoritmi di riconoscimento facciale, non addestrati a dovere dai "padroni" umani, è il dover riconoscere persone senza una sessualità definita, come i transessuali (specie nel periodo della transizione) o gli individui con identità non binaria - ossia che non corrispondono strettamente e completamente al genere maschile o al genere femminile.
 
Uno studio ha analizzato quattro servizi commerciali di riconoscimento facciale (Amazon Rekognition, Clarifai, IBM Watson Visual Recognition e Microsoft Azure) e calcolato la precisione dei risultati di classificazione di genere di 2.450 immagini. Se per uomini e donne la percentuale di accuratezza si avvicinava al 100%, per donne e uomini trans scendeva rispettivamente all'87% e al 70%, per poi crollare allo 0% nel caso di persone asessuali, genderqueer o non binarie.
 
La conclusione è che per quanto sia utile sottolineare gli errori di programmazione più comuni che affliggono i sistemi di intelligenza artificiale, soprattutto per cercare di migliorarne la precisione ed evitare discriminazioni di genere e razza, è importante avere sempre ben chiare le innumerevoli difficoltà del programmare una macchina a riconoscere la diversità rispetto al pensiero standard dei suoi progettisti.

5 gennaio 2021 Chiara Guzzonato
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Napoleone tenne in scacco tutte le monarchie d'Europa. Poi, a Waterloo, la resa dei conti. Chi erano i nemici dell'imperatore dei francesi? Come formarono le alleanze e le coalizioni per arginarlo? E perché tutti temevano la Grande Armée? Su questo numero, la caduta di Napoleone raccontata attraverso i protagonisti che l'hanno orchestrata.

ABBONATI A 29,90€

Miliardi di microrganismi che popolano il nostro corpo influenzano la nostra salute. Ecco perché ci conviene trattarli bene. E ancora: come la scienza affronta la minaccia delle varianti di CoVID-19, e perché, da sempre, l'uomo punta al potere. Inoltre, in occasione del 20° anniversario della sua seconda missione in orbita, l’astronauta italiano Umberto Guidoni racconta la sua meravigliosa odissea nello spazio.

ABBONATI A 29,90€

Vi siete mai chiesti quante persone stanno facendo l'amore in questo momento nel mondo? O quante tradiscono? E ancora: Esistono giraffe nane? Cosa sono davvero le "scie chimiche" degli aerei? E quanto ci mette il cibo ad attraversare il nostro copo? Queste e tante altre domande & risposte, sempre curiose e divertenti, sul nuovo numero di Focus D&R, in edicola tutti i mesi. 

ABBONATI A 29,90€
Follow us