Psicologia

Pregiudizi digitali: perché l'AI è sessista?

I sistemi di intelligenza artificiale replicano i pregiudizi umani: l'AI è sessista, tutt'altro che neutrale rispetto ai generi maschile e femminile.

Ancora oggi gli uomini spesso "valutano" le donne a partire dal loro aspetto. Chissà perché la cosa non sorprende più di tanto. È invece un po' più soprendente il fatto che anche i computer, pare, abbiano la stessa, odiosa tendenza. Sarà perché sono programmati soprattutto da maschi?
 
Onorevoli differenze. La ricerca, pubblicata su Sociological Research, è stata condotta da un team internazionale di scienziati coordinati da Carsten Schwemmer, del Leibniz Institute for the Social Sciences di Cologna (Germania).
 
I ricercatori hanno sottoposto le fotografie dei membri del Congresso degli Stati Uniti al sistema di riconoscimento immagini di Google e hanno preso nota dei tag restituiti dall'intelligenza artificiale di Big G. Quello che ne è emerso è sconcertante: in generale l'AI di Google, che si scopre sessista, ha attribuito agli uomini una serie di etichette riconducibili al mondo delle capacità e delle professionalità, mentre alle donne ha attribuito caratteristiche per lo più legate alla sfera dell'apparenza e del look. Lo studio evidenzia insomma come l'intelligenza artificiale, pur riconoscendo correttamente il contenuto delle immagini, tenda a riclassificarle utilizzando schemi tipici dell'essere umano (maschio), errori inclusi.
 
Non solo un tag. Le conseguenze di questo "errore di programmazione" non sono di poco conto: un'azienda, un ente pubblico o un organismo internazionale che decidesse di utilizzare un sistema di AI per riorganizzare il proprio archivio fotografico potrebbe inconsapevolmente far scomparire le foto delle donne che, per esempio, hanno ottenuto risultati o riconoscimenti, riclassificate da etichette che identificano il loro sorriso o la loro acconciatura.
 
Che cosa può instillare in un software preconcetti di questo tipo? Dipende tutto dal suo addestramento: i sistemi di intelligenza artificiale specializzati nel riconoscimento delle immagini vengono istruiti utilizzando enormi collezioni fotografiche, dove ogni scatto è accuratamente descritto da specifici tag.
 
La scuola dell'AI. Una ricerca condotta nel 2017 presso l'Università della Virginia (USA) aveva evidenziato come i database utilizzati per la formazione dei sistemi di AI non fossero affatto neutrali rispetto al genere: per esempio, la maggior parte delle figure etichettate come afferenti al mondo del business, degli affari e delle armi da fuoco erano uomini, mentre dietro ai fornelli erano raffigurate per lo più donne. Correggere questa stortura, oltre che doveroso, sembra sia anche tecnicamente possibile: un team di ricercatori dell'Università di Princeton (USA) sta infatti lavorando a REVISE, un sistema

, sempre basato su AI, che dovrebbe essere in grado di riconoscere i pregiudizi di genere all'interno di una banca di immagini.

30 dicembre 2020 Rebecca Mantovani
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Focus Storia ci porta indietro al 1914, l'anno fatale che segnò l'inizio della Prima Guerra Mondiale. Attraverso un'analisi dettagliata degli eventi, delle alleanze politiche e degli imperi coloniali, la rivista ricostruisce il contesto storico che portò al conflitto.

Scopriremo le previsioni sbagliate, le ambiguità e il gioco mortale delle alleanze che contribuirono a scatenare la guerra. Un focus sulle forze in campo nel 1914 ci mostrerà l'Europa divisa in due blocchi pronti allo scontro, mentre un'analisi delle conseguenze della pace di Versailles ci spiegherà perché non durò a lungo.

Non mancano le storie affascinanti come quella di Agnès Sorel, amante di Carlo VII, e di Moshe Feldenkrais, inventore dell'omonimo metodo terapeutico. Un viaggio nell'arte ci porterà alla scoperta della Street Art e della Pop Art nel nuovo JMuseo di Jesolo, mentre uno sguardo alla scienza ci farà conoscere le scienziate che non hanno avuto i meritati riconoscimenti.

ABBONATI A 29,90€

Focus si immerge nel Mediterraneo con un dossier speciale: un ecosistema minacciato, ma ricco di biodiversità e aree marine protette cruciali. Scopriremo l'importanza della Posidonia oceanica e le minacce alla salute del mare.

La rivista esplora anche scienza e tecnologia, svelando i segreti dei papiri di Ercolano e portandoci dietro le quinte del supercomputer Leonardo. Un viaggio nell'archeoastronomia e un'inchiesta sul ruolo del tatto nella società umana arricchiscono il numero.

Non mancano approfondimenti sulla salute, con un focus sull'Alzheimer e consigli per migliorare il sonno. La tecnologia è protagonista con uno sguardo al futuro dei gasdotti italiani e alle innovazioni nel campo delle infrastrutture. Infine, uno sguardo all'affascinante mondo dell'upupa.

ABBONATI A 31,90€
Follow us