Psicologia

Pregiudizi digitali: perché l'AI è sessista?

I sistemi di intelligenza artificiale replicano i pregiudizi umani: l'AI è sessista, tutt'altro che neutrale rispetto ai generi maschile e femminile.

Ancora oggi gli uomini spesso "valutano" le donne a partire dal loro aspetto. Chissà perché la cosa non sorprende più di tanto. È invece un po' più soprendente il fatto che anche i computer, pare, abbiano la stessa, odiosa tendenza. Sarà perché sono programmati soprattutto da maschi?
 
Onorevoli differenze. La ricerca, pubblicata su Sociological Research, è stata condotta da un team internazionale di scienziati coordinati da Carsten Schwemmer, del Leibniz Institute for the Social Sciences di Cologna (Germania).
 
I ricercatori hanno sottoposto le fotografie dei membri del Congresso degli Stati Uniti al sistema di riconoscimento immagini di Google e hanno preso nota dei tag restituiti dall'intelligenza artificiale di Big G. Quello che ne è emerso è sconcertante: in generale l'AI di Google, che si scopre sessista, ha attribuito agli uomini una serie di etichette riconducibili al mondo delle capacità e delle professionalità, mentre alle donne ha attribuito caratteristiche per lo più legate alla sfera dell'apparenza e del look. Lo studio evidenzia insomma come l'intelligenza artificiale, pur riconoscendo correttamente il contenuto delle immagini, tenda a riclassificarle utilizzando schemi tipici dell'essere umano (maschio), errori inclusi.
 
Non solo un tag. Le conseguenze di questo "errore di programmazione" non sono di poco conto: un'azienda, un ente pubblico o un organismo internazionale che decidesse di utilizzare un sistema di AI per riorganizzare il proprio archivio fotografico potrebbe inconsapevolmente far scomparire le foto delle donne che, per esempio, hanno ottenuto risultati o riconoscimenti, riclassificate da etichette che identificano il loro sorriso o la loro acconciatura.
 
Che cosa può instillare in un software preconcetti di questo tipo? Dipende tutto dal suo addestramento: i sistemi di intelligenza artificiale specializzati nel riconoscimento delle immagini vengono istruiti utilizzando enormi collezioni fotografiche, dove ogni scatto è accuratamente descritto da specifici tag.
 
La scuola dell'AI. Una ricerca condotta nel 2017 presso l'Università della Virginia (USA) aveva evidenziato come i database utilizzati per la formazione dei sistemi di AI non fossero affatto neutrali rispetto al genere: per esempio, la maggior parte delle figure etichettate come afferenti al mondo del business, degli affari e delle armi da fuoco erano uomini, mentre dietro ai fornelli erano raffigurate per lo più donne. Correggere questa stortura, oltre che doveroso, sembra sia anche tecnicamente possibile: un team di ricercatori dell'Università di Princeton (USA) sta infatti lavorando a REVISE, un sistema

, sempre basato su AI, che dovrebbe essere in grado di riconoscere i pregiudizi di genere all'interno di una banca di immagini.

30 dicembre 2020 Rebecca Mantovani
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

La smisurata ambizione di Napoleone trasformò l’Europa in un enorme campo di battaglia e fece tremare tutte le monarchie dell’epoca. Per molti era un idolo, per altri un tiranno sanguinario. E oggi la sua figura continua a essere oggetto di dibattito fra storici e intellettuali. E ancora: tra lasciti stravaganti e vendette "postume", i testamenti di alcuni grandi personaggi del passato che fecero litigare gli eredi; le bizzarre toilette con cui l’aristocrazia francese del Settecento si "faceva bella" agli occhi del mondo; nelle scuole residenziali indiane, i collegi-lager dove venivano rinchiusi i bambini nativi americani, per convertirli e "civilizzarli"; Dio, patria e famiglia nelle cartoline natalizie della Grande guerra.

ABBONATI A 29,90€

Il corpo va tenuto in forma, ma le sue esigenze cambiano nel corso della vita. Quale sport è meglio fare con gli anni che passano? E quali sono le regole di alimentazione per uno sportivo? E ancora: il primo modello numerico completo che permette di simulare il nostro cuore; perché i velivoli senza pilota stanno assumendo un ruolo fondamentale in guerra; l’impatto che l'Intelligenza artificiale avrà sull’economia e sulla società; tutto quello che si ottiene avendo pazienza.

ABBONATI A 31,90€
Follow us