Digital Life

New York mette al bando l’AI per la selezione dei CV

New York vuole limitare l'utilizzo dell'intelligenza artificiale (AI) nei processi di selezione dei curriculum per assumere i dipendenti pubblici. Non sarebbe affatto imparziale.

In un mondo sempre più governato dalla tecnologia, la città di New York decide di andare controcorrente e introduce numerose limitazioni all'utilizzo dell'intelligenza artificiale nella selezione dei dipendenti pubblici. Diversi esperti consultati dai vertici dell'amministrazione cittadina avrebbero infatti confermato come i sistemi di AI utilizzati nei processi di scrematura dei CV non sarebbero completamente neutrali nello scartare un candidato o nel farlo procedere lungo il percorso di selezione.

Meno donne. La preoccupazione dei leader newyorkesi non sembra del tutto infondata: già nel 2018 Reuters aveva scoperto che un sistema di AI adottato da Amazon per la prima scrematura delle candidature ricevute in base ai precedenti lavori svolti, non era del tutto neutrale perché penalizzava le donne.

La proposta di legge arrivata sui tavoli del consiglio comunale, prevede l'obbligo di comunicare a un candidato come verrà trattata la sua candidatura, se da un computer o da un essere umano. Tutti gli strumenti informatici utilizzati nei processi di selezione dovranno inoltre essere sottoposti a verifica annuale per controllare eventuali discriminazioni.

Problema politico. Negli ultimi anni diverse amministrazioni pubbliche degli Stati Uniti hanno iniziato una pesante campagna contro l'uso indiscriminato della tecnologia da parte del Governo: diverse città hanno messo al bando i sistemi di riconoscimento facciale delle persone, anche per finalità anticrimine, e la stessa città di New York ha formalmente vietato l'utilizzo di questi sistemi all'interno delle scuole.

La preoccupazione contro l'impiego incontrollato dell'intelligenza artificiale si sta diffondendo anche tra membri del Congresso: lo scorso dicembre, una decina di Senatori ha chiesto una legislazione che regolamenti l'utilizzo dell'AI nella selezione del personale anche nelle aziende private. Il timore è che questi sistemi possano accentuare disparità ingiustificate basate su razza o etnia, in un momento delicato come la crisi economica scatenata dal Covid.

La proposta di legge sembra essere sostenuta trasversalmente da democratici e repubblicani e trova consenso anche da diversi addetti ai lavori, che non vedono l'ora di dimostrare la correttezza dei loro software in sede pubblica. Ma la domanda nasce spontanea: come fa un sistema di AI ad avere dei pregiudizi di genere o di razza quando decide di scartare un CV? Dipende tutto dalla bontà dei dati e dei processi che sono stati utilizzati per l'addestramento del sistema stesso.

dati falsati. Un sistema di intelligenza artificiale, prima di poter essere impiegato, deve infatti imparare cosa deve fare. Per insegnare a una macchina se deve scartare o no il profilo di un candidato si utilizzano i dati relativi a decine di migliaia di processi di selezione svolti in passato, all'interno dei quali il sistema identifica degli schemi, che poi tenderà a ripetere.

È chiaro che se i dati di partenza sono falsati da pregiudizi umani, per esempio da processi di selezione che in passato hanno penalizzato le donne o le minoranze, l'AI imparerà e si comporterà di conseguenza, proprio come un bambino che segue l'esempio degli amici sbagliati.

in Europa. E in Europa? Anche nel vecchio continente l'attenzione verso questa tematica è altissima: nel Libro Bianco sull'Intelligenza Artificiale della Commissione Europea si legge infatti che l'utilizzo dell'AI nei processi di selezione del personale è ad alto rischio, perchè andrebbe ad incidere sui diritti dei lavoratori.

Per questo, la Commissione raccomanda, nei processi di addestramento di questi sistemi, l'utilizzo di dati che tengano conto dei valori dell'Unione, in particolare quelli di parità e uguaglianza.

10 febbraio 2021 Rebecca Mantovani
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Il racconto del decennio (1919-1929) che condusse un'Italia povera, ferita e delusa dalla Grande guerra nelle braccia di Mussolini. E ancora: distanziamento, lockdown, ristori... tutte le analogie fra la peste di ieri e il covid di oggi; come Anna Maria Luisa, l'ultima dei Medici, salvò i tesori artistici di Firenze; dalla preistoria in poi, l'impatto dell'uomo sull'ambiente e sul paesaggio.

ABBONATI A 29,90€

Il cervello trattiene senza sforzo le informazioni importanti per sopravvivere. Qual è, allora, il segreto per ricordare? Inoltre: gli ultimi studi per preservare la biodiversità; la più grande galleria del vento d'Europa dove si testano treni, aerei, navi; a che punto sono i reattori che sfruttano la fusione nucleare.


ABBONATI A 29,90€

Litigare fa ammalare? In quale sport i gatti sarebbero imbattibili? Perché possiamo essere cattivi con gli altri? Sulla Luna ci sono nuvole? Queste e tante altre domande e risposte, curiose e divertenti, sul nuovo numero di Focus D&R, d'ora in poi tutti i mesi in edicola!

ABBONATI A 29,90€
Follow us