Innovazione

Norman, l'intelligenza artificiale psicopatica creata dal MIT

L'intelligenza artificiale istruita su alcuni degli elementi più oscuri del web ha dato risposte inquietanti in un test di personalità. Incarna i pericoli che comporterebbe una AI sfuggita di mano.

Chi è solito mettere in guardia dalle possibili derive dell'intelligenza artificiale potrebbe non apprezzare l'ultima fatica di un gruppo di scienziati del MIT (oppure, al contrario, potrebbe trovare una conferma ai propri timori). Il team ha infatti messo a punto un sistema di apprendimento automatico che ha addestrato su alcuni degli elementi più oscuri presenti sul social network Reddit. Scopo dell'esperimento è dimostrare come non siano tanto gli algoritmi stessi, quanto i dati che a essi diamo "in pasto", a influenzare le risposte che questi programmi ci restituiscono.

Cattivo maestro. Il software, ribattezzato Norman come Norman Bates, il celebre killer del film di Alfred Hitchcock Psycho (1960), ha studiato le didascalie di una serie di immagini postate da un sottogruppo di Reddit che documenta gli aspetti più macabri legati alla morte: per ovvie ragioni etiche, come precisato sul sito del progetto, il software è stato influenzato con i contenuti delle didascalie soltanto, e nessuna immagine di persona morente o deceduta è stata usata nell'esperimento.

Un allievo provetto. A questo punto Norman ha affrontato il test di Rorschach, un test di personalità che ha avuto fortuna in passato, basato sull'interpretazione di macchie di inchiostro. Le sue risposte sono state confrontate con quelle di un'ingenua AI istruita su immagini di gatti, uccelli e persone. Qui sotto, potete confrontare le diverse interpretazioni (ne trovate altre sul sito del laboratorio).

"Una coppia che si guarda", per l'AI di controllo; per Norman è "un uomo che si lancia da una finestra". © MIT
Per Norman la macchia grigia è "un uomo ucciso da una mitragliatrice in pieno giorno"; per l'altra AI è un'immagine in bianco e nero di un guantone da baseball. © MIT
"Una foto in bianco e nero di un piccolo uccello"; "Un uomo viene spinto in un'impastatrice" - indovinate quale delle due è la versione di Norman. © MIT

Come spugne. Il test mostra i pericoli dell'intelligenza artificiale finita in mani sbagliate. Il problema, sottolineano i ricercatori (che hanno a curriculum anche Shelley, l'AI specializzata in racconti horror), non sono i programmi in sé, quanto i dati che vengono loro forniti. Al di là del caso limite di Norman, il vero problema è il pregiudizio umano, trasmesso senza filtri alle macchine che da noi imparano: già in passato è stato dimostrato che l'AI può apprendere dall'uomo comportamenti sessisti e razzisti. Quanto a Norman, potete provare a riportarlo sulla buona strada con le vostre interpretazioni del test di Rorschach, sul sito del progetto.

7 giugno 2018 Elisabetta Intini
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Settant’anni fa agli italiani arrivò un regalo inaspettato: la televisione. Quell’apparecchio – che pochi potevano comprare e quindi si vedeva tutti insieme – portò con sè altri doni: una lingua in comune, l’intrattenimento garantito, le informazioni da tutto il mondo. Una vera rivoluzione culturale e sociale di cui la Rai fu indiscussa protagonista. E ancora: i primi passi della Nato; i gemelli nel mito e nella società; la vita travagliata, e la morte misteriosa, di Andrea Palladio; quando, come e perché è nato il razzismo; la routine di bellezza delle antiche romane.

ABBONATI A 29,90€

I gemelli digitali della Terra serviranno a simularne il futuro indicando gli interventi più adatti per prevenirne i rischi ambientali. E ancora, le due facce dell’aggressività nella storia dell’evoluzione umana; com’è la vita di una persona che soffre di balbuzie; tutti gli strumenti che usiamo per ascoltare le invisibili onde gravitazionali che vengono dall’alba dell’universo; le pillole intelligenti" che dispensano farmaci e monitorano la salute del corpo.

ABBONATI A 31,90€
Follow us