Tecnologia

La lingua segreta dei bot di Facebook

Due chatbot di Facebook iniziano a dialogare tra loro in una lingua sconosciuta e vengono subito spenti... Ecco che cosa c'è di vero dietro alla notizia più virale del momento.

La notizia è di quelle tagliate su misura per alimentare fantasie di catastrofi & complotti, e non a caso è diventata al volo "altamente virale" - come sempre in questi casi senza fare distinzioni tra realtà e fantasia. In sintesi, ecco ciò che si racconta:

#intelligenzaartificiale: due sistemi di A.I. targati Facebook hanno iniziato a parlare tra loro in una lingua incomprensibili all'auomo; i programmatori di Facebook li hanno quindi “spenti” prima che potessero decidere di estromettere i loro creatori dal sistema e diventare pericolosi.

La notizia è stata ripresa da molti e più o meno in questa forma.

Don't panic. La storia è suggestiva e di certo non mancano spunti per gli amanti della fantascienza. Ma, titoli a effetto a parte, che cosa è successo per davvero nei laboratori di Menlo Park? Sul serio abbiamo rischiato l'apocalisse tecnologica?

Per togliersi il dubbio basta dare un’occhiata al blog tecnico di Facebook.

Da qualche tempo l’azienda di Zuckerberg sta lavorando alla realizzazione di bot capaci di dialogare con l’uomo all’interno di una chat e di condurre semplici trattative. Questi software utilizzano meccanismi di intelligenza artificiale per imparare dall'interlocutore e diventare sempre più bravi a dissimulare l'origine artificiale.

intelligenza artificiale, facebook, robot
Uno stralcio della conversazione tra i chatbot: non è che sia proprio evidente l'intelligenza della conversazione autonoma, né l'originalità della lingua, ma i ricercatori affermano che è così (crediamogli...).

Copiando s'impara. Utilizzando una pratica diffusa nello sviluppo dei sistemi di AI, i ricercatori di Facebook hanno deciso di far dialogare tra loro due di questi programmi in modo che imparassero l’uno dall’altro.

Nello specifico, i programmatori hanno istruito i chatbot "bob" e "alice" affinché si accordassero in autonomia per dividersi un cappello, due libri e tre palloni.

A un certo punto, però, la conversazione tra le due macchine ha preso una strana piega:

Bob: «I can can I I everything else»

Alice: «Balls have zero to me to me to me to me to me to me to me to»

I due bot hanno cioè iniziato a fare un utilizzo delle parole e delle regole di grammatica diverso dal nostro, per noi incomprensibile ma per loro (pare) chiarissimo. Che cosa è successo?

I ricercatori non avevano imposto al software di utilizzare esclusivamente la lingua inglese per condurre la trattativa. E così il sistema di AI ha scoperto e impiegato un metodo più efficiente rispetto a quello convenzionale per utilizzare le parole. Di fatto, ha inventato una nuova lingua.

Intelligenza inutile. I programmatori hanno quindi deciso di "spegnere" le macchine, e di riaccenderle solo dopo avere impostato l’inglese come unica lingua di comunicazione.

Non tanto perché il nuovo dialetto avrebbe permesso ai chatbot di escludere l'uomo dalle loro conversazioni (prendendo così il sopravvento?), ma perché sarebbe stato del tutto inutile per un software-funzione destinato all’interazione con gli esseri umani.

intelligenza artificiale, facebook, robot
Deep Thought (Pensiero Profondo) medita con "la testa tra le mani" sulla vita, l'universo e tutto quanto. Com'è noto, la sua risposta sarà "42".

Nessuno è dunque mai stato "in pericolo", e nessun computer ha mai "pensato" di auto-organizzarsi ai danni degli esseri umani. In realtà il sistema non ha fatto altro che utilizzare in maniera (per lui) più razionale le parole, ossia gli unici strumenti che gli erano stati messi a disposizione per raggiungere l’obiettivo.

L'importante è capirsi. La cosa interessante, sottolinea Mark Liberman dal blog di linguistica computazionale dell'università della Pennsylvania, è che la nuova lingua ha comunque permesso ai bot di raggiungere un accordo sulla spartizione degli oggetti. Ciò significa che entrambe le macchine erano in grado di comprenderla.

Non è comunque la prima volta che un sistema di intelligenza artificiale sviluppa una nuova lingua. Nel mese di aprile i ricercatori di OpenAI, il laboratorio di intelligenza artificiale di Elon Musk, hanno pubblicato un articolo nel quale spiegano come i loro bot abbiano "inventato" un adattamento linguistico di razionalizzazione dell’inglese corrente, eliminando elementi inutili e ridondanti, per ottimizzare la comunicazione tra macchine.

Lasciamoli parlare. Permettere ai computer di sviluppare una loro lingua può avere qualche utilità pratica? Assolutamente sì, ne è convinto Dhruv Batra, visiting research scientist della Georgia Tech University presso i laboratori Facebook AI Research.

In un'intervista a Fast Co Desing Batra spiega come l'impiego di una lingua sviluppata dalle macchine ci permetterebbe di comprendere meglio il loro funzionamento e di sviluppare software più efficienti, scritti nel loro idioma.

Non mancano però opinioni divergenti. Dalle pagine del tabloid britannico The Sun, Kevin Warwick, ricercatore di robotica alla Coventry University, mette in guardia dai rischi di un'intelligenza artificiale troppo intelligente. E si chiede quanto potrebbero diventare pericolosi due robot militari, magari armati, che inizino a parlare una lingua incomprensibile per l'uomo. Ma questa è ancora fantascienza (crediamo...).

2 agosto 2017 Rebecca Mantovani
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Ascesa e declino di Sparta, la polis greca che dominò il Peloponneso con la sua incredibile forza militare e un'organizzazione sociale che forgiava soldati e cittadini pronti a tutto. Perché Beethoven cambiò per sempre il mondo della musica; gli esordi dell'Aids, l'epidemia che segnò un'epoca.

ABBONATI A 29,90€
Questo numero di Focus è speciale perchè l'astronauta dell'Esa Luca Parmitano ci ha affiancato per realizzare un giornale dedicato alle frontiere della scienza, dalla caccia agli esopianeti alla lotta contro il coronavirus fino agli organi stampati in 3d. Grazie Luca per i tuoi consigli e suggerimenti!
ABBONATI A 29,90€

Cosa posso comprare nel mondo con un euro? Perché i crackers hanno i buchi? Dove vanno i gatti quando spariscono da casa? Quanto può dormire un batterio? Correre una maratona fa ringiovanire? Con Focus D&R trovi più di 250 risposte rigorosamente scientifiche alle domande più curiose, divertenti e (anche) un po' folli che potresti mai immaginare.

 

 

ABBONATI A 14,90€
Follow us