La lingua segreta dei bot di Facebook

La notizia è di quelle tagliate su misura per alimentare fantasie di catastrofi & complotti, e non a caso è diventata al volo "altamente virale" - come sempre in questi casi senza fare distinzioni tra realtà e fantasia. In sintesi, ecco ciò che si racconta:

#intelligenzaartificiale: due sistemi di A.I. targati Facebook hanno iniziato a parlare tra loro in una lingua incomprensibili all'auomo; i programmatori di Facebook li hanno quindi “spenti” prima che potessero decidere di estromettere i loro creatori dal sistema e diventare pericolosi.

La notizia è stata ripresa da molti e più o meno in questa forma.

Don't panic. La storia è suggestiva e di certo non mancano spunti per gli amanti della fantascienza. Ma, titoli a effetto a parte, che cosa è successo per davvero nei laboratori di Menlo Park? Sul serio abbiamo rischiato l'apocalisse tecnologica?

Per togliersi il dubbio basta dare un’occhiata al blog tecnico di Facebook.

Da qualche tempo l’azienda di Zuckerberg sta lavorando alla realizzazione di bot capaci di dialogare con l’uomo all’interno di una chat e di condurre semplici trattative. Questi software utilizzano meccanismi di intelligenza artificiale per imparare dall'interlocutore e diventare sempre più bravi a dissimulare l'origine artificiale.

Copiando s'impara. Utilizzando una pratica diffusa nello sviluppo dei sistemi di AI, i ricercatori di Facebook hanno deciso di far dialogare tra loro due di questi programmi in modo che imparassero l’uno dall’altro.

Nello specifico, i programmatori hanno istruito i chatbot "bob" e "alice" affinché si accordassero in autonomia per dividersi un cappello, due libri e tre palloni.

A un certo punto, però, la conversazione tra le due macchine ha preso una strana piega:

Bob: «I can can I I everything else»

Alice: «Balls have zero to me to me to me to me to me to me to me to»

I due bot hanno cioè iniziato a fare un utilizzo delle parole e delle regole di grammatica diverso dal nostro, per noi incomprensibile ma per loro (pare) chiarissimo. Che cosa è successo?

I ricercatori non avevano imposto al software di utilizzare esclusivamente la lingua inglese per condurre la trattativa. E così il sistema di AI ha scoperto e impiegato un metodo più efficiente rispetto a quello convenzionale per utilizzare le parole. Di fatto, ha inventato una nuova lingua.

Intelligenza inutile. I programmatori hanno quindi deciso di "spegnere" le macchine, e di riaccenderle solo dopo avere impostato l’inglese come unica lingua di comunicazione.

Non tanto perché il nuovo dialetto avrebbe permesso ai chatbot di escludere l'uomo dalle loro conversazioni (prendendo così il sopravvento?), ma perché sarebbe stato del tutto inutile per un software-funzione destinato all’interazione con gli esseri umani.

Nessuno è dunque mai stato "in pericolo", e nessun computer ha mai "pensato" di auto-organizzarsi ai danni degli esseri umani. In realtà il sistema non ha fatto altro che utilizzare in maniera (per lui) più razionale le parole, ossia gli unici strumenti che gli erano stati messi a disposizione per raggiungere l’obiettivo.

L'importante è capirsi. La cosa interessante, sottolinea Mark Liberman dal blog di linguistica computazionale dell'università della Pennsylvania, è che la nuova lingua ha comunque permesso ai bot di raggiungere un accordo sulla spartizione degli oggetti. Ciò significa che entrambe le macchine erano in grado di comprenderla.

Non è comunque la prima volta che un sistema di intelligenza artificiale sviluppa una nuova lingua. Nel mese di aprile i ricercatori di OpenAI, il laboratorio di intelligenza artificiale di Elon Musk, hanno pubblicato un articolo nel quale spiegano come i loro bot abbiano "inventato" un adattamento linguistico di razionalizzazione dell’inglese corrente, eliminando elementi inutili e ridondanti, per ottimizzare la comunicazione tra macchine.

Lasciamoli parlare. Permettere ai computer di sviluppare una loro lingua può avere qualche utilità pratica? Assolutamente sì, ne è convinto Dhruv Batra, visiting research scientist della Georgia Tech University presso i laboratori Facebook AI Research.

In un'intervista a Fast Co Desing Batra spiega come l'impiego di una lingua sviluppata dalle macchine ci permetterebbe di comprendere meglio il loro funzionamento e di sviluppare software più efficienti, scritti nel loro idioma.

Non mancano però opinioni divergenti. Dalle pagine del tabloid britannico The Sun, Kevin Warwick, ricercatore di robotica alla Coventry University, mette in guardia dai rischi di un'intelligenza artificiale troppo intelligente. E si chiede quanto potrebbero diventare pericolosi due robot militari, magari armati, che inizino a parlare una lingua incomprensibile per l'uomo. Ma questa è ancora fantascienza (crediamo...).