Innovazione

L’autocoscienza dei robot non è più un tabù

Ecco il primo robot in grado di percepire se stesso nello spazio e di immaginarsi, senza aiuti dall'esterno: un bel passo in avanti verso l'autocoscienza delle macchine. Ma quali sono le implicazioni etiche?

Costruire robot sempre più simili all'uomo non è solo questione di meccanica ed elettronica, ma anche di psicologia. A differenza degli esseri umani e di alcuni animali, le macchine realizzate fino a oggi non sono in grado di avere una percezione di sé: non sanno che forma hanno, non sanno immaginarsi nel futuro o collocarsi all'interno di un ipotetico scenario. L'unico modo che hanno per imparare è quello di utilizzare modelli, simulazioni e insiemi di regole (il software) fornite dagli esseri umani, e spendere molto tempo in cicli di prove ed errori ripetitivi e laboriosi. I robot non sono cioè in grado di mettere in atto dei processi di apprendimento autonomi che li portino, nel tempo, a sviluppare nuove competenze.

Mi percepisco, quindi... Sono? Le cose potrebbero però presto cambiare. Un team di ricercatori della Columbia University ha infatti realizzato quello che sembra essere il primo robot in grado di imparare da solo che cos'è, senza alcuna conoscenza pregressa di geometria, fisica o meccanica. La macchina è cioè completamente ignorante sul suo stato e sulla sua forma: non sa se è un ragno meccanico, un drone su ruote o un braccio dotato di snodi.

"Potrei calcolare le tue possibilità di sopravvivenza", cantilena Marvin, il Robot Paranoico, "ma non ti piacerebbe". Scopri le insopportabili intelligenze artificiali dive del cinema.

Dopo un primo periodo di apprendimento, il robot mette a punto (da solo) un modello che lo descrive, e sulla base di questo impara a muoversi, ad adattare il proprio comportamento a diverse situazioni e anche ad autoripararsi quando necessario.

Braccio pensante. Per il loro studio Hod Lipson e Robert Kwiatkowski sono partiti da un braccio robotico simile a quelli comunemente utilizzati in ambito industriale. All'inizio il braccio si è mosso in maniera casuale, registrando circa un migliaio di traiettorie nello spazio, ciascuna composta da cento punti. Utilizzando un sistema di machine learning, il robot ha analizzato i dati raccolti e li ha utilizzati per costruire un rudimentale modello di sé: a questo punto del processo la macchina non sapeva ancora che cos'era, né se e come le sue diverse parti fossero collegate tra loro.

Addestramento veloce. I ricercatori hanno quindi chiesto alla macchina di prendere e spostare un oggetto all'interno di uno spazio chiuso utilizzando solo le informazioni del modello autocostruito. Questo semplice gesto, ripetuto centinaia di migliaia di volte, ha permesso al robot di ricalibrare punto dopo punto la sua posizione nello spazio. Dopo appena 35 ore di addestramento la macchina è riuscita ad elaborare una nuova simulazione spaziale di sé, differente dall'originale per soli 4 centimetri, ma comunque abbastanza precisa da metterlo in grado di prelevare un oggetto all'interno dello spazio chiuso e di depositarlo all'interno di una zona bersaglio con una percentuale di successo del 100%.

Al di fuori dello spazio delimitato, quindi in un contesto non controllato, la percentuale di successo è scesa al 44%: un risultato giudicato comunque straordinario, un po' come «riuscire a prendere e spostare un bicchiere con gli occhi bendati», commenta Kwiatkowski.

Il robot non si è arreso in presenzsa di un guasto: senza istruzioni ad hoc, ha ricalibrato il suo comportamento in base alla nuova configurazione. © Robert Kwiatkowski/Columbia Engineering

Automeccanico. Per verificare il livello di propriocezione della macchina i ricercatori hanno sostituito una sua parte con un'altra danneggiata. Il robot "se ne è accorto" e ha ricalibrato i suoi movimenti così da compensare il guasto, senza apprezzabili riduzioni di efficienza. Secondo Lipson, questa capacità di vedersi e collocarsi correttamente all'interno di un contesto è, per una macchina, il primo passo verso lo sviluppo dell'autocoscienza.

È un bene? Lipson e Kwiatkowski sono ben consapevoli delle implicazioni etiche di questo tipo di tecnologia, che apre le porte allo sviluppo di macchine in qualche modo "pensanti", in grado di reagire in maniera autonoma a situazioni non previste dai programmatori.

Per esempio, potrebbe permettere di costruire robot soccorritori o esploratori in grado di adattarsi alle insidie e ai pericoli dell'ambiente, o vetture autonome capaci di reagire a ogni tipo di situazione, senza i limiti imposti dalla programmazione. Ma anche macchine da guerra particolarmente efficienti nel combattimento o nell'eliminazione di bersagli umani. «È una tecnologia potente, ma va maneggiata con estrema cautela», ammettono i ricercatori.

31 gennaio 2019 Rebecca Mantovani
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Settant’anni fa agli italiani arrivò un regalo inaspettato: la televisione. Quell’apparecchio – che pochi potevano comprare e quindi si vedeva tutti insieme – portò con sè altri doni: una lingua in comune, l’intrattenimento garantito, le informazioni da tutto il mondo. Una vera rivoluzione culturale e sociale di cui la Rai fu indiscussa protagonista. E ancora: i primi passi della Nato; i gemelli nel mito e nella società; la vita travagliata, e la morte misteriosa, di Andrea Palladio; quando, come e perché è nato il razzismo; la routine di bellezza delle antiche romane.

ABBONATI A 29,90€

I gemelli digitali della Terra serviranno a simularne il futuro indicando gli interventi più adatti per prevenirne i rischi ambientali. E ancora, le due facce dell’aggressività nella storia dell’evoluzione umana; com’è la vita di una persona che soffre di balbuzie; tutti gli strumenti che usiamo per ascoltare le invisibili onde gravitazionali che vengono dall’alba dell’universo; le pillole intelligenti" che dispensano farmaci e monitorano la salute del corpo.

ABBONATI A 31,90€
Follow us