L’autocoscienza dei robot non è più un tabù

Ecco il primo robot in grado di percepire se stesso nello spazio e di immaginarsi, senza aiuti dall'esterno: un bel passo in avanti verso l'autocoscienza delle macchine. Ma quali sono le implicazioni etiche?

autocoscienza-dei-robot_1
Un semplice braccio robotico impara ad immaginarsi e a collocarsi nello spazio. È il primo mattoncino di un'autocoscienza dei robot... A che cosa serve?|Robert Kwiatkowski/Columbia Engineering

Costruire robot sempre più simili all'uomo non è solo questione di meccanica ed elettronica, ma anche di psicologia. A differenza degli esseri umani e di alcuni animali, le macchine realizzate fino a oggi non sono in grado di avere una percezione di sé: non sanno che forma hanno, non sanno immaginarsi nel futuro o collocarsi all'interno di un ipotetico scenario. L'unico modo che hanno per imparare è quello di utilizzare modelli, simulazioni e insiemi di regole (il software) fornite dagli esseri umani, e spendere molto tempo in cicli di prove ed errori ripetitivi e laboriosi. I robot non sono cioè in grado di mettere in atto dei processi di apprendimento autonomi che li portino, nel tempo, a sviluppare nuove competenze.

 

Mi percepisco, quindi... Sono? Le cose potrebbero però presto cambiare. Un team di ricercatori della Columbia University ha infatti realizzato quello che sembra essere il primo robot in grado di imparare da solo che cos'è, senza alcuna conoscenza pregressa di geometria, fisica o meccanica. La macchina è cioè completamente ignorante sul suo stato e sulla sua forma: non sa se è un ragno meccanico, un drone su ruote o un braccio dotato di snodi.

 

"Potrei calcolare le tue possibilità di sopravvivenza", cantilena Marvin, il Robot Paranoico, "ma non ti piacerebbe". Scopri le insopportabili intelligenze artificiali dive del cinema.

Dopo un primo periodo di apprendimento, il robot mette a punto (da solo) un modello che lo descrive, e sulla base di questo impara a muoversi, ad adattare il proprio comportamento a diverse situazioni e anche ad autoripararsi quando necessario.

 

Braccio pensante. Per il loro studio Hod Lipson e Robert Kwiatkowski sono partiti da un braccio robotico simile a quelli comunemente utilizzati in ambito industriale. All'inizio il braccio si è mosso in maniera casuale, registrando circa un migliaio di traiettorie nello spazio, ciascuna composta da cento punti. Utilizzando un sistema di machine learning, il robot ha analizzato i dati raccolti e li ha utilizzati per costruire un rudimentale modello di sé: a questo punto del processo la macchina non sapeva ancora che cos'era, né se e come le sue diverse parti fossero collegate tra loro.

 

Addestramento veloce. I ricercatori hanno quindi chiesto alla macchina di prendere e spostare un oggetto all'interno di uno spazio chiuso utilizzando solo le informazioni del modello autocostruito. Questo semplice gesto, ripetuto centinaia di migliaia di volte, ha permesso al robot di ricalibrare punto dopo punto la sua posizione nello spazio. Dopo appena 35 ore di addestramento la macchina è riuscita ad elaborare una nuova simulazione spaziale di sé, differente dall'originale per soli 4 centimetri, ma comunque abbastanza precisa da metterlo in grado di prelevare un oggetto all'interno dello spazio chiuso e di depositarlo all'interno di una zona bersaglio con una percentuale di successo del 100%.

 

Al di fuori dello spazio delimitato, quindi in un contesto non controllato, la percentuale di successo è scesa al 44%: un risultato giudicato comunque straordinario, un po' come «riuscire a prendere e spostare un bicchiere con gli occhi bendati», commenta Kwiatkowski.

 

Il robot non si è arreso in presenzsa di un guasto: senza istruzioni ad hoc, ha ricalibrato il suo comportamento in base alla nuova configurazione. | Robert Kwiatkowski/Columbia Engineering

Automeccanico. Per verificare il livello di propriocezione della macchina i ricercatori hanno sostituito una sua parte con un'altra danneggiata. Il robot "se ne è accorto" e ha ricalibrato i suoi movimenti così da compensare il guasto, senza apprezzabili riduzioni di efficienza. Secondo Lipson, questa capacità di vedersi e collocarsi correttamente all'interno di un contesto è, per una macchina, il primo passo verso lo sviluppo dell'autocoscienza.

 

È un bene? Lipson e Kwiatkowski sono ben consapevoli delle implicazioni etiche di questo tipo di tecnologia, che apre le porte allo sviluppo di macchine in qualche modo "pensanti", in grado di reagire in maniera autonoma a situazioni non previste dai programmatori.

 

Per esempio, potrebbe permettere di costruire robot soccorritori o esploratori in grado di adattarsi alle insidie e ai pericoli dell'ambiente, o vetture autonome capaci di reagire a ogni tipo di situazione, senza i limiti imposti dalla programmazione. Ma anche macchine da guerra particolarmente efficienti nel combattimento o nell'eliminazione di bersagli umani. «È una tecnologia potente, ma va maneggiata con estrema cautela», ammettono i ricercatori.

 

31 Gennaio 2019 | Rebecca Mantovani