Innovazione

Una nuova minaccia alle auto senza conducente

Aggiungendo un po' di "rumore" agli stimoli è possibile far credere ai software di aver visto o sentito qualcosa che non c'è: la tecnica potrebbe essere usata dagli hacker per beffare il riconoscimento di cartelli, pedoni e parcheggi nei veicoli autonomi.

L'uomo non è l'unico a potersi sbagliare a prima vista (o a primo ascolto): talvolta è sufficiente un paio di occhiali per beffare un esperto software di riconoscimento facciale.

Attenzione però: questo tipo di approccio può ingannare anche altri tipi di intelligenza artificiale, come quelli sui quali si basano le auto senza conducente. Aggiungendo un po' di "rumore" digitale a immagini e stimoli sonori si riesce a confondere i sistemi di riconoscimento vocale o quelli "visivi" dei veicoli.

L'allarme arriva da Moustapha Cissé, un ricercatore che si occupa di intelligenza artificiale per Facebook. Assieme ai colleghi ha verificato che anche piccole manipolazioni degli stimoli - difficili da notare persino per l'uomo - potrebbero essere utilizzate dagli hacker per spingere un'auto senza conducente a ignorare un parcheggio, un segnale stradale o un pedone, o per far sì che una videocamera di sorveglianza non si accorga del passaggio di un sospetto.

Inganno sottile. Questi sistemi sono detti esempi avversi (quello messo a punto dai nerd di Facebook si chiama, non a caso, Houdini, come il famoso illusionista) e portano le reti neurali a classificare in modo errato gli input esterni.

Indifese (per ora). Cissé ha dimostrato che gli algoritmi che controllano il sistema di classificazione delle immagini usato dalle auto a guida automatica possono essere ingannati da Houdini, un'eventualità particolarmente inquietante, se sfruttata dalle mani sbagliate, perché non esistono al momento sistemi per evitarlo. In futuro, le macchine ad apprendimento automatico potrebbero però imparare gradualmente a difendersi da sole.

Provateci sulla strada... Non tutti sono così pessimisti. David Forsyth dell'Università dell'Illinois at Urbana-Champaign ha realizzato un finto cartello stradale digitalmente manipolato, per mettere alla prova questi stessi algoritmi. Quando il segnale è stato mostrato a una telecamera in movimento - come quella delle auto senza conducente - il software non si è fatto fregare.

Meno asettico. Questo perché con gli stimoli distraenti già naturalmente presenti nel mondo reale, come i diversi angoli di incrocio, la luce, i lampi, gli esempi avversi sembrano funzionare meno che in laboratorio. Nel brusio generale gli inganni risultano cioè più difficili da notare.

Il team di OpenAI, l'organizzazione che mette in guardia dai rischi dello sviluppo sregolato dell'intelligenza artificiale, fa però notare che è possibile beffare i sistemi di riconoscimento di immagini anche presentando lo stimolo da diverse angolazioni. Non c'è che sperare che le macchine imparino a tutelarsi da sole. Per tentativi ed errori.

30 luglio 2017 Elisabetta Intini
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Nel nuovo numero di Focus Storia, in occasione delle elezioni presidenziali americane, esploriamo l'affascinante e complesso mondo della politica statunitense. Ci poniamo domande sul sistema elettorale, le sue radici storiche e i paradossi che lo caratterizzano, come la possibilità che un candidato vinca con meno voti popolari. L’articolo "Dentro il sistema" fa luce su questi meccanismi, mentre "Scenario complesso" racconta una delle tornate elettorali più particolari di 200 anni fa.

In "Risultati controversi" analizziamo le elezioni più contestate della storia americana, e con "Tattiche e strategie elettorali" esploriamo come le campagne presidenziali si sono evolute con l'arrivo di nuove tecnologie, dall’epoca della radio a quella dell’intelligenza artificiale.

Concludiamo con una visita virtuale alla Casa Bianca, simbolo della presidenza americana, e l’articolo "Presidenti nei guai", che svela i problemi legali in cui sono incappati alcuni dei leader più noti degli Stati Uniti.

ABBONATI A 29,90€

In questo numero di Focus ci immergiamo in un affascinante mix di scienza, tecnologia e curiosità, esplorando innovazioni che plasmeranno il nostro futuro.

Il dossier sulle neurotecnologie è il cuore di questa edizione, con articoli che affrontano la possibilità di controllare dispositivi elettronici con la mente in "L’alba del cervello cibernetico", le nuove opportunità economiche in "Neurobusiness", e le implicazioni etiche in "I diritti del nostro cervello".

Tra gli altri temi, troviamo una nuova generazione di protesi intelligenti sempre più sofisticate, e celebriamo i 50 anni dal famoso messaggio di Arecibo con "Pronto alieni?". Inoltre, scopriamo l’impatto della noia sul comportamento umano in "Se non ci fosse la noia" e il fenomeno globale dei manga in "Mangamania".

 

ABBONATI A 31,90€
Follow us