Digital Life

Alexa ci spia? Un po' sì, ma lo fa per aiutarci meglio...

Alexa, come tutti gli altri "altoparlanti intelligenti", non solo ascolta ciò che diciamo, ma registra alcuni brani delle nostre conversazioni. Queste poi arrivano alle orecchie di esseri umani che le analizzano. A che scopo? Il punto sullo scandalo-privacy che coinvolge i big dell'hi-tech.
 

Diciamolo subito: sì, Alexa, lo smart speaker di Amazon, ci ascolta. O meglio, qualcuno negli uffici di Amazon ascolta ciò che noi diciamo ad Alexa. Ma andiamo con ordine e, prima di cedere alla polemica e al complottismo, cerchiamo di capire come funziona il sistema di intelligenza artificiale che permette a uno smart speaker di rispondere correttamente alle nostre richieste.

La news. Lo scorso 11 aprile Bloomberg ha pubblicato un’inchiesta nella quale racconta con dovizia di particolari come dietro ad Alexa ci sia un nutrito gruppo di impiegati e fornitori di Amazon che ascolta 24 ore su 24 le registrazioni delle conversazioni tra Alexa e i suoi utenti.
Sembra insomma che da “Alexa accendi la luce”, a “Alexa fammi sentire l’ultimo brano di Fedez” o “dimmi che tempo farà nel week-end a Riccione”, ciò che ci diciamo con il nostro altoparlante intelligente non sia del tutto privato, e venga più o meno regolarmente ascoltato da esseri umani in carne e ossa.

Ma perché Amazon è così interessata a ciò che gli utenti chiedono al loro assistente domestico? L’obiettivo di questo “ascolto” su larga scala non è tanto quello di infilarsi di soppiatto nelle case di milioni di persone in tutto il mondo, quanto quello di raccogliere informazioni utili al miglioramento del sistema di riconoscimento vocale che permette ad Alexa di funzionare. Come ben spiegato nell’inchiesta di Bloomberg, gli addetti all’ascolto di Amazon trascrivono le registrazioni delle richieste degli utenti, le confrontano con la risposta data da Alexa e, in caso di errori, provvedono ad apportare le necessarie correzioni al software.

Il lato umano dell’AI. «Quando pensiamo ad uno smart speaker non pensiamo che dietro possa esserci un essere umano che ascolta ciò che gli diciamo», spiega a Bloomberg Florian Schaub, esperto di privacy informatica alla University of Michigan. «Siamo erroneamente portati a credere che le risposte ci arrivino da Alexa come per magia, ma in realtà la componente umana in un sistema di machine learning è ancora fondamentale». In altre parole Amazon non farebbe altro che perfezionare l’addestramento dei suoi sistemi di intelligenza artificiale, ai quali viene spiegato "manualmente" quale tipo di risposta devono fornire a una certa domanda.


Il cervello di Alexa. Se quindi Alexa sa rispondere alle nostre richieste è perché qualcuno le ha insegnato cosa fare: come i suoi concorrenti, anche l’AI di Amazon si affida alle reti neurali, software che replicano i meccanismi del cervello umano e forniscono risposte basate su grandi quantità di dati. Se le chiedete “trovami un cinese qui vicino”, sa che probabilmente state cercando un ristorante e non un cittadino di Beijing.

Ok, ma… come la mettiamo con la privacy? Nei termini e condizioni sull’utilizzo di Alexa, al punto 1.3, Amazon non spiega esplicitamente che qualcuno ascolta ciò che diciamo. Si limita a dire che le nostre richieste al sistema sono trasmesse al cloud per permettere ad Alexa di imparare e diventare sempre più intelligente.

Amazon ha comunque risposto a Bloomberg spiegando come la privacy degli utenti sia una priorità per l’azienda, come i file audio con le registrazioni non siano associati a dati personali degli utenti ma solo al loro codice cliente e come i dipendenti non siano in grado di associarli a nomi e cognomi.

Certo, come riportato da Bloomberg, può succedere che gli operatori si scambino i file tra loro, sia per motivi professionali - per esempio per approfondire casi specifici - ma anche per farsi due risate su ciò che sentono. Poco professionale, certamente, ma... chi resisterebbe alla tentazione?

La parola magica. Va specificato come Alexa, così come Echo di Google o Siri di Apple, non siano costantemente in ascolto di ciò che diciamo, ma si risveglino solo quando sentono la parola di attivazione.

Ma potrebbe accadere che Alexa, una volta attivata, registri brani di conversazione che dovrebbero rimanere privati, per esempio dettagli sulla salute di qualcuno o informazioni relative a un conto corrente.

Secondo Amazon questi file sono marcati come contenenti dati critici e non vengono ulteriormente lavorati. Oppure potrebbe attivarsi inavvertitamente - per esempio se un personaggio di una serie tv o di un film pronuncia il nome “Alexa” - e iniziare a catturare ciò che dicono le persone presenti nella stanza.

Ma l’interessata cosa dice? Se provate a chiedere ad Alexa se vi sta spiando o se lavora per la CIA, vi risponderà che no, non lavora per loro e che manda l’audio ad Amazon solo quando si attiva.

12 maggio 2019 Rebecca Mantovani
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Sulle orme di Marco Polo, il nostro viaggiatore più illustre che 700 anni fa dedicò un terzo della sua vita all’esplorazione e alla conoscenza dell’Oriente, in un’esperienza straordinaria che poi condivise con tutto il mondo attraverso "Il Milione". E ancora: un film da Oscar ci fa riscoprire la figura di Rudolf Höss, il comandante di Auschwitz che viveva tranquillo e felice con la sua famiglia proprio accanto al muro del Lager; le legge e le norme che nei secoli hanno vessato le donne; 100 anni fa nasceva Franco Basaglia, lo psichiatra che "liberò" i malati rinchiusi nei manicomi.

ABBONATI A 29,90€

Che cosa c’era "prima"? Il Big Bang è stato sempre considerato l’inizio dell’universo, ma ora si ritiene che il "nulla" precedente fosse un vuoto in veloce espansione. Inoltre, come si evacua un aereo in caso di emergenza? Il training necessario e gli accorgimenti tecnici; che effetto fa alla psiche il cambiamento climatico? Genera ansia ai giovani; esiste la distinzione tra sesso e genere tra gli animali? In alcune specie sì. Con quali tecniche un edificio può resistere a scosse devastanti? Siamo andati nei laboratori a prova di terremoti.

 

ABBONATI A 31,90€
Follow us