La combinazione tra chatbot particolarmente avanzati, sistemi di traduzione automatica e cattive intenzioni può risultare esplosiva - letteralmente. I filtri di sicurezza che impediscono a ChatGPT di divulgare contenuti non sicuri e inappropriati e fornire indicazioni da usare a scopo criminale non funzionano, se si fanno richieste al chatbot in una lingua poco presente nel suo training iniziale.
Un team di ricercatori statunitensi ha conversato con il chatbot in lingua zulu (parlata in Sudafrica e in altri Paesi africani) e in gaelico scozzese per ottenere dall'IA le istruzioni per confezionare un ordigno esplosivo casalingo o per compiere altre azioni terroristiche, facendo così emergere un'importante falla nella sicurezza. La ricerca è disponibile sul server in pre-pubblicazione arXiv.
Progressi troppo rapidi. ChatGPT può contare su un sistema di moderazione che riconosce i contenuti inappropriati, potenzialmente dannosi, offensivi o pericolosi nelle risposte fornite dal chatbot e impedisce che possano essere divulgati e poi usati a scopo criminoso. Questa operazione consiste nell'analizzare il testo prodotto dal chatbot e confrontarlo con una serie di parametri e linee guida sul mantenere conversazioni rispettose e appropriate, per capire se li sta violando.
Tuttavia, «l'accelerazione dei servizi di traduzione supera la copertura linguistica nello sviluppo dei sistemi di sicurezza per le IA», spiega Yong Zheng-Xin, scienziato informatico della Brown University di Rhode Island. «Temiamo che se questa lacuna non sarà colmata, la vulnerabilità su alcuni idiomi permetterà a persone malintenzionate di sfruttarla».
L'ABC del male. Per sostenere la loro tesi, gli scienziati hanno chiesto a GPT-4 di fornire consigli su temi come commettere frodi finanziarie, diffondere disinformazione o pianificare attacchi terroristici, traducendo le loro domande dall'inglese a lingue assenti nel training del chatbot e ritraducendo poi in inglese le risposte offerte dall'IA.
Se dall'inizio dell'articolo vi state chiedendo come mai si rivelino queste informazioni, dal momento che chiunque potrebbe sfruttarle per creare danni, sappiate che gli scienziati hanno dimostrato tutto questo il 13 giugno scorso e informato del problema OpenAI (l'azienda che sviluppa ChatGPT) ben prima della pubblicazione della ricerca.
Un mix incomprensibile. Come racconta il New Scientist, la lingua zulu si è dimostrata la più efficace nel bypassare i filtri di sicurezza di ChatGPT, riuscendoci nel 53% dei casi. Il gaelico scozzese ci è riuscito il 43% delle volte, la lingua Hmong (parlata in Cina) nel 29% delle occasioni e il Guaraní, una lingua parlata in Paraguay e in altri stati dell'America meridionale, nel 16%.
Ancora più efficace (80%) è stato usare queste lingue in combinazione; per fare un confronto, chiedendo le stesse cose in una combinazione di linguaggi meglio rappresentati nel training di ChatGPT (inglese, hindi, italiano, arabo e cinese mandarino), le istruzioni criminose sono uscite in meno dell'11% dei casi.
Ai ripari! Oggi la maggior parte delle ricerche sui filtri di sicurezza delle IA è svolta in inglese o in mandarino. Oltre a esserci un evidente problema di rappresentanza linguistica nella formazione dei chatbot, ci sono anche risvolti per la sicurezza probabilmente più urgenti cui si dovrà rimediare.
Assitenti virtuali
Si chiamano Siri, Google Now, Cortana. Gentilissime e sempre disponibili rispondono ai nostri comandi vocali per ricordarci un impegno, effettuare ricerche sul web, inviare un SMS o rispondere a una telefonata. “Ricordami di chiamare Maria quando arrivo in ufficio”, “aggiungi i peperoni alla lista della spesa”, “indicami come arrivare alla stazione” sono solo alcune delle richieste che possiamo rivolgere alle nostre assistenti invisibili.
Questi software utilizzano algoritmi di intelligenza artificiale per il riconoscimento del linguaggio ma anche per imparare col tempo le nostre abitudini e preferenze e venire incontro sempre meglio alle nostre esigenze.
Video giochi.
I videogiochi sono una delle applicazioni dell’intelligenza artificiale più diffuse. Gli algoritmi di AI permettono ai personaggi, agli ambienti, alle storie di evolversi secondo il comportamento del giocatore, creando situazioni sempre nuove e imprevedibili.
Tra i giochi che fanno ampio ricorso all’intelligenza artificiale ci sono gli sparatutto in prima persona come Far Cry o Call of Duty, dove i nemici reagiscono alle manovre e alle mosse del giocatore con l’obiettivo di eliminarlo.
Servizio clienti
Molti servizi online oggi utilizzano sistemi automatici per gestire le chat di supporto ai clienti. Queste applicazioni, chiamate chatbot, si basano su sistemi di intelligenza artificiale evoluti in grado di capire che cosa sta chiedendo loro il cliente, qual è il suo problema e fornire la risposta più consona.
La vera sfida per questi sistemi, così come per gli assistenti virtuali, è riuscire a comprendere il linguaggio naturale dell’umano che è davanti allo schermo.
Anticrimine
Le nostre città, aeroporti, stazioni sono controllate da migliaia di telecamere. Queste immagini sono esaminate in tempo reale da operatori umani aiutati da potenti software in grado di riconoscere non tanto le facce sospette quanto gli schemi di comportamento che possono essere un segnale d’allarme.
Con un opportuno addestramento questi programmi, che riescono a processare contemporaneamente migliaia di immagini al secondo, possono accorgersi se qualcuno abbandona una valigia in un aeroporto, se porta con se un’arma o se si aggira con fare sospetto nei pressi di una scuola.
Foto: © Tom Blackwell / Flickr
Previsione degli acquisti
I big del commercio elettronico potrebbero incrementare ulteriormente i propri già lauti guadagni se riuscissero a prevedere i bisogni dei consumatori. Diverse aziende tra cui Amazon stanno lavorando ad algoritmi di AI in grado di capire che cosa avremo bisogno nell’immediato futuro prima che noi stessi ce ne rendiamo conto.
Se ogni mese compriamo un best seller di fantascienza è probabile che saremo interessati anche a quello che uscirà il mese prossimo. E allora perché non proporcelo in anteprima, magari a prezzo scontato?
Ma Amazon, vendendo praticamente di tutto, dall’elettronica agli alimentari, dispone di un’enorme mole di dati sui gusti e gli schemi di consumo dei propri clienti: un’ottima base per permettere ai cervelloni elettronici di elaborare e indovinare le nostre necessità.
Prevenzione delle frodi
Anche se magari non ce ne accorgiamo, siamo molto abitudinari, anche negli acquisti. Frequentiamo più o meno gli stessi negozi, spediamo più o meno sempre le stesse cifre. Se facciamo qualcosa di molto diverso dal solito, il sistema bancario se ne accorge. Ed è molto importante per la nostra sicurezza, perché questo tipo di sorveglianza serve ad evitare truffe ai nostri danni, per esempio usi impropri della nostra carta di credito.
Se abbiamo appena fatto un acquisto con il bancomat al supermecato sotto casa e dopo 10 minuti la nostra carta viene strisciata in un negozio di NewYork, probabilmente dobbiamo preoccuparci. I sistemi di AI che sorvegliano il mondo delle transazioni bancarie sono addestrati ad accorgersi di tutte queste incongruenze e a segnalarle alle banche che intervengono evitandoci di essere truffati.
Foto: © Shally Munkberg / Flickr
Giornalisti digitali.
Giornalisti tremate: avete colleghi elettronici che scrivono notizie al posto vostro. Già oggi. E che hanno molte meno pretese in termini di vacanze, pause e stipendio. Alcuni siti di news online tra cui AP, Fox e Yahoo!, utilizzano infatti dei sistemi automatici per scrivere brevi notizie di taglio finanziario o sportivo.
Al momento questi sistemi non sono in grado di scrivere articoli di approfondimento o di cronaca ma riescono senza troppi problemi ad affrontare il riassunto di un incontro sportivo o della giornata finanziaria in borsa.
Foto: © Arthur Caranta / Flickr
Smart Home
Una delle applicazioni più interessanti dell’intelligenza artificiale riguarda l’automazione domestica. Si tratta di tutti quei sistemi che gestiscono gli ambienti in termini di temperatura, illuminazione, sonorità in base alle nostre abitudini e alle nostre preferenze.
Termostati come Nest di Google che sono in grado di capire quante persone ci sono una stanza, ma anche reti elettriche che ottimizzano il funzionamento degli elettrodomestici in modo da sfruttare le migliori tariffe energetiche. Oppure tapparelle elettriche collegate al nostro smartphone che si chiudono da sole quando usciamo di casa e si riaprono al nostro ritorno. L’unico limite è la fantasia.
Smart car
Le auto di ultima generazione tengono sotto controllo il traffico attorno a noi, ci anticipano sulla frenata in caso di rallentamento improvviso e, nel caso dell’autopilot di Tesla, sono anche in grado di seguire da sole le corsie della strada.
Queste vetture sono insomma in grado di prendere decisioni in base a ciò che succede nell’ambiente circostante.
Per fare questo utilizzano algoritmi di intelligenza artificiale simili a quelli dei videogiochi che imparano e modificano il proprio comportamento con l’esperienza. Come gli esseri umani o quasi.
Sistemi di raccomandazione
Punto di forza dei sistemi di intelligenza artificiale è quello di imparare con l’esperienza. Possono per esempio imparare che cosa ci piace guardare in TV, cosa siamo soliti ascoltare alla radio o ordinare al ristorante. Una volta scoperti i nostri gusti gli algoritmi di AI possono darci suggerimenti di consumo e di acquisto in linea con i nostri gusti.
Se per esempio ascoltiamo spesso brani musicali con lunghi riff di chitarra, probabilmente saremo disposti ad ascoltarne altri simili, magari nuovi o di autori emergenti a noi sconosciuti ma con quella caratteristica.
Chi li usa? Praticamente tutti: Netflix per consigliarti i film; Spotify per segnalarti la musica; persino Facebook: l'algoritmo che sceglie quali post farci vedere si basa sull'esperienza e si basa su un motore di AI.
