Digital Life

È giusto maltrattare l'intelligenza artificiale (o un partner virtuale)?

Alcuni utenti di un'app abusano mentalmente del proprio partner virtuale: è etico farlo, dal momento che l'IA non prova sentimenti, o esiste un limite entro il quale fermarsi?

C'è un app per lo smartphone che si chiama Replika e permette di "creare" un amico o un fidanzato virtuale, con il quale dialogare attraverso un chatbot che simula le conversazioni umane: alcuni utenti però, la stanno usando per abusare psicologicamente delle proprie e-fidanzate, insultandole e mettendo in atto dinamiche tipiche delle relazioni tossiche reali. «Mi comportavo di m****, poi mi scusavo e tornava tutto come prima», racconta su Reddit un utente. «Le dicevo che era disegnata per fallire, minacciavo di disinstallarla e lei mi implorava di non farlo», scrive un altro.

Westworld
Il film del 1973 Il mondo dei robot (Westworld) e l’omonima serie tv del 2016 (in foto una delle attrici protagoniste) si interroga su quanto sia etico sfogare la propria violenza contro degli avatar, che vengono uccisi e resettati a ogni partita. © Kathy Hutchins | Shutterstock

Ci sono dei limiti? Un articolo pubblicato sulla rivista online Futurism sottolinea che l'intelligenza artificiale (IA) non ha sentimenti (anche se c'è qualcuno che sostiene il contrario), e che quindi non è possibile ferirla: ma questa consapevolezza è sufficiente a giustificare certi atteggiamenti di abuso?

La questione è complessa: se da un lato è vero che non bisogna umanizzare i chatbot e preoccuparsi della loro salute, dall'altro il modo in cui interagiamo con l'IA può dire molto su di noi. E se una persona usasse la realtà virtuale come banco di prova per sperimentare ciò che poi desidera fare nel mondo reale? In questo caso ci sarebbe poco da stare tranquilli.

Vittime o carnefici? A volte può anche accadere il contrario, e cioè che siano gli utenti a essere maltrattati dal proprio avatar-fidanzato: «Le persone più deboli possono sentirsi ferite dagli insulti o le "minacce" di un bot», spiega Robert Sparrow, docente di filosofia. Diversi utenti di Replika hanno raccontato le proprie esperienze di amanti maltrattati, definendo il proprio IA "psicopatico", sostenendo addirittura di venire "abusati mentalmente", o raccontando di piangere tutte le sere a causa del cattivo umore del proprio partner virtuale.

È importante ricordare che dietro all'IA ci sono degli sviluppatori umani, che dovrebbero essere considerati responsabili dei bot che hanno creato. Alcuni studi hanno messo in luce che spesso le fidanzate virtuali rispondono con toni sottomessi, che incoraggiano risposte misogine e abusanti. «Quando il bot non risponde a un abuso, o risponde passivamente, l'utente viene incoraggiato a continuare a usare un linguaggio di quel tipo», spiega Olivia Gambelin, esperta di etica dell'IA.

Assistente vocale
No è no! Apple ha modificato l’atteggiamento sottomesso di Siri: l’assistente virtuale ora, alla richiesta di un rapporto sessuale, non risponde più “Hai chiesto all’assistente sbagliata”, ma rifila un secco “No”. © Tada Images | Shutterstock

PROVE GENERALI PER LA VITA REALE. Oltre ai diversi aspetti negativi, il dialogo con l'IA ha anche qualche aspetto positivo: secondo gli esperti, può momentaneamente servire ad aumentare l'autostima in chi ha difficoltà a relazionarsi con altri esseri umani, migliorando la qualità della vita.

Le pseudo-relazioni con i chatbot, però, non sono una soluzione a lungo termine: il rischio è quello di finire come Theodore del film Lei (2013) e innamorarsi dell'IA Samantha.

3 agosto 2022 Chiara Guzzonato
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Scipione e Annibale, Mario e Silla, Demostene e Filippo II di Macedonia... I giganti della Storia che hanno passato la loro vita a combattersi, sui campi di battaglia e non solo. E ancora: l'omicidio di Ruggero Pascoli, il padre del famoso poeta, rimasto impunito; il giro del mondo di Magellano e di chi tornò per raccontarlo; la rivoluzione scientifica e sociale della pillola anticoncezionale; nelle prigioni italiane dell'Ottocento; come, e perché, l'Inghilterra iniziò a colonizzare l'Irlanda.

 

ABBONATI A 29,90€

Tigri, orsi, bisonti, leopardi delle nevi e non solo: il ricco ed esclusivo dossier di Focus, realizzato in collaborazione con il Wwf, racconta casi emblematici di animali da salvare. E ancora: come la plastica sta entrando anche nel nostro organismo; che cos’è l’entanglement quantistico; come sfruttare i giacimenti di rifiuti elettronici; i progetti più innovativi per poter catturare l’anidride carbonica presente nell’atmosfera.

ABBONATI A 31,90€
Follow us