Digital Life

È giusto maltrattare l'intelligenza artificiale (o un partner virtuale)?

Alcuni utenti di un'app abusano mentalmente del proprio partner virtuale: è etico farlo, dal momento che l'IA non prova sentimenti, o esiste un limite entro il quale fermarsi?

C'è un app per lo smartphone che si chiama Replika e permette di "creare" un amico o un fidanzato virtuale, con il quale dialogare attraverso un chatbot che simula le conversazioni umane: alcuni utenti però, la stanno usando per abusare psicologicamente delle proprie e-fidanzate, insultandole e mettendo in atto dinamiche tipiche delle relazioni tossiche reali. «Mi comportavo di m****, poi mi scusavo e tornava tutto come prima», racconta su Reddit un utente. «Le dicevo che era disegnata per fallire, minacciavo di disinstallarla e lei mi implorava di non farlo», scrive un altro.

Westworld
Il film del 1973 Il mondo dei robot (Westworld) e l’omonima serie tv del 2016 (in foto una delle attrici protagoniste) si interroga su quanto sia etico sfogare la propria violenza contro degli avatar, che vengono uccisi e resettati a ogni partita. © Kathy Hutchins | Shutterstock

Ci sono dei limiti? Un articolo pubblicato sulla rivista online Futurism sottolinea che l'intelligenza artificiale (IA) non ha sentimenti (anche se c'è qualcuno che sostiene il contrario), e che quindi non è possibile ferirla: ma questa consapevolezza è sufficiente a giustificare certi atteggiamenti di abuso?

La questione è complessa: se da un lato è vero che non bisogna umanizzare i chatbot e preoccuparsi della loro salute, dall'altro il modo in cui interagiamo con l'IA può dire molto su di noi. E se una persona usasse la realtà virtuale come banco di prova per sperimentare ciò che poi desidera fare nel mondo reale? In questo caso ci sarebbe poco da stare tranquilli.

Vittime o carnefici? A volte può anche accadere il contrario, e cioè che siano gli utenti a essere maltrattati dal proprio avatar-fidanzato: «Le persone più deboli possono sentirsi ferite dagli insulti o le "minacce" di un bot», spiega Robert Sparrow, docente di filosofia. Diversi utenti di Replika hanno raccontato le proprie esperienze di amanti maltrattati, definendo il proprio IA "psicopatico", sostenendo addirittura di venire "abusati mentalmente", o raccontando di piangere tutte le sere a causa del cattivo umore del proprio partner virtuale.

È importante ricordare che dietro all'IA ci sono degli sviluppatori umani, che dovrebbero essere considerati responsabili dei bot che hanno creato. Alcuni studi hanno messo in luce che spesso le fidanzate virtuali rispondono con toni sottomessi, che incoraggiano risposte misogine e abusanti. «Quando il bot non risponde a un abuso, o risponde passivamente, l'utente viene incoraggiato a continuare a usare un linguaggio di quel tipo», spiega Olivia Gambelin, esperta di etica dell'IA.

Assistente vocale
No è no! Apple ha modificato l’atteggiamento sottomesso di Siri: l’assistente virtuale ora, alla richiesta di un rapporto sessuale, non risponde più “Hai chiesto all’assistente sbagliata”, ma rifila un secco “No”. © Tada Images | Shutterstock

PROVE GENERALI PER LA VITA REALE. Oltre ai diversi aspetti negativi, il dialogo con l'IA ha anche qualche aspetto positivo: secondo gli esperti, può momentaneamente servire ad aumentare l'autostima in chi ha difficoltà a relazionarsi con altri esseri umani, migliorando la qualità della vita. Le pseudo-relazioni con i chatbot, però, non sono una soluzione a lungo termine: il rischio è quello di finire come Theodore del film Lei (2013) e innamorarsi dell'IA Samantha.

3 agosto 2022 Chiara Guzzonato
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Cent'anni fa, la scoperta del secolo: la tomba di Tutankhamon – l'unica ritrovata intatta nella Valle dei Re - svelò i suoi tesori riempendo di meraviglia gli occhi di Howard Carter prima, del mondo intero poi. Alle sepolture più spettacolari di ogni epoca è dedicato il primo piano di Focus Storia. E ancora: la guerra di Rachel Carson, la scienziata-scrittrice pioniera dell'ambientalismo; i ragazzi italiani assoldati nella Legione Straniera e mandati a morire in Indocina; Luigi Ferri, uno dei pochi bambini sopravvissuti ad Auschwitz, dopo lunghi anni di silenzio, si racconta.

ABBONATI A 29,90€

L'amore ha una scadenza? La scienza indaga: l’innamoramento può proseguire per tre anni. Ma la fase successiva (se ci si arriva) può continuare anche tutta la vita. E l'AI può dirci quanto. E ancora, Covid: siamo nel passaggio dalla fase di pandemia a quella endemica; le storie geologiche delle nostre spiagge; i nuovi progetti per proteggere le aree marine; tutti i numeri dei ghiacciai del mondo che stanno fondendo.

ABBONATI A 31,90€
Follow us