Digital Life

È giusto maltrattare l'intelligenza artificiale (o un partner virtuale)?

Alcuni utenti di un'app abusano mentalmente del proprio partner virtuale: è etico farlo, dal momento che l'IA non prova sentimenti, o esiste un limite entro il quale fermarsi?

C'è un app per lo smartphone che si chiama Replika e permette di "creare" un amico o un fidanzato virtuale, con il quale dialogare attraverso un chatbot che simula le conversazioni umane: alcuni utenti però, la stanno usando per abusare psicologicamente delle proprie e-fidanzate, insultandole e mettendo in atto dinamiche tipiche delle relazioni tossiche reali. «Mi comportavo di m****, poi mi scusavo e tornava tutto come prima», racconta su Reddit un utente. «Le dicevo che era disegnata per fallire, minacciavo di disinstallarla e lei mi implorava di non farlo», scrive un altro.

Westworld
Il film del 1973 Il mondo dei robot (Westworld) e l’omonima serie tv del 2016 (in foto una delle attrici protagoniste) si interroga su quanto sia etico sfogare la propria violenza contro degli avatar, che vengono uccisi e resettati a ogni partita. © Kathy Hutchins | Shutterstock

Ci sono dei limiti? Un articolo pubblicato sulla rivista online Futurism sottolinea che l'intelligenza artificiale (IA) non ha sentimenti (anche se c'è qualcuno che sostiene il contrario), e che quindi non è possibile ferirla: ma questa consapevolezza è sufficiente a giustificare certi atteggiamenti di abuso?

La questione è complessa: se da un lato è vero che non bisogna umanizzare i chatbot e preoccuparsi della loro salute, dall'altro il modo in cui interagiamo con l'IA può dire molto su di noi. E se una persona usasse la realtà virtuale come banco di prova per sperimentare ciò che poi desidera fare nel mondo reale? In questo caso ci sarebbe poco da stare tranquilli.

Vittime o carnefici? A volte può anche accadere il contrario, e cioè che siano gli utenti a essere maltrattati dal proprio avatar-fidanzato: «Le persone più deboli possono sentirsi ferite dagli insulti o le "minacce" di un bot», spiega Robert Sparrow, docente di filosofia. Diversi utenti di Replika hanno raccontato le proprie esperienze di amanti maltrattati, definendo il proprio IA "psicopatico", sostenendo addirittura di venire "abusati mentalmente", o raccontando di piangere tutte le sere a causa del cattivo umore del proprio partner virtuale.

È importante ricordare che dietro all'IA ci sono degli sviluppatori umani, che dovrebbero essere considerati responsabili dei bot che hanno creato. Alcuni studi hanno messo in luce che spesso le fidanzate virtuali rispondono con toni sottomessi, che incoraggiano risposte misogine e abusanti. «Quando il bot non risponde a un abuso, o risponde passivamente, l'utente viene incoraggiato a continuare a usare un linguaggio di quel tipo», spiega Olivia Gambelin, esperta di etica dell'IA.

Assistente vocale
No è no! Apple ha modificato l’atteggiamento sottomesso di Siri: l’assistente virtuale ora, alla richiesta di un rapporto sessuale, non risponde più “Hai chiesto all’assistente sbagliata”, ma rifila un secco “No”. © Tada Images | Shutterstock

PROVE GENERALI PER LA VITA REALE. Oltre ai diversi aspetti negativi, il dialogo con l'IA ha anche qualche aspetto positivo: secondo gli esperti, può momentaneamente servire ad aumentare l'autostima in chi ha difficoltà a relazionarsi con altri esseri umani, migliorando la qualità della vita.

Le pseudo-relazioni con i chatbot, però, non sono una soluzione a lungo termine: il rischio è quello di finire come Theodore del film Lei (2013) e innamorarsi dell'IA Samantha.

3 agosto 2022 Chiara Guzzonato
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Focus Storia ci porta indietro al 1914, l'anno fatale che segnò l'inizio della Prima Guerra Mondiale. Attraverso un'analisi dettagliata degli eventi, delle alleanze politiche e degli imperi coloniali, la rivista ricostruisce il contesto storico che portò al conflitto.

Scopriremo le previsioni sbagliate, le ambiguità e il gioco mortale delle alleanze che contribuirono a scatenare la guerra. Un focus sulle forze in campo nel 1914 ci mostrerà l'Europa divisa in due blocchi pronti allo scontro, mentre un'analisi delle conseguenze della pace di Versailles ci spiegherà perché non durò a lungo.

Non mancano le storie affascinanti come quella di Agnès Sorel, amante di Carlo VII, e di Moshe Feldenkrais, inventore dell'omonimo metodo terapeutico. Un viaggio nell'arte ci porterà alla scoperta della Street Art e della Pop Art nel nuovo JMuseo di Jesolo, mentre uno sguardo alla scienza ci farà conoscere le scienziate che non hanno avuto i meritati riconoscimenti.

ABBONATI A 29,90€

Focus si immerge nel Mediterraneo con un dossier speciale: un ecosistema minacciato, ma ricco di biodiversità e aree marine protette cruciali. Scopriremo l'importanza della Posidonia oceanica e le minacce alla salute del mare.

La rivista esplora anche scienza e tecnologia, svelando i segreti dei papiri di Ercolano e portandoci dietro le quinte del supercomputer Leonardo. Un viaggio nell'archeoastronomia e un'inchiesta sul ruolo del tatto nella società umana arricchiscono il numero.

Non mancano approfondimenti sulla salute, con un focus sull'Alzheimer e consigli per migliorare il sonno. La tecnologia è protagonista con uno sguardo al futuro dei gasdotti italiani e alle innovazioni nel campo delle infrastrutture. Infine, uno sguardo all'affascinante mondo dell'upupa.

ABBONATI A 31,90€
Follow us