Digital Life

Con la sua intelligenza artificiale ChatGPT scrive articoli scientifici a prova di... revisione umana

Oltre a produrre conversazioni complesse, ChatGPT può scrivere abstract di articoli scientifici e pezzi divulgativi che sembrano scritti da umani.

Il chatbot di cui tutti parlano da settimane sa scrivere sintesi di articoli scientifici abbastanza credibili da ingannare gli stessi scienziati, una scoperta che sta gettando scompiglio nel mondo accademico e non solo. ChatGPT, un prototipo di intelligenza artificiale capace di comprendere il linguaggio umano e intrattenere conversazioni scritte anche molto complesse con gli utenti, ha prodotto finti abstract (cioè riassunti, anteprime) di pubblicazioni mediche, talmente verosimili da mettere in difficoltà gli incaricati del processo di revisione da cui di solito passa ogni articolo scientifico.

ChatGPT: che cos'è? ChatGPT è un chatbot, un software basato su intelligenza artificiale e machine learning sviluppato per simulare una conversazione con gli umani. È stato lanciato e rilasciato gratuitamente il 30 novembre dall'organizzazione di ricerca senza scopo di lucro OpenAI, fondata nel 2015 da alcuni big della Silicon Valley, tra cui Elon Musk, con lo scopo di "sviluppare un'intelligenza artificiale amichevole in modo che l'umanità possa trarne beneficio".

Più nello specifico ChatGPT, è un modello linguistico di grandi dimensioni, cioè addestrato con enormi quantità di testo generato dall'uomo. Può creare stringhe di testo realistiche su richiesta (per esempio: "digita un profilo per una app di incontri", o "scrivi una poesia sulla neve") e con una prosa convincente, anche se non necessariamente provvista di senso logico.

Prolisso e molto popolare. A differenza di altri modelli linguistici come GPT-3, lanciato nel 2020 sempre da OpenAI, è utilizzabile senza costi da chiunque abbia una connessione Internet, e negli ultimi mesi milioni di persone l'hanno utilizzato per divertimento, mettendo alla prova le sue doti di scrittore, insegnante, giornalista, cantautore... o per scopi più seri, come comporre email di lavoro o risposte da dare ai clienti che si rivolgono a un customer service. Ognuno di questi input allena ChatGPT al linguaggio umano.

lo riconoscI? Un gruppo di ricercatori guidato da Catherine Gao della Northwestern University di Chicago ha deciso di chiedere a ChatGPT di formulare gli abstract di 50 articoli di medicina presi da alcune delle più autorevoli riviste scientifiche del settore (JAMA, The New England Journal of Medicine, The BMJ, The Lancet e Nature Medicine) e di confrontarli agli originali sottoponendo il risultato ad altri scienziati, per testare la credibilità del lavoro della AI. Gli abstract generati dal chatbot sono stati inoltre dati in pasto a un sistema di controllo antiplagio e a uno che identifica l'output delle AI, per capire se e quanto ChatGPT riesca ad agire "sotto mentite spoglie".

Beccato! (O no?). Gli abstract del chatbot hanno passato indenni il controllo antiplagio, con un "punteggio di originalità" del 100%, equivalente a nessun plagio. Il rilevatore di AI ha distinto correttamente come fasulli il 66% degli abstract generati da ChatGPT, ma i revisori in carne ed ossa non hanno saputo fare molto di meglio. Hanno riconosciuto come falsi il 68% degli abstract del chatbot e come veri l'86% degli abstract originali. Significa che il 32% delle sintesi non reali sono state ritenute vere e che il 14% di quelle vere è stato ritenuto un fake. Insomma ChatGPT può mettere in difficoltà anche gli esperti di un campo del sapere, incaricati dalle riviste scientifiche di fare le pulci agli articoli prima che vengano pubblicati. Una presa di coscienza che apre a considerazioni etiche importanti.

Non bastavano le fake news... La ricerca scientifica ha infatti un ruolo fondamentale per la politica e la società, e decisioni che riguardano tutti noi potrebbero essere prese sulla base di articoli scientifici inesistenti, fabbricati ad arte. E anche se alcuni scienziati sono meno drastici nel tirare conclusioni, occorrerà fissare dei limiti chiari su quando e come questo tipo di AI possano essere usate in ambito accademico.

Chatbot giornalista. Il dibattito non riguarda soltanto le Università. Negli ultimi mesi il sito di tecnologia statunitense CNET ha usato un sistema di intelligenza artificiale per scrivere 73 articoli di spiegazione su temi finanziari, riletti dalla redazione per eliminare eventuali strafalcioni e poi firmati con lo pseudonimo "CNET Money". L'ha fatto in modo trasparente, in una sorta di esperimento scientifico, aggiungendo una breve didascalia in calce al titolo - eppure la maggior parte dei lettori se ne è accorta soltanto pochi giorni fa, quando un utente ne ha parlato apertamente su Twitter. Non solo: anche Google sembra non aver dato peso alla cosa, visto che alcuni di questi articoli sono stati premiati dal suo algoritmo salendo di posizione e generando un traffico notevole.

18 gennaio 2023 Elisabetta Intini
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Tre colpi, una manciata di secondi e JFK, il presidente americano più carismatico e popolare disempre finiva di vivere. A 60 anni di distanza, restano ancora senza risposta molte domande sudinamica, movente e mandanti del brutale assassinio. Su questo numero, la cronaca di cosa accadde quel 22 novembre 1963 a Dallas e la ricostruzione delle indagini che seguirono. E ancora: nei campi di concentramento italiani, incubo di ebrei e dissidenti; la vita scandalosa di Colette, la scrittrice più amata di Francia; quello che resta della Roma medievale.

ABBONATI A 29,90€

La caduta di un asteroide 66 milioni di anni fa cambiò per sempre gli equilibri della Terra. Ecco le ultime scoperte che sono iniziate in Italia... E ancora: a che cosa ci serve ridere; come fanno a essere indistruttibili i congegni che "raccontano" gli incidenti aerei; come sarebbe la nostra società se anche noi andassimo in letargo nei periodi freddi; tutti i segreti del fegato, l'organo che lavora in silenzio nel nostro corpo è una sofisticata fabbrica chimica.

ABBONATI A 31,90€
Follow us