Un fenomeno in crescita sta preoccupando il mondo accademico, al pari della crescita e il progredire delle IA: la proliferazione di disinformazione scientifica, articoli falsi, editori predatori e paper mills. Questi attori si fondono con l’innovazione tecnologica per creare un cocktail pericoloso. In particolare, il recente utilizzo di potenti sistemi di intelligenza artificiale, come ChatGPT, per generare abstract scientifici ingannevoli ha sollevato serie preoccupazioni.
I danni della disinformazione
Questo problema non si limita all’ambito accademico. Gli articoli scientifici ingannevoli possono portare a disinformazione pubblica e politiche ingiustificate, con conseguenze potenzialmente dannose. Un esempio è nel campo della Medicina, dove la disinformazione può influenzare le decisioni cliniche e le politiche sanitarie, mettendo a rischio la salute del pubblico. Tuttavia, in questo scenario difficile, ci sono attori che traggono beneficio. Gli editori predatori, ovvero organizzazioni che si fanno passare per legittime case editrici accademiche, e le paper mills (ne abbiamo parlato qui) sfruttano la pressione accademica per pubblicare, a prescindere dall’integrità della ricerca. La loro prosperità deriva dalla pubblicazione di articoli di bassa qualità o addirittura falsi, sfruttando il sistema accademico attuale che premia la quantità piuttosto che la qualità.
Per integrità della ricerca si intende alla pratica di aderire a principi etici e professionali di onestà e responsabilità nel condurre, riportare e applicare i risultati della ricerca. Questo include l’osservanza delle norme di condotta scientifica, come il rispetto per la veridicità dei dati, il riconoscimento dell’originalità del lavoro altrui attraverso corrette citazioni, la trasparenza nei processi di ricerca e la divulgazione completa di possibili conflitti di interesse. La pressione accademica, d’altra parte, riguarda le aspettative imposte ai ricercatori nel mondo accademico. Queste possono derivare da vari fattori, come la necessità di pubblicare regolarmente per ottenere promozioni o finanziamenti, l’ambizione di raggiungere scoperte innovative o la competizione per la riconoscibilità nel campo. In alcuni casi, questa pressione può portare a comportamenti eticamente discutibili, come la falsificazione o la fabbricazione di dati, l’elusione della revisione paritaria o la pubblicazione di articoli in riviste predatrici. Tali pratiche, oltre a minare l’integrità della ricerca, possono avere ripercussioni dannose per la comprensione pubblica della scienza e la progressione della conoscenza.
La minaccia all’integrità scientifica
L’equilibrio tra la promozione dell’integrità della ricerca e la mitigazione della pressione accademica è una questione centrale nella gestione della ricerca scientifica. È quindi necessario incoraggiare la condotta onesta e responsabile, fornire adeguato supporto ai ricercatori e sviluppare sistemi di valutazione che riconoscano la qualità oltre alla quantità delle pubblicazioni. Inoltre, con l’aumento delle pratiche disoneste, come l’utilizzo di “mulini di carta“ cioè organizzazioni o servizi che producono e vendono lavori di ricerca fraudolenti o di bassa qualità. Questi lavori possono essere completamente fabbricati, o prodotti in massa attraverso il riciclo di contenuti già pubblicati, senza l’apporto di nuove ricerche o scoperte. Diventa dunque sempre più importante sviluppare e utilizzare strumenti per identificare e prevenire la pubblicazione di ricerca falsa o ingannevole.
Prima di procedere, è inoltre importante spiegare due termini comuni nel mondo accademico: “salami slicing” e “p-hacking“. Il primo si riferisce alla pratica di scomporre una ricerca in più articoli, spesso allo scopo di aumentare il numero di pubblicazioni di un autore. Invece, il secondo è una manipolazione dei dati per ottenere risultati statisticamente significativi, anche quando tali risultati potrebbero non essere validi o riproducibili. Un ulteriore sviluppo preoccupante è il ruolo attivo di paesi come Russia e Cina nella produzione e commercializzazione di articoli generati da IA e nel funzionamento delle paper mills, come riferito da The Register.
Alcune false ricerche divenute famose
Nel 2021, è emerso un caso di frode scientifica di grande rilevanza collegato al “Bohannon sting“, un esperimento condotto nel 2013 dal giornalista di scienze John Bohannon. Il giornalista ha creato un falso articolo scientifico, pieno di errori e problemi metodologici, e lo ha inviato a oltre 300 riviste open access per testare la loro rigorosità nel processo di revisione paritaria. Sorprendentemente, più della metà delle riviste ha accettato l’articolo per la pubblicazione. Questo caso ha evidenziato problemi significativi nella pubblicazione accademica, in particolare nelle riviste open access, e ha stimolato discussioni approfondite sull’integrità della ricerca e sulla necessità di riformare il processo di revisione paritaria.
Un altro esempio interessante riguarda una serie di studi pubblicati nel 2021 che affermavano di avere scoperto nuovi farmaci in grado di trattare varie malattie, tra cui il cancro e l’Alzheimer. Questi studi, tuttavia, si basavano su dati generati artificialmente e su modelli di apprendimento automatico che erano stati manipolati per produrre risultati positivi. Nonostante fossero basati su dati falsi, questi studi sono stati pubblicati in diverse riviste mediche di alto profilo. Questo caso ha sollevato dubbi sulla capacità del processo di revisione paritaria di identificare studi falsi o fuorvianti, specialmente quando si tratta di ricerche basate su intelligenza artificiale o machine learning. Nel 2023, una ricerca ha rivelato che numerosi articoli scientifici erano stati generati da un’intelligenza artificiale e accettati per la pubblicazione da diverse riviste accademiche. Gli articoli in questione avevano abstract ben formulati, ma erano pieni di errori e imprecisioni nel corpo principale. Nonostante ciò, erano passati attraverso il processo di revisione paritaria e erano stati accettati per la pubblicazione. Questo caso ha evidenziato le potenziali lacune nel sistema di revisione paritaria e la necessità di ulteriori controlli per prevenire la pubblicazione di ricerche generate da IA.
La corsa ai ripari
L’integrità della ricerca scientifica è minacciata a livello globale, con evidenti attività sospette che provengono da vari paesi. La Russia e la Cina, in particolare, sono emerse come nazioni coinvolte in tali attività. Un sito web russo è stato segnalato per vendere autorevoli collegati a riviste reputate, offrendo in sostanza un mezzo per inserire nomi di autori in articoli scientifici in cambio di una tariffa. D’altra parte, molte paper mills o “fabbriche di articoli”, che producono e vendono lavori di ricerca falsi o plagiati, hanno origine in Cina.
Fortunatamente, le autorità politiche stanno iniziando a prestare attenzione a questo problema. I legislatori statunitensi stanno affrontando il problema delle false pubblicazioni scientifiche, come riportato da ScienceBusiness. Questo è un passo avanti significativo nella lotta globale contro la disinformazione scientifica. Un altro aspetto inquietante della disinformazione è la presenza di false recensioni online. Queste possono distorcere la percezione del pubblico e influenzare le decisioni di acquisto, con potenziali conseguenze negative per i consumatori, come evidenziato dal governo britannico. La lotta alla disinformazione scientifica richiede un impegno collettivo da parte della comunità scientifica, dei responsabili politici e del pubblico. La nostra salute, la nostra società e il nostro futuro dipendono dalla veridicità e dall’integrità della ricerca scientifica.
Fonti:
- Science.org – How to seriously read a scientific paper
- Science.org – Russian website peddles authorships linked to reputable journals
- Science.org – Fake scientific papers are alarmingly common
- BioLogos – How to spot fake science
- Springer – Detection of Fake Scientific Papers by Machine Learning
- Wikipedia – Predatory publishing
- Wikipedia – Research paper mill
- Wikipedia – International Publisher Ltd
- Financial Times – Fake science: the battle against counterfeit research
- Consumer Financial Protection Bureau – Billions of dollars stored on popular payment apps may lack federal insurance
- MDPI Blog – The Hidden Consequences of Paper Mills
- The Conversation – Fake research can be harmful to your health
- Forbes – Fake Scientific Abstracts Written By ChatGPT Fooled Scientists
- Wikipedia – List of scholarly publishing stings
- NCBI – Predatory journals: a major global health concern
- ScienceDirect – Verification using a general-purpose artificial intelligence: A pilot study
- Predatory Publishing – What type of journal publishes a fake scientific paper?
- iNews – Science is being suffocated by fake research
- MedRxiv – A Deep Learning Algorithm to Detect COVID-19 from Chest X-Rays: Building and Deploying a Medical Device Prototype
- ScienceBusiness – US lawmakers turn attention to plague of fake journal papers
Aiutaci a crescere: lasciaci un like :)