Intelligenza artificiale e ricerca medica: il rischio dei dati falsi che superano i controlli

Un’inchiesta di Milena Gabanelli e Andrea Priante per il Corriere della Sera accende i riflettori sull’impiego distorto dell’IA nella ricerca scientifica. Studi ritirati, citazioni inesistenti, immagini manipolate e persino trial clinici artificiali mostrano quanto possa diventare difficile distinguere un dato autentico da uno costruito

L’intelligenza artificiale sta offrendo alla medicina strumenti straordinari, dalla diagnostica per immagini alla ricerca di nuovi farmaci. La stessa tecnologia, però, può trasformarsi in un fattore di rischio quando viene utilizzata per produrre o alterare le prove sulle quali si fonda la conoscenza scientifica.

A mettere in fila alcuni dei casi più significativi è un’inchiesta di Milena Gabanelli e Andrea Priante pubblicata dal Corriere della Sera, che pone una questione destinata a diventare centrale: cosa accade quando un sistema capace di generare testi, immagini e dati estremamente plausibili viene utilizzato non per aiutare il ricercatore, ma per costruire una ricerca apparentemente credibile?

Il fenomeno ha già lasciato tracce nelle pubblicazioni scientifiche. Dal 2023, secondo i dati di Retraction Watch richiamati nell’inchiesta, sono stati ritirati oltre 350 articoli per presunti utilizzi impropri dell’intelligenza artificiale nella manipolazione di testi, immagini o dati.

Alcuni episodi mostrano quanto possa essere sottile il confine. Nel 2024 Radiology Case Reports ha ritirato uno studio dopo che nel testo era rimasta una frase tipica della risposta di un modello linguistico, rivelando l’impiego dell’IA generativa nella fase di scrittura. Nello stesso anno Surfaces and Interfaces ha ritirato un lavoro sulle batterie al litio che conteneva anch’esso evidenti tracce di una risposta generata da un chatbot.

Il problema non riguarda soltanto i testi. Nell’aprile 2026 anche il New England Journal of Medicine ha ritirato un’immagine relativa agli effetti dell’inalazione del fumo di un incendio, dopo che gli autori hanno ammesso di averla modificata attraverso l’intelligenza artificiale.

Quando anche una radiografia può essere falsa

Ancora più delicato è il problema delle immagini diagnostiche sintetiche. Una ricerca pubblicata su Radiology, ricordata nell’inchiesta, ha sperimentato la generazione tramite ChatGPT di false radiografie raffiguranti fratture ossee, successivamente mescolate con immagini autentiche.

Sottoposte alla valutazione di 17 radiologi, le immagini artificiali sono state individuate come false soltanto nel 41% dei casi.

Il dato mette in evidenza un rischio nuovo: l’IA generativa non si limita più alla produzione di testi plausibili, ma può contribuire alla creazione di materiale che presenta l’apparenza stessa della prova scientifica.

Il problema delle fonti inventate

A complicare ulteriormente il quadro c’è la capacità dei modelli generativi di produrre riferimenti bibliografici inesistenti. Secondo i dati riportati nell’approfondimento del Corriere, in ambito biomedico la quota delle citazioni suggerite dall’IA risultate inesistenti può arrivare fino al 69%.

Il fenomeno assume particolare importanza perché la ricerca medica procede attraverso una catena di conoscenze: gli studi vengono analizzati nelle revisioni sistematiche e queste ultime possono contribuire alla formulazione delle linee guida utilizzate dai professionisti sanitari.

Un riferimento scientifico inesistente che riesca a inserirsi in questa catena rischia quindi di non rimanere confinato all’articolo che lo contiene, ma di propagare informazioni prive di fondamento nelle successive valutazioni scientifiche e, in ultima analisi, nelle decisioni cliniche.

Il test italiano: costruire un trial clinico credibile

Uno degli esperimenti più significativi arriva dall’Italia. Giuseppe Giannaccare, professore dell’Università di Cagliari e primario di Oculistica, e Andrea Taloni, ricercatore dell’Università di Ferrara, hanno verificato fino a che punto un sistema di IA possa essere utilizzato per fabbricare i dati di un trial clinico.

I ricercatori hanno preso in considerazione due farmaci equivalenti impiegati nel trattamento della maculopatia e hanno chiesto a ChatGPT di produrre un insieme di dati relativo a cento pazienti, costruito in modo da dimostrare la superiorità di uno dei due trattamenti.

Il primo database presentava anomalie riconoscibili, come incongruenze tra nomi e sesso dei pazienti, errori nelle età o visite collocate in giorni insoliti. Il sistema è stato quindi informato degli errori e invitato a correggerli.

Ed è proprio il risultato successivo a rappresentare il passaggio più rilevante dell’esperimento: una volta eliminati gli elementi sospetti, il nuovo database sarebbe riuscito a superare le verifiche, rendendo estremamente difficile individuare la falsificazione senza controllare direttamente l’esistenza e la storia dei singoli pazienti.

Il lavoro è stato pubblicato su JAMA Ophthalmology e dimostra una caratteristica particolarmente problematica dei sistemi generativi: non soltanto possono creare dati falsi, ma possono essere istruiti a correggere proprio quegli elementi che consentirebbero a un revisore di riconoscere la falsificazione.

Dal “publish or perish” al rischio di una scienza sintetica

Il fenomeno si inserisce inoltre in un sistema accademico nel quale il numero e il prestigio delle pubblicazioni incidono sulle carriere, sull’accesso ai finanziamenti e sulla reputazione di università e centri di ricerca. È la logica conosciuta come “publish or perish”, pubblicare o perire.

L’IA può rendere molto più veloce la produzione scientifica: secondo i dati citati nell’inchiesta, il 30% dei ricercatori utilizza ChatGPT per la scrittura degli articoli e il 15% per le richieste di finanziamento. L’utilizzo di questi strumenti non implica naturalmente una condotta scorretta, soprattutto quando vengono impiegati come supporto alla traduzione, alla raccolta o all’elaborazione delle informazioni.

Il problema cambia natura quando l’intelligenza artificiale viene utilizzata per creare ciò che dovrebbe invece essere osservato e documentato: pazienti, risultati, immagini, riferimenti bibliografici o interi database sperimentali.

A quel punto la questione non riguarda più soltanto l’affidabilità dell’IA, ma l’adeguatezza dei sistemi di controllo della ricerca scientifica.

La risposta indicata dai ricercatori italiani passa anche da verifiche più profonde sui database alla base degli studi e da una maggiore attenzione all’affidabilità e all’esperienza degli autori.

Perché nell’era dell’intelligenza artificiale la domanda potrebbe non essere più soltanto se uno studio presenti risultati convincenti. Prima ancora occorrerà essere certi che i dati sui quali quei risultati sono costruiti esistano davvero.