Immagini assurde generate con l’IA: sotto attacco l’editore svizzero di scienza Frontiers  

Sempre più ricercatori e ricercatrici utilizzano generatori di immagini di IA come Midjourney, Stable Diffusion e DALL-E per accelerare la produzione di diagrammi e illustrazioni. Alamy Stock Photo/Credit: Tero Vesalainen / Alamy Stock Photo

Ricercatori e ricercatrici hanno criticato l'editore svizzero open access Frontiers per aver pubblicato un articolo scientifico contenente testi senza senso e illustrazioni mediche errate generati dall'IA. Il caso fa luce su un modello commerciale che incoraggia la pubblicazione dei risultati della ricerca a un ritmo senza precedenti e a ogni costo. 

Un articolo scientificoCollegamento esterno, pubblicato dall’editore svizzero Frontiers nella sua rivista open access Frontiers in Cell and Developmental Biology, ha suscitato scalpore tra i ricercatori e le ricercatrici di tutto il mondo per l’assurdità delle immagini, prive di rigore scientifico e piene di parole senza senso, generate dall’intelligenza artificiale (IA).

Volete ricevere una selezione delle notizie del giorno dalla Svizzera o dei nostri articoli della settimana? Abbonatevi alle nostre newsletter!

In particolare, una figura che rappresenta un ratto con genitali enormi e anatomicamente scorretti ha attirato l’attenzione della comunità scientifica sui social media. Gli scienziati e le scienziate hanno reso pubbliche le immagini e messo in discussione il processo di peer-review di Frontiers. 

La figura 1 dell’articolo mostra gli enormi genitali sezionati di un ratto. Presenta anche etichette indecifrabili come “iollotte sserotgomar cell”, “testtomcels” e “dck”. Il documento attribuisce le immagini a Midjourney. Frontiers

Frontiers ha reagito ritirando l’articolo e ringraziando la comunità scientifica sulla piattaforma X (ex Twitter) per aver individuato gli errori. L’editore ha sottolineato l’importanza della cosiddetta “scienza aperta” (open science) per permettere di vagliare collettivamente le ricerche errate. Frontiers, con sede a Losanna, in Svizzera, pubblica dal 2007 riviste scientifiche a libero accesso (open access) secondo il modello commerciale “pay to publish” (pagare per pubblicare). 

We thank the readers for their scrutiny of our articles: when we get it wrong, the crowdsourcing dynamic of open science means that community feedback helps us to quickly correct the record.

— Frontiers (@FrontiersIn) February 15, 2024Collegamento esterno

Gli autori e le autrici pagano tariffe che vanno da meno di 100 dollari (88 franchi svizzeri) a più di 9’000 dollari (7’900 franchi svizzeri) – le cosiddette “article processing charges” o APC – per poter pubblicare le proprie ricerche in giornali a libero accesso. 

Questo modello rivaleggia con quello delle riviste più tradizionali, che utilizzano paywall e abbonamenti per la lettura degli articoli. I grandi e prestigiosi editori scientifici – come Elsevier e Springer Nature – controllano da tempo in questo modo l’accesso alla conoscenza scientifica, spesso finanziata con i soldi dei e delle contribuenti. 

I due maggiori editori open-access al mondo, Frontiers e MDPI, entrambi con sede in Svizzera, sostengono scienza aperta, pubblicizzando tempi rapidi di revisione e pubblicazione degli articoli. Questo approccio desta nella comunità scientifica il timore che la qualità di ciò che viene pubblicato possa essere sacrificata a favore della quantità per aumentare i ricavi. 

Un’altra immagine senza senso mostra parole e numeri inventati. Secondo la didascalia dovrebbe essere un “Diagramma della via di segnalazione delle JAK-STAT”. Frontiers

Stefanie Haustein, docente dell’Università di Ottawa specializzata in modelli di finanziamento di APC ad accesso aperto, ha espresso pubblicamente le sue preoccupazioni. “Temo che questa sia solo la punta dell’iceberg di quante informazioni false sono state pubblicate solo per cercare di produrre qualcosa in fretta”, afferma Haustein. 

Il diffondersi dell’IA potrebbe mettere ulteriormente a rischio l’integrità scientifica, mettono in guardia ricercatrici e ricercatori. Gli editori, infatti, impiegano le tecnologie IA nei loro processi di revisione e gli autori e le autrici le usano per produrre immagini e testi.  

Haustein ritiene che l’intelligenza artificiale non sia la ragione della pubblicazione di ricerche di bassa qualità, ma il sintomo di un sistema che mette sotto pressione chi fa ricerca e si occupa della revisione, affinché pubblichino molto e in fretta. 

“Frontiers permette la pseudoscienza” 

Contattata da SWI swissinfo.ch, Frontiers ha risposto via e-mail alle critiche seguite alla pubblicazione dell’articolo apparso su Frontiers in Cell and Developmental Biology. Una portavoce della rivista ha scritto che si è trattato di “un incidente sfortunato e isolato”. 

Ma non è la prima volta che Frontiers si trova al centro di una bufera mediatica per aver pubblicato articoli di dubbia integrità scientifica. Nell’aprile del 2023, ha pubblicato un articoloCollegamento esterno con affermazioni non supportate scientificamente sul fatto che le mascherine possano causare i sintomi del Covid-19. L’articolo è stato ritrattato un mese dopo, a seguito di critiche massicce da parte di scienziate ed esperti di salute pubblica. 

La stessa sorte è toccata a una ricercaCollegamento esterno che metteva in dubbio il legame tra HIV e AIDS. Questa volta, la casa editrice ha cercato di riclassificare l’articolo come “opinione”, prima di decidere di ritrattarlo dopo oltre quattro anni dalla pubblicazione. Questo e altri casi simili hanno spinto una parte della comunità scientifica a chiedere di boicottareCollegamento esterno Frontiers per i suoi discutibili processi di revisione che consentono di pubblicare ciò che alcuni hanno definito “pseudoscienza”. 

Never submit to or review for a Frontiers journal! This thread exposes the dirt on their review process. They also killed Beall’s list, a quality control tool for publishing. And Frontiers allows pseudoscience, such as a “Neural Thermodynamics” issue I was recently asked for. https://t.co/ncLp5HqX6hCollegamento esterno

— Wei Ji Ma (@weijima01) August 7, 2021Collegamento esterno

Pubblicare a ogni costo 

Frontiers insiste tuttavia sul fatto di avere “una delle più solide reputazioni in ambito di qualità nell’industria editoriale”, come ha scritto una portavoce via e-mail. Frontiers è infatti la terza casa editrice scientifica più citata, con articoli visti e scaricati miliardi di volteCollegamento esterno, afferma la portavoce. 

Secondo Haustein, però, gli scandali che hanno coinvolto Frontiers dimostrano che l’obiettivo principale degli editori a libero accesso – diffondere la conoscenza per far progredire la scienza – è stato corrotto dal modello di business che ne è alla base. “L’obiettivo principale non è pubblicare scienza rigorosa, ma essere redditizi e crescere”, afferma Haustein. 

A riprova di ciò, Haustein cita il fatto che Frontiers fa pagare a ricercatori e ricercatrici una media di 2’270 dollari (1’992 franchi svizzeri) per gli articoli che pubblica, il che non incentiva il rifiuto. I dati disponibiliCollegamento esterno mostrano che, effettivamente, il tasso di rifiuti di Frontiers è molto più basso rispetto a quello degli editori tradizionali: 56% contro il 71% di Elsevier, per esempio. Anche i tempi di valutazione (turnaround) sono estremamente rapidi: secondo il sito webCollegamento esterno di Frontiers, gli autori e le autrici possono ottenere una decisione finale sulla pubblicazione di un articolo inviato in soli 61 giorni, mentre il periodo di attesa medio per le riviste tradizionali è normalmente di tre-sei mesi. 

Un’analisiCollegamento esterno mostra anche che gli editori a libero accesso utilizzano sempre più spesso i “numeri speciali” – ovvero riviste straordinarie che raccolgono ricerche incentrate su un tema di particolare interesse – per pubblicare la maggior parte dei loro articoli. “In passato i ‘numeri speciali’ erano qualcosa di molto raro e prestigioso, ora sono utilizzati da Frontiers e MDPI come modello di crescita”, afferma Haustein. 

In Svizzera, la diffusione di questa pratica ha portato il Fondo nazionale svizzero per la ricerca scientifica (FNS) a escludereCollegamento esterno dai suoi programmi di finanziamento le ricerche pubblicate in numeri speciali. “Il principio della ‘pubblicazione a ogni costo’ contraddice le politiche del FNS”, ha dichiarato una portavoce a SWI swissinfo.ch via e-mail. 

Ricercatrici e revisori sotto pressione 

Questo modello permette a più persone di pubblicare e accedere liberamente a molte più ricerche rispetto al passato. Tuttavia, ciò ha condotto a un aumento esponenziale degli articoli scientifici pubblicati nell’ultimo decennio, a fronte di una comunità scientifica che non sta crescendo. Gli scienziati e le scienziate devono quindi scrivere, revisionare e modificare articoli – spesso gratuitamente – a un ritmo senza precedenti. E mentre i ricercatori e ricercatrici cercano di far fronte all’aumento del carico di lavoro per far progredire le loro carriere, i margini di profittoCollegamento esterno degli editori scientifici si ampliano. 

Frontiers è cresciuta a tal punto da aver essenzialmente rinunciato al controllo del processo editoriale, sostiene Adrian Liston, ex redattore di Frontiers e immunologo australiano dell’Università di Cambridge. Liston ha lasciato l’azienda quando si è reso conto che era praticamente impossibile rifiutare un articolo e che alcuni redattori e redattrici affrettavano il processo di revisione, scavalcando i revisori, per pubblicare gli articoli il prima possibile e ottenere le tariffe di pubblicazione. 

In questo modo, secondo Liston, è stato possibile approvare la pubblicazione di un articolo con immagini generate dall’IA non corrette, anche se gli autori avevano chiaramente dichiarato di aver utilizzato l’IA. 

I quit as a Frontiers editor and refuse to review papers for them because of how difficult the journal makes rejecting a paper. You essentially can’t, you can only get stuck in endless reviewing loops. Still shame on everyone involved, but this is what the Frontiers system allows https://t.co/CxEzfYFd6GCollegamento esterno

— Adrian Liston (@LabListon) February 15, 2024Collegamento esterno

L’IA generativa nell’editoria è difficile da combattere 

L’uso improprio dell’IA non è un problema solo per le pubblicazioni a libero accesso. Ora che l’IA generativa è entrata nel mercato ed è in grado di scrivere e produrre immagini, gli scienziati e le scienziate temono che per editori e ricercatrici diventi ancora più facile prendere scorciatoie e imbrogliare. Con l’evoluzione della tecnologia, gli esseri umani coinvolti nel processo di revisione hanno spesso difficoltà a tenere il passo. 

“Penso che nelle università tendiamo a ignorare il potere delle tecnologie o spesso semplicemente non abbiamo politiche sufficientemente valide”, afferma Simon Batterbury, professore di studi ambientali che da anni cura riviste open access senza scopo di lucro. 

I dati e le immagini falsi prodotti dall’IA sembrano così reali che persino le persone esperte hanno difficoltà a individuarli.  “Anche se utilizzo la mia esperienza e un software progettato per rilevare le duplicazioni, non riesco più a capire se queste immagini o set di dati siano reali o meno”, afferma Elisabeth Bik, microbiologa e consulente per l’integrità scientifica. La situazione è così grave che l’anno scorso è stato ritrattatoCollegamento esterno un numero record di 10’000 articoli di ricerca a livello globale. 

Le case editrici accademiche stanno reagendo vietandoCollegamento esterno o ponendo varie restrizioniCollegamento esterno all’uso dell’intelligenza artificiale negli articoli scientifici. Frontiers ritiene accettabileCollegamento esterno l’uso dell’IA generativa per la stesura dei manoscritti, ma gli autori e le autrici devono verificarne l’accuratezza e dichiararne l’uso. 

L’editore svizzero open access è tra quelli che utilizzano l’IA nei suoi processi editoriali “per aiutare, migliorare e aumentare la capacità umana di individuare frodi e pratiche scorrette da parte di ricercatrici e ricercatori”, ha scritto l’azienda via e-mail. Questo è un modo in cui l’IA potrebbe aiutare gli editoriCollegamento esterno a contenere l’uso improprio della tecnologia nei documenti scientifici. 

Ma ciò non garantisce che la scienza di bassa lega venga individuata, come dimostra il caso delle false immagini generate dall’IA accettate da Frontiers. Quasi 25’000 ricercatrici e ricercatori hanno firmato la Dichiarazione di San Francisco sulla valutazione della ricerca, o accordo DORACollegamento esterno, per chiedere una soluzione a questo problema. Sostengono che si debba smettere di spingere scienziati e scienziate a pubblicare il maggior numero possibile di articoli e a cercare la pubblicazione da parte degli editori più prestigiosi. “Dobbiamo riconoscere il lavoro delle persone, non solo le riviste”, afferma Batterbury. 

Posizione di Frontiers sul suo processo e i suoi standard

Una portavoce di Frontiers ha fornito le seguenti informazioni:

“Non è “praticamente impossibile” rifiutare un articolo inviato a Frontiers – i nostri requisiti per l’accettazione sono rigorosi e i redattori e le redattrici possono accettare articoli solo se hanno ricevuto l’approvazione di due revisori indipendenti”.

“Frontiers è accreditata da, ed è membro di, importanti organizzazioni editoriali di regolamentazione e di eticaCollegamento esterno e aderisce ai loro standard di qualità e alle migliori pratiche etiche”.

“Gli autori che hanno creato le figure generate dall’intelligenza artificiale che mostrano i ratti nel loro articolo hanno violato chiaramente le linee guida di Frontiers. I revisori paritari avevano richiesto la revisione delle immagini e il fatto che gli autori non si siano adeguati è sfuggito durante i controlli di qualità finali. Si è trattato di un errore umano genuino e molto deplorevole per il quale ci siamo scusati”.

“Le pubblicazioni di scarsa qualità non sono una conseguenza dell’accesso aperto. Come tutti gli altri editori, ci imbattiamo in ricerche di scarsa qualità o fraudolente Collegamento esternoe le ritiriamo seguendo processi consolidati nell’industria editoriale”.

“Per la pubblicazione di un articolo, Frontiers applica tariffe che variano da 0 a 3’295 dollari. La tariffa media per articolo è di 2’270 dollari”.

A cura di Veronica De Vore 

Traduzione dall’inglese: Sara Ibrahim. Revisione: Zeno Zoccatelli

Questo articolo è stato modificato il 13 maggio 2024 per riflettere ulteriormente la posizione di Frontiers sulle sue pratiche editoriali. Inoltre, sono state apportate le seguenti correzioni:

Il tasso di rifiuto degli articoli di Frontiers è del 56% e non del 48% come indicato in una versione precedente dell’articolo.

Una portavoce di Frontiers ha dichiarato che la rivista ha “una delle più solide reputazioni” nell’industria editoriale e non “la più solida reputazione” come affermato in una versione precedente dell’articolo.