Imagens absurdas geradas por IA colocam editora científica suíça sob pressão

Os pesquisadores estão usando cada vez mais os geradores de imagens de IA, como Midjourney, Stable Diffusion e DALL-E, para acelerar a produção de diagramas e ilustrações. Alamy Stock Photo/Credit: Tero Vesalainen / Alamy Stock Photo

Pesquisadores criticaram a editora suíça de acesso aberto Frontiers por publicar um artigo científico com erros ortográficos e ilustrações médicas incorretas geradas por IA. O caso põe em evidência um modelo de negócios que incentiva a publicação de artigos científicos num ritmo sem precedentes e a qualquer custo.

Você acha esse tema interessante e gostaria de receber uma seleção do nosso melhor conteúdo diretamente no seu endereço e-mail? Assine nosso boletim informativo clicando AQUI.

Um artigo científicoLink externo, publicado pela editora suíça Frontiers em seu periódico de acesso aberto Frontiers in Cell and Developmental Biology, chamou a atenção de pesquisadores e pesquisadoras do mundo todo por causa de seus erros ortográficos e imagens absurdas geradas por IA. Uma figura em particular foi alvo de críticas por parte da comunidade científica nas redes sociais. Ela mostra um rato com genitais enormes e anatomicamente incorretas. Cientistas divulgaram as imagens e questionaram o processo de revisão por pares da Frontiers.

A ilustração 1 mostra a genitália gigante dissecada de um rato. Ela também apresenta rótulos indecifráveis como “iollotte sserotgomar cell”, “testtomcels” e “dck”. O artigo atribui as imagens à Midjourney. Frontiers

A Frontiers reagiu removendo o artigo e agradecendo à comunidade científica na plataforma XLink externo (antigo Twitter) por ter detectado os erros. A editora também destacou a importância da chamada “ciência aberta”, que possibilita a análise coletiva de pesquisas incorretas. Com sede em Lausanne, a Frontiers publica, desde 2007, periódicos científicos de acesso aberto que seguem o modelo de negócios “pague para publicar” (“pay to publish”, em inglês).

We thank the readers for their scrutiny of our articles: when we get it wrong, the crowdsourcing dynamic of open science means that community feedback helps us to quickly correct the record.

— Frontiers (@FrontiersIn) February 15, 2024Link externo

Para que seus artigos sejam de livre acesso, os autores e autoras pagam uma taxa que varia entre menos de US$ 100 e mais de US$ 9.000. Elas são chamadas “taxas de processamento de artigos” (APC, na sigla em inglês).

Esse modelo se opõe aos periódicos mais tradicionais, que protegem suas publicações com paywalls e assinaturas. Há muito tempo, editoras científicas grandes e prestigiosas – como a Elsevier e a Springer Nature – controlam o acesso ao conhecimento científico, que muitas vezes é financiado pelo dinheiro do contribuinte.

As duas maiores editoras de acesso aberto do mundo, a Frontiers e a MDPI, ambas localizadas na Suíça, defendem a chamada ciência aberta. Elas também afirmam oferecer processos de revisão e publicação mais rápidos. A abordagem gerou preocupações na comunidade científica, que teme que a qualidade das publicações esteja sendo sacrificada para aumentar os lucros das revistas.

Outra imagem que parece sem sentido mostra palavras e números inventados. De acordo com a legenda, ela deveria ser um “Diagrama da via de sinalização JAK-STAT”. Frontiers

Stefanie Haustein, especialista em modelos de financiamento de acesso aberto e professora da Universidade de Ottawa, expressou publicamente suas preocupações. “Temo que essa seja apenas a ponta do iceberg de quantas informações falsas foram publicadas apenas para tentar produzir algo rapidamente”, diz ela.

Pesquisadores temem que os riscos à integridade científica cresçam ainda mais agora que as editoras empregam tecnologias de IA em seus processos de revisão e os autores as utilizam para produzir imagens e textos. Mas Haustein acredita que a IA não é a principal culpada pela publicação de pesquisas de baixa qualidade. A queda na qualidade é, na verdade, sintoma de um sistema que pressiona pesquisadores e revisores a publicarem numa quantidade e ritmo absurdos.

‘Pseudociência’

Contatada por e-mail pela SWI swissinfo.ch, a Frontiers respondeu às críticas suscitadas pela publicação do artigo na Frontiers in Cell and Developmental Biology. Um porta-voz do período escreveu que se tratava de “um incidente infeliz e isolado”.

Mas essa não é a primeira vez que a Frontiers está no centro de polêmicas relacionadas à publicação de artigos com integridade científica questionável. Em abril de 2023, ela publicou um artigoLink externo que alegava, sem embasamento científico, que as máscaras faciais podiam causar sintomas de Covid-19. O artigo foi retirado um mês depois, após críticas maciças de cientistas e especialistas em saúde pública.

O mesmo aconteceu com um artigoLink externo que questionava a ligação entre HIV e AIDS. Dessa vez, a editora tentou reclassificá-lo como um artigo de “opinião”, antes de tomar a decisão de retirá-lo – o que só ocorreu mais de quatro anos após sua publicação. Esse e outros casos semelhantes levaram cientistas a pedirem um boicoteLink externo à Frontiers. Eles criticam seus processos de revisão questionáveis, que permitiriam a publicação do que alguns chamaram de “pseudociência”.

Never submit to or review for a Frontiers journal! This thread exposes the dirt on their review process. They also killed Beall’s list, a quality control tool for publishing. And Frontiers allows pseudoscience, such as a “Neural Thermodynamics” issue I was recently asked for. https://t.co/ncLp5HqX6hLink externo

— Wei Ji Ma (@weijima01) August 7, 2021Link externo

Publicar a qualquer custo

A Frontiers continua insistindo que tem “a reputação mais sólida do setor editorial”, conforme escreveu um porta-voz por e-mail. Ele relembra que a Frontiers é a terceira editora científica mais citada, com artigos visualizados e baixados bilhões de vezesLink externo.

Mas, de acordo com Haustein, os escândalos envolvendo a Frontiers mostram que o principal objetivo das editoras de acesso aberto – disseminar o conhecimento para o avanço da ciência – foi corrompido pelo modelo de negócios subjacente. “O principal objetivo não é publicar pesquisas com rigor científico, mas obter lucro e crescer”, diz ela.

Para comprovar seu argumento, Haustein menciona que a Frontiers cobra dos autores uma média de US$ 2.270 (CHF 1.992) por artigo publicado, o que desencoraja a rejeição por parte dos revisores. De fato, a taxa de rejeição da Frontiers é muito menorLink externo do que a das editoras tradicionais: 48%, em comparação a 71% da Elsevier, por exemplo. O tempo de resposta também é extremamente rápido: segundo o site da FrontiersLink externo, os autores podem receber uma decisão final sobre a publicação de um artigo em apenas 61 dias. O tempo médio nas revistas tradicionais é de três a seis meses.

Uma análiseLink externo também mostra que as editoras de acesso aberto estão usando cada vez mais “edições especiais” para publicar a maioria de seus artigos. “Antes, as ‘edições especiais’ costumavam ser algo muito raro e prestigioso. Agora, elas são usadas pela Frontiers e pela MDPI como um modelo de crescimento”, diz Haustein.

Na Suíça, a disseminação dessa prática levou a Fundação Nacional de Ciência da Suíça (SNSF) a excluir pesquisasLink externo publicadas em edições especiais de seus programas de financiamento. “O princípio de ‘publicar a qualquer preço’ contradiz as políticas da SNSF”, disse um porta-voz à SWI swissinfo.ch por e-mail.

Pesquisadores e revisores sob pressão

Esse modelo permitiu que o número de artigos científicos publicados crescesse exponencialmente na última década. Mas a comunidade científica em si não está crescendo. Portanto, espera-se que os cientistas escrevam, revisem e editem artigos – geralmente de graça – num ritmo sem precedentes. E, enquanto os pesquisadores tentam lidar com o aumento da carga de trabalho para avançar em suas carreiras, as margens de lucroLink externo das editoras científicas aumentam.

A Frontiers cresceu tanto que basicamente renunciou ao controle sobre o processo editorial, afirma o australiano Adrian Liston, ex-editor da Frontiers e imunologista da Universidade de Cambridge. Liston deixou a empresa quando percebeu que era praticamente impossível rejeitar um artigo e que alguns editores estavam apressando o processo de revisão, passando por cima dos revisores, para publicar os artigos o mais rápido possível e receber as taxas de publicação.

Para Liston, foi isso que possibilitou que um artigo com imagens incorretas geradas por IA fosse aprovado para publicação, mesmo que seus autores tenham declarado abertamente que usaram IA.

I quit as a Frontiers editor and refuse to review papers for them because of how difficult the journal makes rejecting a paper. You essentially can’t, you can only get stuck in endless reviewing loops. Still shame on everyone involved, but this is what the Frontiers system allows https://t.co/CxEzfYFd6GLink externo

— Adrian Liston (@LabListon) February 15, 2024Link externo

A dificuldade de combater o uso de IA generativa em publicações

O uso indevido da IA não é um problema apenas das publicações de acesso aberto. Agora que a IA generativa chegou ao mercado e é capaz de escrever e produzir imagens, cientistas temem que se torne ainda mais fácil pegar atalhos e trapacear. Muitas vezes, os seres humanos envolvidos no processo de revisão têm dificuldade de acompanhar a evolução da tecnologia.

“Acho que, nas universidades, tendemos a ignorar o poder das tecnologias ou, muitas vezes, simplesmente não temos políticas suficientemente boas [para lidar com elas]”, diz Simon Batterbury, professor de estudos ambientais que edita revistas de acesso aberto.

Imagens e dados falsos produzidos por IA parecem tão reais que até mesmo os especialistas têm dificuldade em detectá-los. “Mesmo usando minha experiência e um software desenvolvido para detectar duplicações, não consigo mais saber se essas imagens ou conjuntos de dados são reais ou não”, diz Elisabeth Bik, microbióloga e consultora de integridade científica. A situação é tão séria que 10.000 artigos de pesquisa foram retratadosLink externo no ano passado – um recorde histórico.

Para lidar com esse problema, as editoras acadêmicas estão proibindoLink externo ou colocando várias restriçõesLink externo ao uso de IA em artigos científicos. A Frontiers considera aceitávelLink externo o uso de IA generativa para escrever manuscritos, mas os autores devem revisar as informações e declarar o uso de IA.

A editora suíça de acesso aberto está entre aquelas que usam IA em seus processos editoriais “para ajudar, melhorar e aumentar a capacidade humana de detectar fraudes e práticas incorretas por parte dos pesquisadores”, escreveu a empresa por e-mail. Essa uma das maneiras através da qual a IA poderia ajudar as editorasLink externo a coibirem o uso indevido da tecnologia em artigos científicos.

Mas isso não garante que informações incorretas sejam detectadas, como mostra o caso das imagens falsas geradas por IA e aceitas pela Frontiers. Quase 25.000 pesquisadores e pesquisadoras assinaram a Declaração de São Francisco sobre Avaliação de Pesquisa, também conhecida como acordo DORALink externo, para exigir uma solução para esse problema. Eles argumentam que precisamos parar de pressionar os pesquisadores a publicar o maior número possível de artigos e buscar as principais editoras.

“Precisamos reconhecer o trabalho das pessoas, não apenas dos periódicos”, diz Batterbury.

A posição da Frontiers sobre processos e padrões

Um porta-voz da Frontiers forneceu as seguintes informações:

Não é “praticamente impossível” rejeitar um artigo submetido à Frontiers, pois nossos critérios para aceitação são rigorosos e os editores só podem aceitar artigos se eles tiverem recebido dois endossos de revisores independentes”.

Frontiers é credenciada e membro das principais organizações reguladoras e éticas de publicaçãoLink externo, aderindo aos seus padrões de qualidade e às melhores práticas éticas.

Os autores que criaram as figuras geradas por IA mostrando ratos em seu artigo estavam em clara violação das diretrizes da Frontiers.

Os revisores solicitaram revisões nas imagens, e o fato de os autores não terem cumprido a solicitação passou despercebido durante as verificações finais de qualidade. Esse foi um erro humano genuíno e muito lamentável, pelo qual pedimos desculpas.

As publicações de baixa qualidade não são uma consequência do acesso aberto. Como todas as outras editoras, encontramos pesquisas de baixa qualidade e fraudulentasLink externo e nos retratamos seguindo processos estabelecidos há muito tempo no setor editorial”.

Os preços cobrados pela Frontiers para que os pesquisadores publiquem um artigo variam de US$ 0 a US$ 3.295, sendo o pagamento médio por artigo de US$ 2.270.

Edição: Veronica DeVore

Adaptação: Clarice Dominguez

O artigo acima foi modificado em 13 de maio de 2024 para refletir melhor a posição da Frontiers em suas práticas de publicação. Além disso, foram feitas as seguintes correções:

A taxa de rejeição de artigos da Frontiers é de 56%, e não 48%, conforme declarado em uma versão anterior.

Frontiers declara que a revista tem “um dos históricos mais fortes” no setor de publicação, e não “o histórico mais forte”, conforme declarado em uma versão anterior.