L’éditeur suisse Frontiers sous pression après un fiasco dû à l’IA

Le monde de la recherche a de plus en plus recours à l’intelligence artificielle pour accélérer la production de graphiques et d’illustrations. Tero Vesalainen / Alamy Stock Photo

L’éditeur suisse en libre accès Frontiers est blâmé par des scientifiques après la publication d’un article incluant des illustrations incorrectes générées par IA ainsi que des termes mal orthographiés. Un cas qui éclaire d’une lumière crue un modèle d’affaires qui favorise la publication précipitée d’articles scientifiques, sans guère de filet.

C’est un article scientifiqueLien externe publié par l’éditeur suisse Frontiers dans son journal en libre accès Frontiers in Cell and Developmental Biology. Texte mal orthographié, images absurdes générées par une intelligence artificielle (IA), de quoi faire monter chercheuses et chercheurs du monde entier aux barricades.

Une des illustrations en question, où l’on voit un rat affublé d’organes génitaux gigantesques et anatomiquement inexacts, a piqué l’attention de la communauté scientifique au travers des médias sociaux. Des scientifiques ont rendu ces images publiques et mis en cause le processus d’évaluation par les pairs de Frontiers.

L’illustration 1 de l’article montre les énormes organes génitaux disséqués d’un rat. Elle comporte également des légendes indéchiffrables telles que «iollotte sserotgomar cell», «testtomcels» et «dck». Le journal attribue ces images au logiciel d’IA Midjourney. Frontiers

Ladite firme a réagi en rétractant le papier en question et remercié la communauté scientifiqueLien externe sur la plateforme X (ex-Twitter) pour avoir pointé ces erreurs, tout en relevant l’importance de la science ouverte pour détecter collectivement les recherches défectueuses. Basé à Lausanne, Frontiers publie des revues scientifiques en libre accès depuis 2007 sur la base d’un modèle d’affaires «pay to publish».

We thank the readers for their scrutiny of our articles: when we get it wrong, the crowdsourcing dynamic of open science means that community feedback helps us to quickly correct the record.

— Frontiers (@FrontiersIn) February 15, 2024Lien externe

Pour que leur article soit publié en libre accès, les auteurs paient des frais qui vont de moins de cent dollars (88 francs) à plus de 9000 dollars (7900 francs). Leur nom de baptême: «articles processing charges» (APC ou frais de traitement des articles).

Ce modèle rivalise avec les revues plus traditionnelles dont l’architecture repose sur le paywall et l’abonnement. Ces éditeurs scientifiques réputés, Elsevier et Springer Nature notamment, contrôlent de longue date l’accès à un savoir scientifique souvent financé par les fonds publics.

Tous deux installés en Suisse, Frontiers et MDPI, qui sont les deux plus grands éditeurs en libre accès de la planète, plaident pour une «science ouverte» et promeuvent des délais d’évaluation et de publication courts. Une approche qui fait craindre à la communauté scientifique que soit sacrifiée la qualité des papiers publiés au profit de la quantité, par souci de rendement financier.

Une autre illustration absurde avec des mots et des chiffres inventés. Frontiers

Professeure à l’Université d’Ottawa et spécialiste en matière de modèles de financement APC, Stefanie Haustein a exprimé tout haut ses inquiétudes. «Je crains qu’il ne s’agisse que de la pointe de l’iceberg des fausses informations publiées dans l’unique but de produire rapidement.»

Dans le monde de la recherche, on tremble pour l’avenir de l’intégrité scientifique alors que les éditeurs recourent aux technologies d’IA dans les processus d’évaluation et que les auteurs et autrices s’en servent pour produire textes et images. Selon Stefanie Haustein, l’IA n’est pas la première coupable dans la publication de travaux de faible qualité. Elle apparaît plutôt comme le symptôme d’un système qui presse scientifiques et éditeurs à publier vite et en masse.

Vers une «pseudoscience»

Contacté par swissinfo.ch, Frontiers a répondu par courriel aux critiques consécutives à la publication de l’article dans Frontiers in Cell and Developmental Biology. Il s’est agi d’«un incident malheureux et isolé», selon un porte-parole.

Ce n’est pas la première fois cependant que Frontiers se retrouve au centre de l’attention après la parution d’articles à l’intégrité scientifique douteuse. En avril 2023, l’éditeur a sorti un papierLien externe incluant des informations non fondées avançant que le port du masque facial pouvait provoquer des symptômes de type Covid. Un article rétracté un mois plus tard après un vaste mouvement de critiques venues de scientifiques et de spécialistes en santé publique.

Un autre articleLien externe remettant en cause le lien entre VIH et sida a connu le même sort. Cette fois, la maison d’édition a cherché à le reclassifier en article d’opinion avant de décider de son retrait plus de quatre ans après sa publication. Ce cas et d’autres ont incité certains scientifiques à appeler au boycott de Frontiers en raison de ses processus d’évaluation contestables ouvrant sur ce que d’aucuns qualifient de «pseudoscience».

Never submit to or review for a Frontiers journal! This thread exposes the dirt on their review process. They also killed Beall’s list, a quality control tool for publishing. And Frontiers allows pseudoscience, such as a “Neural Thermodynamics” issue I was recently asked for. https://t.co/ncLp5HqX6hLien externe

— Wei Ji Ma (@weijima01) August 7, 2021Lien externe

Publier à tout prix

Cela étant, Frontiers souligne présenter «l’un des meilleurs bilans en matière de qualité dans l’industrie de l’édition», selon les termes de son porte-parole. Lequel allègue que la firme est le troisième des grands éditeurs scientifiques les plus cités, avec des articles consultés et téléchargés des milliards de foisLien externe.

Mais selon Stefanie Haustein, le scandale impliquant Frontiers démontre que l’objectif premier des éditeurs en libre accès – diffuser le savoir scientifique pour faire progresser la science – a fait les frais du modèle d’affaires qui le sous-tend. «L’objectif premier n’est pas la publication de travaux scientifiques rigoureux, mais la profitabilité et la croissance», avance-t-elle.

Elle en veut pour preuve que Frontiers facture aux auteurs 2270 dollars (1992 francs) en moyenne pour les articles publiés, ce qui n’incite pas aux refus. Le taux de rejets de l’éditeur est bien plus faible que celui des acteurs traditionnels: 56% contre 71% pour Elsevier, par exemple. Les délais sont quant à eux extrêmement courts. Un auteur peut obtenir une décision finale sur un article soumis pour publication en 61 jours seulement, selon le site webLien externe de l’éditeur. En moyenne, le délai parmi les revues est de trois à six mois.

Une analyseLien externe a montré aussi que les éditeurs en libre accès recourent toujours plus aux «numéros spéciaux» pour publier l’essentiel de leurs articles. «Par le passé, les ‘numéros spéciaux’ étaient quelque chose de très rare et prestigieux, ils sont désormais employés par Frontiers et MDPI comme modèle de croissance», observe Stefanie Haustein.

En Suisse, la généralisation de cette pratique a incité le Fonds national suisse (FNS) à exclure toute rechercheLien externe publiée dans un numéro spécial de ses programmes de financement. «Le principe de la publication à tout prix entre en contradiction avec la politique du FNS», déclare un porte-parole dans un courriel adressé à swissinfo.ch.

Recherche et évaluation sous pression

Cette dernière décennie, le nombre d’articles scientifiques publiés a crû de manière exponentielle. Davantage de chercheurs et chercheuses sont en effet en mesure de publier et d’accéder plus librement à plus de recherches. La communauté scientifique en revanche ne s’accroît pas. Résultat, les scientifiques sont supposés écrire, évaluer et éditer des articles – souvent gratuitement – à un rythme jamais vu. Alors que ces derniers tentent d’assumer une charge redoublée de travail pour faire progresser leur carrière, les éditeurs scientifiques accroissent leurs marges bénéficiairesLien externe.

Frontiers a tellement grandi qu’elle a pour ainsi dire tiré un trait sur le contrôle éditorial, affirme Adrian Liston, ancien éditeur au sein de la firme et immunologiste australien à l’Université de Cambridge. Ce dernier a quitté Frontiers sur le constat qu’il était devenu quasiment impossible d’y rejeter un article et que certains collègues accéléraient le processus d’évaluation, outrepassant les pairs, pour publier les papiers le plus vite possible et engranger les frais de publication.

C’est ainsi, pense-t-il, qu’un article incluant des images incorrectes générées par une IA a pu être approuvé pour publication, bien que ses auteurs aient clairement signalé avoir recouru à l’IA.

I quit as a Frontiers editor and refuse to review papers for them because of how difficult the journal makes rejecting a paper. You essentially can’t, you can only get stuck in endless reviewing loops. Still shame on everyone involved, but this is what the Frontiers system allows https://t.co/CxEzfYFd6GLien externe

— Adrian Liston (@LabListon) February 15, 2024Lien externe

Un combat difficile dans l’édition

Le mésusage d’une IA n’est pas seulement un problème pour les publications en libre accès. Avec l’IA générative désormais sur le marché, capable de rédiger et de produire des images, les scientifiques ne cachent pas leurs craintes qu’il devienne plus aisé encore pour les éditeurs comme les chercheuses et chercheurs de prendre des raccourcis et de frauder. À mesure que la technologie évolue, les personnes impliquées dans le processus d’évaluation peinent à suivre.

«Je pense qu’au sein des universités, on tend à ignorer la puissance des technologies et, souvent, on ne dispose simplement pas des politiques nécessaires», juge Simon Batterbury, professeur d’études environnementales, lui-même éditeur de revues sans but lucratif en libre accès.

Les données fabriquées par l’IA semblent si authentiques qu’il est difficile de les détecter, y compris pour des spécialistes. «Même sur la base de mon expertise et en recourant à un logiciel conçu pour détecter les duplications, je ne peux plus affirmer que telle image ou tel ensemble de données est authentique ou non», confirme Elisabeth Bik, microbiologiste et consultante en intégrité scientifique. Une situation si inquiétante qu’un nombre record de 10’000 articles scientifiques ont été rétractésLien externe l’an dernier.

Les éditeurs académiques réagissent en bannissantLien externe ou en imposant diverses restrictionsLien externe au recours à l’IA dans les articles scientifiques. Frontiers accepteLien externe pour sa part l’usage d’une IA générative pour la rédaction de manuscrits pour autant que ses auteurs en vérifient l’exactitude et en déclare l’utilisation.

Cet éditeur suisse en libre accès fait partie de ceux qui, dans le cadre de ses processus éditoriaux, recourent à l’IA «pour appuyer, améliorer et accroître les capacités de l’humain à détecter fraude et mauvaises pratiques chez les chercheurs», écrit la firme via courriel. L’IA pourrait ainsi aider les éditeursLien externe à contrecarrer le mésusage de la technologie dans les articles scientifiques.

Mais cela ne garantit en rien que la mauvaise science soit identifiée, comme le montrent les illustrations incorrectes de rat, acceptées par Frontiers. Près de 25’000 scientifiques ont paraphé un document, la San Francisco Declaration on Research AssessmentLien externe (DORA), qui réclame une solution au problème. Pour eux, il faut cesser de pousser chercheuses et chercheurs à publier le plus d’articles possible. Et tâcher de les faire paraître chez les éditeurs réputés.

«Il s’agit de reconnaître le travail des individus, pas uniquement les revues», plaide Simon Batterbury.

La position de Frontiers sur son processus et ses normes

Un porte-parole de Frontiers a fourni les informations suivantes:

«Il n’est pas ‘pratiquement impossible’ de rejeter un article soumis à Frontiers – nos conditions d’acceptation sont rigoureuses et les éditeurs ne peuvent accepter des articles que s’ils ont reçu l’aval de deux évaluateurs indépendants.»

«Frontiers est accrédité par les principales organisations de réglementation et d’éthique de la publicationLien externe et en est membre, adhérant à leurs normes de qualité et à leurs meilleures pratiques éthiques.»

«Les auteurs qui ont créé les figures générées par IA montrant des rats dans leur article ont clairement enfreint les lignes directrices de Frontiers. Les pairs évaluateurs ont demandé que les images soient révisées, et le fait que les auteurs n’aient pas respecté les règles n’a pas été pris en compte lors des contrôles de qualité finaux. Il s’agit d’une erreur humaine réelle et très regrettable pour laquelle nous avons présenté nos excuses.»

«Les publications de mauvaise qualité ne sont pas une conséquence du libre accès. Comme tous les autres éditeurs, nous sommes confrontés à des recherches frauduleusesLien externe ou de mauvaise qualité et nous nous rétractons en suivant les procédures établies de longue date dans le secteur de la publication.»

«Les frais facturés par Frontiers aux chercheurs pour la publication d’un article vont de 0 à 3295 dollars, le paiement moyen par article étant de 2270 dollars.»

Cet article a été modifié le 13 mai 2024 pour mieux refléter la position de Frontiers sur ses pratiques de publication. En outre, les corrections suivantes ont été apportées:

Le taux de rejet des articles de Frontiers est de 56%, et non de 48% comme l’indiquait la version précédente de l’article.

Un porte-parole de Frontiers a déclaré que la revue avait «l’un des meilleurs bilans en matière de qualité dans l’industrie de l’édition», et non «le meilleur bilan» comme l’indiquait la version précédente de l’article.

Texte relu et vérifié par Veronica De Vore, traduit de l’anglais par Pierre-François Besson/op

Cet article vous a plu et vous souhaitez recevoir une sélection de nos meilleurs contenus directement dans votre boîte mail? Abonnez-vous à nos différentes newsletters