Информация из Швейцарии на 10 языках

Почему швейцарское издательство Frontiers стало объектом критики?

Ученые все чаще используют инструменты искусственного интеллекта, такие как Midjourney, Stable Diffusion и DALL-E, чтобы ускорить создание графиков, диаграмм и иллюстраций.
Издатели используют технологии ИИ для ускорения процесса рецензирования текстов, авторы статей — для генерирования графических изображений и самих текстов статей. Alamy Stock Photo/Credit: Tero Vesalainen / Alamy Stock Photo

Абсурдные графические изображения, сгенерированные программой на основе «искусственного интеллекта» (ИИ), стали недавно причиной резкой критики в адрес швейцарского научного издательства открытого доступа Frontiers. По мнению экспертов, этот казус стал признаком существования системы, жестко давящей на ученых и рецензентов, заставляя публиковать как можно быстрее как можно больше статей.

Швейцарское издательство открытого доступа Frontiers Внешняя ссылкаявляется одним из крупнейших в Швейцарии источников рецензируемой научной информации. «Наша миссия заключается в том, чтобы сделать науку открытой, чтобы ученые могли эффективнее сотрудничать и быстрее внедрять инновации с целью поиска решений, обеспечивающих здоровую жизнь на здоровой планете»: именно так формулирует свою «миссию» этот портал. Однако недавно он подвергся критике за публикацию научной статьи, в которой содержались несуществующие слова и совершено абсурдные анатомические изображения, сгенерированные «искусственным интеллектом».

Этот сюжет стал поводом еще раз внимательнее присмотреться к платной публикации научных статей как к бизнес-модели, в основе которой изначально находилось благое намерение обеспечивать оперативную публикацию результатов научных исследований. Уточним, что издательство открытого доступа Frontiers является конгломератом значительного количества отдельных специализированных онлайн-журналов по самым разным научным направлениям. Расположенное в Лозанне это издательство было основано в 2007 году и с тех пор оно публикует научные статьи в открытом доступе на платной основе. Тарифы могут быть самыми разными — от сотни франков до 7–8 тыс. швейцарских франков, идущих на так называемую «обработку статьи» (article processing charges APC), то есть, собственно, на то, чтобы данная статья была опубликована и находилась затем в свободном доступе.

Данная модель является прямым конкурентом традиционным рецензируемым журналам, основанным на принципе платной подписки («пейвол»). Так работают такие известные научные издательства как Elsevier и Springer Nature. Фактически единолично контролируя доступ к результатам научных исследований, они зачастую финансируются деньгами налогоплательщиков. Два крупнейших издательства открытого доступа, Frontiers и MDPI, оба базирующие в Швейцарии, выступают за так называемую «открытую науку», обеспечивая оперативное рецензирование и публикацию статей в кратчайшие сроки.

На рисунке изображены гротескно увеличенные гениталии крысы в разрезе. Изображение сопровождает бессмысленный текст, вроде iollotte sserotgomar cell, testtomcels и dck. Авторство нелепых картинок приписывают Midjourney − одной из самых популярных систем искусственного интеллекта для создания изображений.
Изображение гротескно увеличенных гениталий крысы в разрезе сопровождал бессмысленный текст, вроде iollotte sserotgomar cell, testtomcels и dck. Авторство нелепой картинки приписывают Midjourney – популярной программе на основе искусственного интеллекта, создающей изображения по текстовым описаниям. Сейчас на рынке существуют и другие подобные программы, например DALL-E от OpenAI и Stable Diffusion Frontiers

Упомянутая статьяВнешняя ссылка появилась на сайте журнала Cell and Developmental Biology, и она в глобальном научном сообществе вызвала, мягко говоря, недоумение. И в самом деле, графическое изображение крысы с огромными, да еще и анатомически некорректно показанными гениталиями не могло не привлечь к себе критического внимания ученых и не поставить под сомнение процесс рецензирования научных статей редакторами Frontiers. Справедливости ради следует сказать, что портал сразу отозвал публикацию, поблагодарил научное сообщество на платформе X/Twitter и подчеркнул важность принципов открытой науки и значение «коллективного разума» там и тогда, где и когда речь идет о поисках и об исправлении научных ошибок.

Сомнительная бизнес-модель?

Тем не менее этот сюжет стал причиной еще раз обратить внимание на бизнес-модель, которая в теории может мотивировать издательства приносить качество статей в жертву прибыли. Стефани Хауштайн (Stefanie Haustein), профессор Оттавского университета (Канада), специализируется на анализе «открытых» моделей финансирования процессов APC. Она утверждает: «Меня беспокоит тот факт, что эта (публикация с крысой) является только верхушкой айсберга, и я боюсь даже предположить, сколько ложной научной информации было опубликовано только для того, чтобы просто быстро что-то опубликовать».

«Неверно, что у нас практически невозможно отклонить статью, присланную в Frontiers, наши требования к статьям весьма строги, редакторы могут принимать статьи только в том случае, если они получили одобрение двух независимых рецензентов. Портал Frontiers аккредитован в качестве члена всех основных издательских регулирующих и этических организаций, придерживаясь их стандартов качества и лучших этических практик.

Авторы, создавшие сгенерированные искусственным интеллектом рисунки с изображением крысы, явно нарушили рекомендации портала Frontiers. Коллеги-рецензенты попросили пересмотреть эти изображения, но тот факт, что авторы так и не выполнили этого требования, был упущен при окончательной проверке качества материала. Это была искренняя и очень прискорбная человеческая ошибка, за которую мы приносим свои извинения.

Вместе с тем некачественные публикации не являются следствием реализации принципа «открытого доступа». Как и все другие издательства мы постоянно имеем дело с некачественными и мошенническими исследованиями, и мы отказываемся от них, следуя давно установленным в издательском деле процедурам. Расценки портала Frontiers на публикацию статей варьируются от 0 до 3 295 долларов, средняя оплата за статью составляет 2 270 долларов».

Особую проблему представляют новейшие технологии на основе так называемого «искусственного интеллекта». Издатели используют технологии ИИ для ускорения процесса рецензирования текстов, авторы статей — для генерирования графических изображений и самих текстов статей. Стефани Хауштайн считает, что сам по себе ИИ — это вовсе и далеко не главная причина публикации порой некачественных научных материалов, скорее это признак существования системы, которая жестко давит на ученых и рецензентов, заставляя их публиковать как можно быстрее как можно больше статей.

Еще одна диаграмма с бессмысленным текстом и числами в коллаже из не поддающихся интерпретации изображений. В подписи говорится, что это «Диаграмма сигнального пути JAK-STAT».
Еще одна диаграмма с бессмысленным текстом и числами в коллаже из не поддающихся интерпретации изображений. В подписи говорится, что это «диаграмма сигнального пути JAK-STAT». Сигнальный путь JAK/STAT– один из консервативных путей регуляции у высших эукариот– играет важную роль в различных процессах онтогенеза. Frontiers

В ответ на запрос портала SWI swissinfo.ch портал Frontiers ответил по электронной почте, что «статья с крысой» является «досадным и единичным случаем». Однако не секрет, что портал Frontiers и раньше подвергался критике за сомнительные публикации. Так, в апреле 2023 года он опубликовал статью, в которой делались бездоказательные заявления о том, что гигиенические лицевые маски способны якобы вызывать симптомы, сходные с симптомами заражения ковидом. После резкой критики со стороны ученых и экспертов статья была отозвана месяц спустя.

Та же участь постигла статьюВнешняя ссылка, в которой ставилась под сомнение связь между ВИЧ и СПИД. Издательство классифицировало статью в качестве «мнения», статья провисела на сайте четыре года и потом она была все-таки отозвана. Этот и другие подобные случаи побудили многих ученых призвать к бойкоту портала Frontiers, коль скоро «сомнительные процедуры рецензирования, практикуемые этим издательством, допускают публикацию лженаучных выводов».

Публикация любой ценой?

Со своей стороны портал Frontiers настаиваетВнешняя ссылка на том, что он обладает «одним из лучших показателей качества статей в рамках всей научно-издательской индустрии», занимая третье место среди крупных научных издательств, а опубликованные им статьи просматриваются и скачиваются пользователями миллиарды раз. Однако, по мнению Стефани Хауштайн, скандалы, связанные с порталом Frontiers, показывают, что основная цель издателей открытого доступа (распространение знаний ради свободного развития науки) вошла в противоречие с бизнес-моделью, лежащей в основе издательств этой категории.

«Их главная цель теперь – не публиковать точные научные данные, а быть прибыльным». Таково мнение Стефани Хауштайн. Так ли это? В качестве доказательств эксперт приводит тот факт, что портал Frontiers берет с авторов в среднем по 1 992 шв. франка за публикацию, поэтому-то у портала почти что и нет стимулов отказывать авторам. В самом деле, квота отказов у портала Frontiers (56%) гораздо ниже, нежели у традиционных научных издательств, таких как Elsevier (71%). Время обработки заявок также чрезвычайно мало: согласно данным самого сайта Frontiers, авторы получают окончательное решение о публикации или не публикации всего через 61 день, в то время как среднее время обработки заявок в других рецензируемых научных журналах составляет срок от трех до шести месяцев.

Показать больше
Мнение

Показать больше

ИИ выходит из-под (демократического) контроля

Этот контент был опубликован на Необходимо создать систему управления ИИ, подобную системе менеджмента в авиационной, пищевой и других отраслях промышленности.

Читать далее ИИ выходит из-под (демократического) контроля

Кроме того, в последние годы издательства «открытого доступа» все чаще используют для публикации большинства своих статей формат «специальных выпусков». «Раньше спецвыпуски были чем-то очень редким и престижным, но теперь издательства Frontiers и MDPI используют их в качестве драйвера своего экономического роста», — говорит Стефани Хауштайн. Более того, эта модель стала в той же Швейцарии настолько распространенной, что недавно Швейцарский национальный научный венчурный фонд (SNSF) исключил результаты исследований, опубликованные в рамках таких «специальных выпусков», из своих программ бюджетного финансирования. Как заявил представитель фонда порталу SWI swissinfo.ch, принцип «публикация любой ценой» противоречит политике SNSF.

Количество публикуемых научных статей за последние десять лет выросло едва ли не в геометрической прогрессии. Причина?Внешняя ссылка Возможность публиковаться получают все больше ученых-исследователей, результаты исследований все чаще оказываются в свободном доступе, при этом численно само научное сообщество не растет. В результате от ученых требуют писать, рецензировать и редактировать статьи с беспрецедентной скоростью, и зачастую бесплатно. И пока ученые пытаются как-то справиться с возросшей нагрузкой, потому что иначе у них просто не будет шансов продвинуться по карьерной лестнице, такие издательства, как Frontiers, становятся все более прибыльными.

Показать больше

Австралийский иммунолог Адриан Листон (Adrian Liston), бывший редактор портала Frontiers, покинул издательство, когда понял, что отклонить научную статью стало практически невозможно. Он утверждает, что издательство Frontiers разрослось настолько, что, по сути, отказалось от контроля над процессом редактирования текстов поступающих статей. Или, по крайней мере, редакторы всегда стремились ускорять процесс рецензирования статей и часто просто не слушали рецензентов, с тем чтобы как можно быстрее опубликовать статью и окупить затраты на её публикацию.

Перестать давить на ученых

Злоупотребление программами и цифровыми инструментами на основе ИИ является проблемой не только научных журналов открытого доступа. С появлением на рынке доступных программ на основе «генеративного ИИ», способных создавать тексты и изображения с молниеносной скоростью, эксперты опасаются, что издателям и ученым станет гораздо проще заниматься откровенным научным мошенничеством. Технологии развиваются так быстро, что люди, участвующие в процессе рецензирования научных статей, часто просто не успевают за ними, тем более что контент, созданный ИИ, порой выглядит настолько качественно, что распознать его бывает сложно даже самым опытным экспертам.

Внешний контент

Элизабет Бик (Elisabeth Bik), микробиолог и консультант по вопросам научной порядочности, говорит, что даже мне, с моим-то опытом, и даже имея программы обнаружения «клонов» научных статей, порой сложно точно сказать, являются ли данные графические изображения или научные показатели настоящими, или нет.

Ситуация, видимо, становится и в самом деле уже довольно серьезной, коль скоро в прошлом 2023 году было отозвано рекордное, около 10 тыс., количество научных работ. Традиционные издательства запрещают или ограничивают использование ИИ в научных статьях: со своей стороны, издательство Frontiers считает такой метод работы вполне допустимым, требуя только от авторов проверять корректность полученных таким образом результатов и прозрачно декларировать, что при написании данной статьи применялся генеративный ИИ.

Внешний контент

Более того, это издательство указывает, что, как и многие другие издательства научного профиля, оно использует ИИ в своих редакционных процессах, но только для того, чтобы расширить человеческие возможности в области выявления случаев мошенничества и неправомерных действий ученых-исследователей. Однако, как показывает упомянутый случай с поддельными изображениями крысиных гениталий, даже ИИ не является гарантией распознавания псевдонаучных публикаций. Так что же делать?

Показать больше

В 2012 году была создана подписанная уже 25 000 ученых-исследователей San Francisco declaration on research assessment или Сан-Францисская декларация об оценке научных исследований (DORA). Подробнее на русском языке об этом документе можно прочитать по ссылкеВнешняя ссылка. Главной же целью этой декларации, если коротко, является противодействие распространенной практике увязки числа публикаций с карьерными шансами: не следует давить на ученых и принуждать их публиковать как можно больше статей — вместо этого они должны стремиться, пусть и не так часто, но публиковать в проверенных издательствах проверенные статьи с надежными научными результатами.

Показать больше
Communications and energy minister Albert Rösti

Показать больше

Министр связи Швейцарии А. Рёшти требует регулировать ИИ

Этот контент был опубликован на В интервью газете NZZ am Sonntag он указал, что необходимо также создать своего рода орган по рассмотрению жалоб на применение ИИ.

Читать далее Министр связи Швейцарии А. Рёшти требует регулировать ИИ

Англоязычный оригинал статьи отредактирован Вероникой ДеВор (Veronica De Vore), русскоязычный оригинал материала подготовлен и отредактирован русскоязычной редакцией портала SWI Swissinfo. Понравился материал? Хотите получать в большем объёме и чаще нашу самую свежую информацию, причем в полном соответствии с вашими личными предпочтениями? Тогда здесь вы можете выбрать себе рассылку по душе.

Этот материал был скорректирован 13 мая 2024 г., с тем чтобы более полно отразить позицию Frontiers в отношении своей издательской практики.

Кроме того, были сделаны следующие исправления:

Процент отклонения статей в Frontiers составляет 56%, а не 48%, как было указано в предыдущей версии статьи.

Представитель Frontiers указал, что этот журнал «обладает одним из лучших показателей качества статей в рамках всей научно-издательской индустрии», а не «самым лучшим», как было указано в предыдущей версии статьи.

Выбор читателей

Самое обсуждаемое

В соответствии со стандартами JTI

Показать больше: Сертификат по нормам JTI для портала SWI swissinfo.ch

Обзор текущих дебатов с нашими журналистами можно найти здесь. Пожалуйста, присоединяйтесь к нам!

Если вы хотите начать разговор на тему, поднятую в этой статье, или хотите сообщить о фактических ошибках, напишите нам по адресу russian@swissinfo.ch.

swissinfo.ch - подразделение Швейцарской национальной теле- и радиокомпании SRG SSR

swissinfo.ch - подразделение Швейцарской национальной теле- и радиокомпании SRG SSR