Поток дезинформации угрожает и США, и Швейцарии

США и Швейцария: эти страны имеют разные политические системы, но они подвергаются общей угрозе со стороны потока дезинформации и дипфейков. X

До президентских выборов в Соединенных Штатах остается уже совсем немного, предвыборная борьба приобретает все более острый характер, соответственно, СМИ, и прежде всего социальные сети, захлестнула беспрецедентная волна фейкового контента, генерируемого искусственным интеллектом. Эксперты предупреждают: Швейцария находится далеко от США, но и она не застрахована от подобного кризиса. Более того, Конфедерация не привыкла к политике такого стиля, и у нее во многом просто нет против неё иммунитета.

«Для Швейцарии проблема фейков особенно актуальна, потому что тут, получив неверную информацию, люди пойдут на референдум, и они могут принять неправильные решения (непосредственно влияющие на всю страну)». На это обращает внимание Турадж Эбрахими (Touradj Ebrahimi), профессор Швейцарского политеха (EPFL) в Лозанне и эксперт по так называемым deepfakes. По его мнению, будучи прямой демократией, в рамках которой граждане играют важнейшую роль в формировании текущего политического и социально-экономического курса, Швейцарии в особой степени подвержена негативному воздействию дезинформации, в том числе генерируемой искусственным интеллектом (ИИ).

Впрочем, это суждение в равной степени относится как к Швейцарии, так и к значительному количеству американских кантонов, то есть штатов, там, где важные политические решения принимают не только депутаты, но и напрямую сам народ. Проходящая сейчас в США президентская избирательная кампания наглядно демонстрирует, в какой степени находящийся в умелых руках ИИ способен вмешиваться в ход политических дебатов, создавая мутную воду, в которой так уютно ощущают себя разного рода боты и тролли.

И кого мы за последний год только не видели и не слышали: и Камалу Харрис в роли диктатораВнешняя ссылка на трибуне съезда нерушимого блока коммунистов и беспартийных, и аудио-обращения с голосомВнешняя ссылка Джо Байдена, требующего не ходить на выборы, и видеоролики, в которых Илон Маск и Дональд Трамп вместе танцуютВнешняя ссылка под диско-музыку 1970-х годов.

pic.twitter.com/CaH0yXMO0kВнешняя ссылка

— Donald J. Trump (@realDonaldTrump) August 15, 2024Внешняя ссылка

И это лишь некоторые из так называемых deepfakes, циркулирующих на таких социальных платформах, как X (бывший Twitter). Понятием дипфейк (англ. deepfake от deep learning, «глубинное обучение» + fake, «подделка») обозначают сфальсифицированные изображения и голосовые файлы, созданные на основе метода наложения сгенерированных изображений или аудиофайлов на исходные изображения или видеоролики с использованием т. н. генеративно-состязательных нейросетей (GAN).

Алгоритм до тех пор «тасует» настоящее и ложное (заставляя их «состязаться» между собой), пока фейк уже нельзя отличить от оригинала, а на выходе мы получаем уже что-то третье, совсем иное, прекрасно тем не менее подходящее для дезинформирования и манипулирования общественным мнением и сознанием. Огромный эффект при этом достигается весьма малыми усилиями.

Ситуация в США в этом смысле сложилась настолько тревожная, что недавно штат КалифорнияВнешняя ссылка, например, принял один из самых жестких в Америке законов против политических deepfakes. В целом по крайней мере уже 20 штатов приняли свои нормативные актыВнешняя ссылка, регулирующие противодействие политическим deepfakes, а Министерство внутренней безопасности (Homeland Security) предупредило, что ИИ может стать в ходе нынешних президентских выборов источником особого риска.

А вот Швейцария, напротив, довольно-таки сильно отстаёт, причем даже от ЕС,Внешняя ссылка который тоже недавно принял новые нормы противодействия deepfakes. Швейцарское же правительство ещё в прошлом 2023 году заявило, что не видит необходимости в специальном регулировании и особых законов, направленных против негативных последствий искусственно сгенерированного ложного контента, стране не нужноВнешняя ссылка, мол, люди у нас не маленькие, сами во всем разберутся. А это всё ведь только начало, пика потока дезинформации, генерируемого ИИ, мы еще не достигли.

В ближайшем будущем нас ожидает куда больше искусственно созданного синтетического медиаконтента. По крайней мере там считает проф. Турадж Эбрахими. И по мере того, как соответствующие технологии будут становиться все более и более изощренными, их ложный контент будет все сложнее отличить от настоящего. Многие другие эксперты, с которыми проконсультировался портал SWI swissinfo, вполне согласны с такой оценкой. Ниже мы сформулировали три основные причины, по которым швейцарская демократия не должна недооценивать опасность дезинформации, генерируемой при помощи ИИ.

1. Поисковые системы и чат-боты дают необъективную и часто просто ложную информацию

Многие эксперты давно уже предупреждали обо всех этих опасностях. Например, швейцарская неправительственная организация левых активистов Algorithm Watch CH проанализировала в октябре 2023 года накануне парламентских выборов в Швейцарии ответы чат-бота Microsoft, интегрированного в поисковую систему Bing, и обнаружила, что треть ответов, связанных с выборами, содержала фактические ошибки. При этом ИИ заходил настолько далеко, что даже сам придумывалВнешняя ссылка политические скандалы, которые якобы имели место в Швейцарии накануне голосования. «Генеративные чат-боты на основе ИИ, интегрированные в поисковые машины, могут вводить людей в заблуждение, тем более что те порой слепо полагаются на информацию, которую они собирают через сетевые поисковики», — говоритВнешняя ссылка Анжела Мюллер (Angela Müller), директор НКО Algorithm Watch CH.

В «Белой книгеВнешняя ссылка», составленной экспертами университетов Берна и Цюриха, было указано, что самая используемая поисковая система в Швейцарии, а именно, поисковик от Google, выдает в зависимости от языка поиска (немецкий, французский или итальянский) совершенно разное по своей степени соотношение критических мнений по той или иной теме. Например, перед референдумом в июне 2023 года (тогда речь шла о климатических вопросах) эксперты обнаружили, что в ответ на запросы на немецком языке Google отдавал предпочтение информации от партий, которые более критично относились к вынесенному на референдум законопроекту, тогда как итоги запросов на итальянском и французском языках выглядели иначе.

Как говорит один из авторов «Белой книги» Микола Махортых (Mykola Makhortykh), все эти результаты должны начать нас серьезно беспокоить, коль скоро они напрямую относятся к такой и без того политически расколотой многоязычной демократии, как Швейцария. Сейчас почти никто ничего не знает, по его словам, о том, как на самом деле работают поисковые алгоритмы и программы искусственного интеллекта, и это несмотря на громкие обещания технологических компаний из области IT создать однажды эффективные системы противодействия фейкам.

2. Дезинформация, генерируемая ИИ, наносит удар по репутации СМИ

Как говорит далее Микола Махортых, современные системы и программы на основе ИИ позволяют создавать и распространять дезинформацию куда проще и быстрее, чем раньше. Все больше и больше появляется в сетях фейковых новостных сайтовВнешняя ссылка, имитирующих авторитетные качественные СМИ и забитых автоматически сгенерированным ИИ контентом, который зачастую неверен, а иногда и полностью сфабрикован. Такие «новости» затем заполняют ленты социальных медиа-платформ. И в итоге на данный момент 60% ложной информации, циркулирующей в Швейцарии, поступают к пользователям, согласно даннымВнешняя ссылка цюрихского НИИ изучения социума и медиа (fög), именно из соцсетей.

Фейковые новости, сгенерированные ИИ, могут быть настолько хорошо сделаны, что пользователям уже сейчас становится всё сложнее распознать их. В недавнем исследовании, проведенном по заказу ОЭСР, швейцарцы были отнесены к числу людей, наименее способных быстро распознать дезинформацию. «Если новости, созданные реальными журналистами и искусственным интеллектом, выглядят одинаково, то это действительно опасно, так как в какой-то момент люди могут почувствовать себя обманутыми и потерять доверие к СМИ в целом», — говорит Карстен Доннай (Karsten Donnay), профессор политологии и цифровых медиа Цюрихского университета.

По последним данным, опубликованным в докладе Reuters Digital News Report, основным источником информации в Швейцарии уже являются не традиционные газеты из киоска, а новостные сайты в Интернете. Традиционные и куда более надежные каналы, такие как телевидение, печатные издания и радио, по-прежнему важны, но с 2016 года масштабы их использования переживают значительный спад. Одна из причин заключается в том, что люди просто устали от потока информации, в результате внимание отключается, люди теряют в целом интерес к новостному контенту.

В Швейцарии такого рода сдвиг в структуре потребления информации пока не столь экстремален, как в некоторых других демократических странах, например в США, где население уже очень близко подошло к отказу от всех традиционных медиаформатов. Карстен Доннай считает, что и Швейцарии не стоит спать в оглоблях, потому что поисковые системы на основе ИИ и прочие чат-боты будут продолжать увеличивать свое влияние в качестве источников информации. «Люди будут использовать их во все большей степени, и мы пока на самом деле даже не понимаем, к чему всё это может привести», — отмечает Карстен Доннай. По его мнению, еще не поздно установить и внедрить правовые и иные ограничители, с тем чтобы заставить даже нежурналистские источники информации все равно придерживаться определенных стандартов.

3. Генеративные технологии невероятно убедительны

Каков все-таки масштаб влияния дезинформации, генерируемой ИИ, на пользователей, граждан, налогоплательщиков, избирателей? Пока точных оценок у нас нет. «Дезинформация вовсе не есть массовое явление, она пока циркулирует только в определенных нишах», — уверен политолог Фабрицио Жильярди (Fabrizio Gilardi) из Цюрихского университета. По его мнению, дезинформация существовала всегда и везде, и все самые убедительные научные исследования доказывают, что она имеет гораздо меньшее влияниеВнешняя ссылка на общество, чем могло бы показаться.

Независимые исследования, проведенные в сотрудничестве с концерном Meta (Facebook) накануне президентских выборов в США в 2020 году, доказали, что дезинформация, циркулировавшая тогда в социальных сетях, существенного влияния на электоральное поведение людей не оказывала, но теперь, с появлением интерактивных ИИ-платформ, таких как ChatGPT, всё может измениться качественным образом. Исследование, проведенное в США Швейцарским политехом из Лозанны (EPFL), показало, что ChatGPT способен очень умело формировать наше мнение.

«Способность больших языковых моделей убеждать людей настолько высока, что эти программы уже напрямую способны влиять на итоги выборов», — говорит Франческо Сальви, один из авторов указанного исследования. Он и его команда экспертов доказали, что шансов, изменить мнение собеседника, у ChatGPT-4 на 82% больше, чем у живого собеседника. Владея личной информацией о пользователе, программа ChatGPT-4 способна генерировать персонализированные, а потому и куда более убедительные ответы на вопросы. На этом фоне некогда громкий скандал с фирмой Cambridge Analytica выглядит детским садом. «Мы столкнулись на самом деле с сюжетом Cambridge Analytica, возведённым n-ую степень», — резюмирует Франческо Сальви.

Англоязычный оригинал отредактирован Беньямином фон Вилем (Benjamin von Wyl) и Вероникой ДеВор (Veronica De Vore/ds), русскоязычный оригинал отредактирован, уточнен и адаптирован русскоязычной редакцией SWI / нк / ап.