Искусственный интеллект: шанс или опасность для демократии?

Алгоритм Bot Dog вынюхивает в сети и социальных сетях посты и письма с враждебным или разжигающим рознь контентом. stophatespeech.ch

Некоторые видят в искусственном интеллекте опасность для демократии, другие видят в нейронных сетях на основе машинного обучения огромную возможность сделать демократию доступной даже в самых отдаленных уголках планеты. Как в Швейцарии алгоритмы и большие объемы данных («биг дата») применяются в политике — и как не применяются. Поговорили на этот счет со знающими людьми.

Голосования в Швейцарии проходят, как известно, каждые три месяца, то есть раз в квартал. Представим себе: вы спускаетесь утром к почтовому ящику и вынимаете из него толстый конверт с бюллетенями и «красной памяткой избирателя», в которой вам тщательно разъяснили все аргументы за и против законопроектов, вынесенных на народный референдум. Вопросы могут быть очень серьезными — от преимлантационной диагностики до пенсионной реформы и покупки истребителей пятого поколения. Вопросы могут быть простыми и очень сложными; для того чтобы понять некоторые из них, желательно иметь степень по биологии или по меньшей мере диплом в сфере высшей математики.

Как понять, кто прав и как нужно голосовать? Наверное, надо заглянуть в интернет, в котором «есть всё». Там перед референдумами проходят ожесточенные дебаты, и тон этих дискуссий может быть порой очень агрессивнымВнешняя ссылка. Люди иногда просто «теряют берега», оскорбления, ненависть и даже угрозы убийством там не редкость. «Это — риск для демократии». Таково мнение Софи Ахерманн (Sophie Achermann), директора левой группы активистов «Альянс F», крупнейшей структуры, представляющей в Швейцарии интересы женщин.

«Важно вести дискуссии пусть и жесткие, но все-таки основанные на фактах. Ненависть в Интернете препятствует реальному разнообразию мнений. Люди просто боятся порой получать мейлы с угрозами и предпочитают вообще ничего не говорить. Например, накануне недавнего референдума, на которой были вынесены вопросы о пестицидах в сельском хозяйстве и о питьевой воде, дискуссии в мирной Швейцарии раскалились до того, что некоторые политики начали получать прямые угрозы, причем настолько, что многие просто уже боялись появляться на публике», — говорит Софи Ахерманн.

И это не только швейцарский феномен: во всем мире политики, в том числе женщины и представители разного рода меньшинств, сталкиваются в сети со все большими по масштабам враждебностью и угрозамиВнешняя ссылка. Поэтому недавно «Alliance F» привлёк к себе на помощь цифровые технологии и разработал алгоритм Bot Dog, который — подобно ищейке — вынюхивает в сети и социальных сетях посты и письма с враждебным или разжигающим рознь контентом, помечая их особым образом. Затем группа добровольцев начинает отвечать на каждое такое сообщение.

Идея заключается в том, что ненависть в интернете не должна оставаться без ответа. Но нельзя и дать дискуссии скатиться в совсем уж базарный тон, ее следует вернуть на почву фактов и в формат взаимно уважительного диалога. Пока алгоритм находится на пилотной бета-стадии, но первые попытки его применения уже были успешными. За его применением и результатами внимательно следили эксперты Цюрихского политеха ETHZ и Цюрихского университета. Они обнаружили, например, что повышать в ответ градус агрессии не имеет смысла и что лучше начинать апеллировать к сочувствию. Такие ответы, как «Ваш пост очень обиден для евреев», нередко приводили к тому, что авторы злобных постов либо извинялись, либо просто удаляли свои сообщения.

Валерий Курту

Официальный дебют алгоритма Bot Dog в Интернете состоится в июле. По словам Софи Ахерманн, принять участие в проекте может любой желающий. Дело найдется всегда: можно либо оценивать комментарии и помогать алгоритму быстрее обучаться и более точно определять, какие комментарии содержат контент, разжигающий ненависть, а какой нет, либо прямо отвечая на сообщения, помеченные в качестве постов, содержащих «язык вражды».

Сотрудничество между алгоритмами и людьми

Алгоритм Bot Dog — это лишь один из примеров того, как искусственный интеллект (ИИ) может работать на демократию и общественный диалог. Дирк Хельбинг (Dirk Helbing), профессор ETHZ и эксперт в области прикладной социоинформатики, видит в цифровой демократии огромный потенциал. Какой? Скажем, граждане могут совместно участвовать в формировании бюджета своего города, общины или муниципального образования. В цюрихском районе Випкинген, например, эта идея уже была опробована. Используя специальную цифровую платформу, жители района приняли решение внести в бюджет статьи расхода в пользу поддержания городских парков. Таким же образом они выделили средства на создание скейт-площадки и на проведение фестиваля уличного фаст-фуда.

Каждый из этих проектов получил поддержку в размере 40 000 швейцарских франков (40 250 долларов) за счет средств налогоплательщиков. Другой формат применения цифровой демократии предусматривает возможность создания сетевых структур сотрудничества городов и регионов со всего мира, решающих схожие вопросы — от создания экологической устойчивой экономики до сокращения объемов выбросов CO2 и укрепления мирного сосуществования. Все компьютерные программы были бы опубликованы с открытым исходным кодом, они были бы доступны каждому, и поэтому они тоже могли бы служить основой для моделей на базе искусственного интеллекта.

«Я думаю, что мы уже движемся к своего рода цифровому сообществу и к какому-то сотрудничеству между ИИ и гражданами, как, например, в случае с Bot Dog, где алгоритм и добровольцы объединяют свои усилия для борьбы с ненавистью в Интернете», — говорит Дирк Хельбинг. «Применительно к демократии ИИ обладает огромным потенциалом, в том числе это касается и прямой демократии, как в Швейцарии. Но программы-приложения, управляемые исключительно большими объемами данных, обладают и огромным разрушительным потенциалом, особенно в демократических обществах, основанных на верховенстве закона и правах человека».

В самом деле, алгоритмы все чаще определяют, какую информацию мы получаем, какие товары и какую продукцию нам показывают в интернете и по какой цене. Они определяют, каким мы видим мир и какие проблемы мы считаем важными, а какие нет, а это во все большей степени определяет наше политическое мышление и наше решение у избирательной урны. В России во время известного «референдума по обнулению» впервые были опробованы системы удаленного голосования, которые были использованы, как считали оппозиционные силы, для откровенного манипулирования итогами голосования. Нечто похожее проявилось и в президентской избирательной кампании Дональда Трампа в 2016 году, в ходе которой его команда использовала алгоритмы и большие объемы данных для создания персонализированного контента с учетом интересов целевых групп.

Бриттани Кайзер (Brittany Kaiser), бывшая сотрудница компании Cambridge Analytica, рассказывает о том, как это функционирует, в опубликованном на платформе Netflix документальном фильме «Великий взлом» (The Great Hack). «Мы бомбардировали людей блогами, вебсайтами, статьями, видео, рекламой, до тех пор, пока они не начинали видеть мир так, как мы этого хотели. И пока они не голосовали за нашего кандидата». Разоблачение методов компании Cambridge Analytica вызвало один из крупнейших на сегодняшний день «цифровых» скандалов. Похожие методы использовал во время второй своей президентской кампании и Барак Обама. Его команда собрала огромное количество данных, отправив буквально каждому избирателю личное индивидуальное сообщение.

В какой степени все эти методы способствовали их успеху? С уверенностью утверждать нельзя. Но Дирк Хелбинг и его коллеги видят в них большую опасность. Сочетание микротаргетинговой рекламы с большими объемами данных о персональных паттернах поведения пользователей, об их предпочтениях и интересах может привести к установлению цифрового тоталитаризма. Сюда же относится так называемая теория подталкивания (англ. nudge theory), которая исходит из возможности влиять на процесс принятия решений посредством непрямых указаний, каковые не менее, а то и более эффективны, чем силовое принуждение к действию или прямая рекомендация.

Политические кампании с использованием ИИ в Швейцарии

Искусственный интеллект если в чем и нуждается, то только в одном: в больших объемах данных. И чем больше у него данных, тем лучше он работает. В Швейцарии, как известно, очень высоко ценится именно защита данных и конфиденциальность личной жизни. Возможны ли здесь методы проведения избирательных кампаний, подобные тем, которые используются в США и России? Имеют ли право швейцарские партии доносить свои программы до избирателей, используя так называемый микротаргетинг? И что с голосованием в удаленном режиме? Второе в Швейцарии пока невозможно. Все проекты по голосованию в интернете пока отложены в долгий ящик именно из-за того, что ни одна из предложенных программ не гарантировала абсолютной безопасности, а пример России показывает, к чему могут привести такие манипуляции.

Что касается микротаргетинга, то, как считает Лукас Леманн (Lucas Leemann), изучающий и разрабатывающий в Университете Цюриха разного рода прикладные социометрические форматы, до цифрового тоталитаризма нам еще далеко. Он говорит, что «у Трампа и Обамы были данные почти по каждому гражданину США. В Швейцарии все совершенно иначе». Во время своей учебы он недолго проработал в США в компании по производству одежды. Он не только имел доступ к базе данных всех клиентов — имя, адрес и дата рождения, — но он мог также видеть оценочные данные по их годовым доходам: о том, сколько у них детей, на какой машине они ездят, арендуют ли они дом или имеют жилье в собственности.

«В США Вы можете легко купить все эти данные, и они также используются в политических целях», — говорит он. «В Швейцарии, насколько я знаю, такие данные не используются в политических кампаниях, по крайней мере, на данный момент». В России, как известно, любые базы данных можно купить на черном рынке также без проблем. Но что дальше? В какую сторону движется Швейцария? По словам Д. Хельбинга, использование персональных данных во всем мире развито куда в большей степени, чем многие думают. В качестве примера он называет Центр кибербезопасности Всемирного экономического форума (World Economic Forum WEF Centre for Cybersecurity) со штаб-квартирой в Женеве, в работе которого участвуют организации и компании со всего мира — среди них Amazon, MasterCard и Huawei Technologies.

Дирк Хелбинг говорит, что там собирается «огромное количество персональных данных». С благословения Организации Объединенных Наций они используются для самых разных целей, включая реализацию «Повестки дня для устойчивого развития на период до 2030 года» (Agenda 2030 for sustainable development). «Благие намерения — это хорошо, но возникает вопрос, как все это реализуется и что еще можно будет сделать потом со всеми этими данными. В этот процесс вовлечено много бизнес-компаний, и существует опасность, что однажды коммерческие интересы могут перевесить общественное благо». Эксперты предупреждают: чтобы предотвратить политические злоупотребления при помощи ИИ, уже сейчас следует создавать соответствующую правовую базу. Но для этого необходимо знать, как именно работают алгоритмы.

Знать, как это работает

Такие платформы, как Facebook, представляют собой настоящий «черный ящик», никто не знает, как работают его алгоритмы. Мы также не знаем точно, какие данные о ком собираются. Об этом нам говорит Анна Мэтценер (Anna Mätzener), директор организации AlgorithmWatch Schweiz. Чтобы выяснить, как такого рода алгоритмы влияют на избирательные кампании, эта организация провела недавно исследовательский проект на паях с германской газетой Süddeutsche ZeitungВнешняя ссылка. В 2021 году перед выборами в германский Бундестаг она обратилась к добровольцам с просьбой предоставить для проекта данные из своих лент в сети Instagram.

Их попросили подписаться на профили разных политических партий. Специальный плагин регистрировал, где и когда содержание этих профилей появлялось в новостных лентах пользователей, передавая потом эту информацию в распоряжение AlgorithmWatch. Последующий анализ показал, что контент партии AfD / АдГ («Альтернатива для Германии») располагался в новостной ленте Instagram заметно выше, чем контент других партий. По итогам исследования, правда, никто так и не смог точно определить, почему это происходило.

Однако компания Meta (в которую входит Facebook и которой принадлежит Instagram) неожиданно занервничала и пригрозила компании AlgorithmWatch «формальными шагами» в случае, если проект не будет свернут. «Пока подобные исследования невозможны, мы не сможем дать никакого фактического подтверждения тому, какое влияние оказывает контент, созданный ИИ, на общество вообще и на формирование индивидуального политического сознания в частности, а значит, как следствие, и на демократию в целом», — резюмирует Анна Мэтценер.