Насколько разумны меры защиты от злоупотреблений в области ИИ?

Мировое сообщество, включая Швейцарию, пытается выработать свод правил, добиваясь, чтобы ИИ стал нам другом, а не врагом. Keystone

Искусственный интеллект (ИИ) способен как улучшить, так и осложнить жизнь. Мировое сообщество, включая Швейцарию, пытается выработать свод правил, добиваясь, чтобы ИИ стал нам другом, а не врагом.

Совет Европы, главный хранитель прав человека и демократии на континенте, разработал договор (Конвенцию)Внешняя ссылка, цель которого — наставить ИИ на истинный путь добра и справедливости. Швейцария, со своей стороны, в целом одобряет Конвенцию, сыграв даже свою небольшую роль в разработке текста этого документа. Но в число первых стран, подписавших его, она не вошла. Портал SWI swissinfo.ch анализирует его содержание и вклад Швейцарии в борьбу «темной стороной силы» под названием ИИ.

Что представляет собой этот договор?

Документ, представленный городу и миру в мае 2024 года, имеет довольно длинное название: The Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law, или Рамочная конвенция об искусственном интеллекте, правах человека, демократии и верховенстве права. КонвенцияВнешняя ссылка ставит перед собой задачу сделать так, чтобы «этот первый в своем роде договор гарантировал, что процесс развития искусственного интеллекта будет придерживаться стандартов Совета Европы в области прав человека, демократии и верховенства права».

Подписавшие Конвенцию стороны обязуются внести поправки в своё действующее законодательство или, наоборот, создать законодательную базу, позволяющую учесть специфические проблемы, возникающие в связи с конкретными форматами применения систем на основе ИИ, коль скоро потенциально при помощи таких программ и систем можно распространять дезинформацию, не говоря уже о том, что, «накормив» систему на основе ИИ ненадлежащими данными, люди могут получить на выходе из этого «черного ящика» решения, носящие предвзятый, дискриминационный характер.

В то же время в Конвенции говорится, что такие страновые нормативные акты должны поощрять и поддерживать надлежащее применение ИИ, которое в потенциале также способно принести большую пользу. В Совет Европы, напомним, входят 46 государств, но при этом с целью повысить международный авторитет Конвенции к ее разработке были привлечены и другие страны, такие как США и Япония. И вот 5 сентября 2024 года свои первые подписи под Конвенцией поставили первые десять стран, среди которых, кроме Европейского союза, находились США, Великобритания и Израиль. Постоянно обновляемый список стран-подписантов можно найти по ссылке здесьВнешняя ссылка.

Почему Швейцария не подписала Конвенцию?

В настоящее время Федеральное ведомство по делам связи и коммуникаций (Bundesamt für Kommunikation, подразделение Министерства экологии, энергетики, транспорта и связи — UVEK) разрабатывает свои рекомендации, на основании которых Швейцария могла бы регулировать в будущем применение систем на основе ИИ. Эти рекомендации будут представлены правительству уже до конца 2024 года. Затем начнется обычный процесс общественного обсуждения и межведомственного согласования (Vernehmlassung / La procédure de consultation / procedura di consultazione).

При этом в Швейцарии действует прямая демократия и любые законодательные изменения могут быть оспорены гражданами путем их выноса на общенародный референдум. Поэтому Швейцария пока не спешит подписывать Конвенцию, по крайней мере, этого не произойдет до тех пор, пока указанное Федеральное ведомство связи не представит итоги процедуры обсуждения. Порталу же SWI swissinfo.ch оно сообщило, что в целом приветствует первые подписи, поставленные под Конвенцией, однако «вопрос о том, станет ли эта Конвенция основой для национальной политики Швейцарии в области ИИ, а также вопрос сроков возможного подписания и ратификации Конвенции в настоящее время изучаются».

Федеральный совет, правительство Швейцарии, уже заявил в мае 2024 года, что одобряет документ, тем более что руководил межгосударственными консультациями в период разработки текста Конвенции швейцарский дипломат Томас Шнайдер, возглавляющий Комитет Совета Европы по искусственному интеллекту.

Какова реакция на Конвенцию?

Учитывая круг стран, участвовавших в этих консультациях, компромиссы были неизбежны. Все страны-участницы остались поэтому довольны конечным результатом, пусть некоторые представители гражданского общества и активисты и восприняли эти компромиссы в штыки.

«Неправительственные организации, частные компании и другие негосударственные субъекты были приглашены высказать свое мнение, но места за столом переговоров они не получили. Это было плохое начало», — так считает американский Аналитический центр по искусственному интеллекту и цифровой политике (US Center for AI and Digital PolicyВнешняя ссылка, гор. Вашингтон). Еще одним спорным моментом является тот факт, что Конвенция исключает из сферы своего действия частные компании, фокусируясь на деятельности государства.

Неправительственная организация Algorithm Watch SwitzerlandВнешняя ссылка критиковала этот факт еще тогда, когда переговоры и консультации по тексту Конвенции шли полным ходом. «Таким образом, первый международный свод правил по ИИ может дать частным корпорациям карт-бланш для разработки и использования ИИ в соответствии с их собственными интересами», — заявила тогда исполнительный директор Algorithm Watch Switzerland Ангела Мюллер.

«Государства, участвующие в переговорах, должны гарантировать, что системы на основе ИИ будут служить интересам человечества, а не только нескольких крупных компаний». Другой критический пункт, на котором настаивают неправительственные организации, заключается в том, что Конвенции не хватает потенциала юридической обязательности, она не имеет полномочий заставить подписавшие ее государства реально выполнять её требования.

Каковы плюсы и минусы ИИ?

Системы на основе ИИ можно применять практически в любой сфере жизни. В пояснительном докладе к Конвенции перечислены следующие варианты использования таких инструментов: «выплата социальной помощи, принятие решений о кредитоспособности потенциальных клиентов, процессы найма персонала, процедуры уголовного правосудия, иммиграция, процедуры предоставления убежища и пограничный контроль, работа полиции, а также таргетированная реклама».

Такие машины можно научить быстро фильтровать огромные массивы данных с целью собрать воедино информацию, необходимую для решения тех или иных задач. Существует также генеративный искусственный интеллектВнешняя ссылка, способный создавать новый креативный контент, включая диалоги и сюжеты, генерировать визуальный контент (фото/видео) и писать музыку. Регулирующие органы пытаются поэтому сейчас найти золотую середину между позитивными и негативными сторонами этой технологии.

Есть ли еще какие-нибудь нормативные акты, регулирующие ИИ?

Конвенция Совета Европы — одна из многих целенаправленных попыток начать контролировать ИИ. В прошлом 2023 году Европейский союз выпустил свою директиву, призванную регулировать использование данной технологии. В ноябре 2023 года 28 стран, включая США, Китай, ЕС, Австралию и Великобританию, подписали Bletchley Declaration (Блетчлискую декларацию*),Внешняя ссылка глобальное обязательство «развивать искусственный интеллект, ориентируясь на интересы человека, доверяя ему и неся (за него всю полноту) ответственности».

Конвенция Совета Европы устанавливает некие базовые принципы, но признает при этом, что отдельные страны будут реализовывать их по-разному, принимая во внимание свои национальные интересы в таких вопросах, как, например, пограничный контроль и охрана правопорядка. Швейцария — одна из многих стран, работающих в настоящее время над тем, как лучше всего отрегулировать ИИ в соответствии со своими национальными интересами.

Примечание:

*«Блетчли-парк» (Bletchley Park) — особняк, расположенный в Блетчли (город Милтон Кинс) в историческом графстве Бакингемшир в центре Англии. В период Второй мировой войны в Блетчли-парке располагалось главное шифровальное подразделение Великобритании — Правительственная школа кодов и шифров (Government Code and Cypher School, GC&CS), позже ставшая Центром правительственной связи (англ. Government Communications Headquarters, GCHQ). Здесь взламывались шифры и коды стран Оси и была спланирована операция «Ультра» по дешифровке кода немецкой «Энигмы».