Швейцарский дипломат Томас Шнайдер и проблема ИИ в Совете Европы
Рамочная конвенция Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права (CДСЕ № 225Внешняя ссылка) по мнению некоторых экспертов «продалась США» в обмен на их подпись. Швейцарский дипломат Томас Шнайдер пытается развеять недопонимание и заблуждения, возникшие вокруг этого эпохального документа.
Рамочная конвенция Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права стала попыткой создать глобальный консенсус в области защиты базовых прав человека и гражданина в условиях стремительно развивающихся инновационных технологий. Швейцарский дипломат Томас Шнайдер в рамках процесса создания и подписания текста этого документа сыграл важнейшую роль. Критики немедленно обвинили его в том, что он «продался США» и пошел на недопустимый компромисс в части ключевых этических принципов и базовых прав человека.
Мы встретились с ним в тот момент, когда он уже готовился покинуть свою должность в Совете Европы, организации, репутация которой сейчас находится не в лучшем положении. Проблемы, которыми он занимался, могут показаться надуманными, но это только на первый взгляд. Как сделать так, чтобы системы на основе искусственного интеллекта (ИИ) не дискриминировали людей по полу и цвету кожи? Как сделать так, чтобы, принимая решения о предоставлении кредитов или о доступе к медицинским услугам, ИИ не использовал наши персональные данные нам же во вред? Как исключить или хотя бы снизить риск манипуляций и незаконной цифровой слежки?
Показать больше
Швейцария менее готова к рискам, связанным с ИИ, чем Европа
Еще несколько месяцев назад глобальных юридически обязывающих соглашений, направленных на борьбу с нарушениями прав человека, совершаемыми с помощью систем ИИ, в мире не существовало. Но вот теперь, после нескольких лет напряженной работы, Совет Европы (СЕ) при активном участии Швейцарии представил городу и миру такого рода документ: Рамочную конвенцию Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права (далее: Рамочная конвенция СЕ по ИИ) под скучным номером СДСЕ № 225.
Понятно, что увязка разнонаправленных и порой взаимоисключающих требований и интересов отдельных стран в этой области — это процесс, способный вымотать даже самых стойких и опытных дипломатов. Швейцарец Томас Шнайдер как раз и есть этот стойкий и опытный. Он входит в помещение для заседаний и выглядит совершенно спокойным. За его плечами колоссальная проделанная работа, итогом которой он вполне имеет право гордиться: к марту 2024 года по основным положениям Рамочной конвенции СЕ по ИИ смогли договориться все 46 государств, входящих в Совет Европы, а также 11 стран со статусом наблюдателей, включая США, Канаду и Израиль.
В условиях кризиса легитимности
Этот эпохальный документ, призванный защищать людей от рисков и опасностей, связанных с практикой использования технологий на основе ИИ, многими рассматривается в качестве решающего шага на пути обеспечения прав человека, демократии и верховенства закона в условиях цифровой революции. Но еще это и личный триумф швейцарского дипломата Томаса Шнайдера, его детище, которому он в последние годы отдавал все свои силы и всё время. Мы разговариваем с ним в середине сентября 2024 года в осеннем Страсбурге, всего за день до истечения срока его пребывания на должности председателя Европейской Ассоциации искусственного интеллекта, ранее называвшейся Европейский Координационный комитет Совета Европы по искусственному интеллекту.
Показать больше
Малый и средний бизнес Швейцарии не боится ИИ
Как всякий документ такого рода, Конвенция СЕ по ИИ, которая теперь позволит более или менее адекватно оценивать риски и регулировать последствия применения ИИ, стала предметом обсуждений, критики, а порой и просто откровенного шельмования. Многие представители неправительственных и общественных организаций, не возлагают на этот документ вообще никаких надежд. Прорыв в области прав человека? Не смешите! «Есть государства, которые настаивают на изменении многих формулировок (Конвенции), но это только потому, что не хотят брать на себя даже малейших обязательств», — говорит Франческа Фануччи во время перерыва на кофе.
Старший юрисконсульт Европейского Центра Некоммерческого Права (ECNL), ведущего научно-исследовательского центра в области прав гражданского общества, зримо обеспокоена отсутствием в Конвенции точных обязательств, а без них любые соглашения выхолащиваются и становятся простыми декларациями о намерениях. Другие НКО считают, что сама Конвенция слишком расплывчата, чтобы быть эффективной, а факт её несоблюдения будет непросто, если вообще возможно, доказать юридически. Совет Европы уже успели обвинить в том, что он Конвенцию он проталкивал любой ценой не столько ради защиты прав человека, сколько с целью восстановления своего международного авторитета и престижа в условиях острого кризиса собственной легитимности.
По их мнению, итоговая Конвенция позволяет технологическим компаниям с легкостью снимать с себя все обязательства и всю ответственность в области противодействия предвзятости или манипуляциям, системно «зашитым» в разработанных ими системах и программах на основе так называемого искусственного интеллекта. Представители левого сообщества активистов утверждают, что в ходе консультаций по положениям Конвенции были сделаны решающие уступки США, стране, в которой расположены крупнейшие в мире технологические компании, занимающимися развитием передовых технологий, таких как ИИ и квантовые компьютеры. «С самого начала (у авторов текста Конвенции) существовало намерение подключить (к процессу согласования текста) представителей государств-наблюдателей, что затруднило создание по настоящему обязывающей Конвенции», — говорит пожелавший сохранить анонимность один из деятелей левого сообщества.
Марионетка США или гений переговоров?
Томаса Шнайдера называли «марионеткой США» за то, что он якобы уступил всем просьбам Вашингтона. Дипломат спокойно принимает критику к сведению. Подводя итоги, он говорит, что нарратив о всемогущей стране, которая якобы диктует свою непреклонную волю остальному мировому сообществу, и о потакающей им швейцарской марионетке, «очень уж устраивал некоторых в Брюсселе, так как это позволяло им давить на меня и на наш секретариат». Дипломат знает, что угодить всем — невозможно в принципе, при этом он не воспринимает себя слишком уже серьезно.
На его пиджак нашиты разноцветные пуговицы, рисунок на рубашке представляет собой собрание пестрых иконок на экране смартфона, маркирующих самыеп разные программы-приложения. Себя он рассматривает качестве «слуги народа», который никогда не принимал решений исходя из перспектив собственной карьеры. Дипломат почти два десятилетия работал в сфере международного регулирования при крупнейших международных организациях, от ООН до НКО ICANN и других подобных структур.
Способность вести рациональные переговоры на основе обмена мнениями и аргументами корнями уходят в его родину, маленькую деревушку в кантоне Санкт-Галлен на востоке Швейцарии. «Я начал учиться в школе на год раньше остальных, так как я был ниже ростом и слабее многих своих одноклассников», — рассказывает Томас Шнайдер. Именно тогда он и научился дискутировать и побеждать в дискуссиях с помощью рационального обмена фактами. Эти-то навыки и позволили ему добиться многого в сфере профессиональной деятельности.
В 2017 году он получил дипломатический ранг Чрезвычайного и полномочного посла, заняв должность главы Отдела по международным делам Федерального Ведомства Швейцарии по делам коммуникаций (BACOM, подразделение Министерства экологии, транспорта и коммуникаций UVEK). «Мы — маленькая страна в центре Европы. «Чтобы убедить (наших собеседников), мы должны иметь очень хорошие аргументы, мы должны предлагать наилучшие решения, и упорно работать. И тогда, возможно, остальные и последуют за нами», — говорит Томас Шнайдер.
Начиная с 2006 года он возглавлял в Совете Европы различные профильные комитеты и экспертные группы, а с 2022 года замещал должность председателя тогдашнего Координационного Комитета СЕ по искусственному интеллекту. На этой должности ему и удалось разработать исторический документ: первую в истории глобальную Конвенцию по ИИ, находящуюся в соответствии с базовыми положениями Европейской Конвенции о защите прав человека и основных свобод (ЕКПЧ).
Срезая углы?
На данный момент Конвенцию СЕ об ИИ подписали девять стран — включая США — и Европейский союз. Швейцария и многие другие страны пока еще не присоединились к ней. Чтобы договор стал обязательным к исполнению, его государства-участники должны будут ещё ратифицировать на своем национальном уровне, так что путь тут предстоит очень долгий. Тем не менее Конвенцию уже называют успехом Совета Европы и лично Томаса Шнайдера. «Это была очень сложная задача — свести к единому знаменателю мнения и интересы разных стран», — говорит Флорис Крейкен, член голландской делегации. «После нескольких лет работы мы очень горды Конвенцией», — вторит ему его коллега Моника Миланович. Даже преемник Томаса Шнайдера, испанец Рамос Эрнандес, занявший его должность в сентябре 2024 года, говорит, что ему будет очень сложно соответствовать оставленному наследию.
Похвалил швейцарца и МИД США. Единственный американский делегат, присутствовавший в Страсбурге, сказал, правда, что ему не разрешили давать интервью по этому поводу. Так или иначе, но тень недоверия уже пала на Конвенцию, которая, по мнению некоторых экспертов и организаций, «продалась США» в обмен на их подпись под этим документом. Чтобы мотивировать США [и другие страны] согласиться подписать Конвенцию, возможно, пришлось пойти на компромисс, который например позволяет странам выводить частные компании из сферы действия положений Конвенции, мол, государство будет их придерживаться, а частный бизнес это не наше дело.
Примерно в таком ключе формулирует свои претензии к документу эксперт ассоциации Digital Society Дэвид Соммер. По его мнению, именно Томас Шнайдер и виновен в этом. «Я не знаю, насколько свободен был он в своих действиях», — пишет нам Дэвид Зоммер по электронной почте. Франческа Фануччи разделяет эту точку зрения, но критикует она Томаса Шнайдера прежде всего за то, что тот, несмотря на критику со стороны гражданского общества, «срезал очень многие углы, с тем чтобы движение к подписанию Конвенции не превратилось в гонку за ускользающим горизонтом. Нас беспокоил тот факт, что в ходе консультаций по тексту документа от пресловутого швейцарского нейтралитета порой не оставалось ни следа».
«Я не добивался консенсуса любой ценой»
Вместе с США Канада и Великобритания также выступили против юридически обязывающих обязательств для частных компаний, разрабатывающих системы на основе ИИ и использующих их в коммерческих целях. Представители обеих этих стран не дали нам никаких комментариев, сам же Томас Шнайдер отвергает обвинения в свой адрес в качестве «необоснованных спекуляций», поясняя, что только сами страны и могли определять окончательный результат, а он, Томас Шнайдер, лишь модерировал дискуссию и искал точки соприкосновения.
Показать больше
Все по теме Наука
«Все 46 стран СЕ единогласно согласились с тем, что данный договор должен иметь глобальный охват и не ограничиваться Европой», — отмечает швейцарский дипломат. Он также подчеркивает, что предоставил слово буквально каждому, кто хотел высказаться. Критику в адрес США он считает «странной, учитывая неоспоримую мощь 27 стран ЕС, которые составляют собой более половины членов соответствующего комитета. В общей сложности у ЕС и других стран-членов было больше времени для выступлений, чем у США и Канады. Я не добивался консенсуса любой ценой, я просто пытался мотивировать все страны согласовать проект текста к установленному сроку — то есть к 15 марта 2024 года».
Показать больше
Как искусственный интеллект формирует будущее городов?
Кристиан Бартолин, секретарь Европейской Ассоциации искусственного интеллекта, также встает на защиту Томаса Шнайдера, говоря, что тот всегда старался быть нейтральным посредником и честным маклером в рамках сделки, сторонами которой были как европейские, так и неевропейские страны. «Если мы и в самом деле хотим защитить наших граждан, то нам нужно убедиться, что базовых стандартов Конвенции придерживаются не только европейские государства, но и все основные производители технологий на основ ИИ», — подчеркивает он.
Тем не менее все еще остаётся подозрение, что СЕ во что бы то ни стало хотел получить эту Конвенцию, документ, который он мог бы продемонстрировать миру в качестве доказательства того, что хоронить Совет Европы ещё рано. Впрочем, реальным ударом по легитимности СЕ было присутствие в нём до 2022 года России, при том, что членами СЕ должны быть по идее государства, уважающие права человека и демократические ценности.
«Совет Европы находится в упадке, у него нет власти, его авторитет на нуле». Именно так недавно в швейцарской газете Le Temps описал положение этой структуры один из экспертов Женевского университета. Другие считают, что именно «благоразумие» и «скромность» СЕ позволяют ему решать или хотя бы ставить вопросы прав человека в странах, не входящих в ЕС. Одно можно сказать с уверенностью: карьера самого Томаса Шнайдера находится на самом пике, совсем из Страсбурга он не уедет, оставаясь там в качестве вице-президента Европейской Ассоциации искусственного интеллекта при Совете Европы. Швейцария тоже начала новый этап своего присутствия в этой организации.
Показать больше
Журналистам следует осторожно использовать ИИ
В сентябре 2024 года бывший федеральный советник (то есть министр кабмина) и бывший президент Швейцарии Ален Берсе занял должность нового Генерального секретаря. Ален Берсе считает ИИ фактом «смены парадигмы» в сфере технологий и одновременно источником потенциальных «угроз для демократии». Он поддерживает Конвенцию СЕ по ИИ, а Томас Шнайдер, в свою очередь, считает, что эта технология способна сыграть ключевую роль в решении таких насущных проблем, как изменение климата и управление энергетическими ресурсами.
Но при этом он тоже вполне осознает все риски и вызовы, которые технические алгоритмы могут представлять для принципов свободы слова и для демократии в целом. Он надеется, что Конвенция СЕ по ИИ как раз и поможет создать законодательно-правовой базис для противодействия всем этим рискам. «Сработает ли это? Увидим через десять или двадцать лет», — говорит он.
Итальянская оригинальная версия отредактирована Сабриной Вайсс (Sabrina Weiss) и Вероникой ДеВор (Veronica De Vore), русскоязычная оригинальная версия подготовлена, адаптирована и отредактирована русскоязычной редакцией SWI / ип / нк / ап.
В соответствии со стандартами JTI
Показать больше: Сертификат по нормам JTI для портала SWI swissinfo.ch
Обзор текущих дебатов с нашими журналистами можно найти здесь. Пожалуйста, присоединяйтесь к нам!
Если вы хотите начать разговор на тему, поднятую в этой статье, или хотите сообщить о фактических ошибках, напишите нам по адресу russian@swissinfo.ch.