Массовая видеослежка: законы ЕС и опции для Швейцарии

Согласно новому швейцарскому антитеррористическому законодательству, правоохранительные органы имеют право принимать решения о мерах электронного наблюдения за данным лицом без согласования с судом, а собранные данные, как утверждают некоторые эксперты, могут быть затем использованы в целях, не предусмотренных законом. Westend61 / Jess Derboven

Избиратели в Швейцарии только что одобрили на референдуме один из самых жестких и строгих антитеррористических законов в Европе. Какова будет здесь судьба частных персональных данных на фоне планов Европы начать регулировать и, по сути, запретить применение технологий массового наблюдения за физическими лицами на основе «искусственного интеллекта»?

Русскоязычную версию материала подготовил Игорь Петров.

Консультации между Швейцарией и Европейским союзом (ЕС) на предмет подписания Рамочного соглашения зашли в тупик как раз в момент перехода Брюсселя на стадию определения конкретных норм и правил, регулирующих применение технологий массового наблюдения за физическими лицами на основе «искусственного интеллекта». Швейцария намерена в качестве доброй воли самостоятельно ввести по сути режим автоматической имплементации всех европейских правовых новелл, что ставит вопрос о том, что будет в Швейцарии, в стране, где избиратели только что одобрили на референдуме один из самых жестких строгих антитеррористических законов в Европе, с частными данными и их безопасностью?

В конце мая 2021 года правительство Швейцарии в одностороннем порядке постановило прекратить консультации с ЕС по вопросу заключения Рамочное соглашения с Брюсселем, и это после семи лет переговоров. Многие говорят, что характер отношений Швейцарии с Европой находится сейчас «у точки замерзания». А несколько недель спустя, 13 июня 2021 года, швейцарский народ однозначно проголосовал на референдуме в пользу федерального закона «О правоохранительных мерах противодействия террористической угрозе», вложив тем самым в руки спецслужб и полиции куда более широкие, чем раньше, полномочия, в том числе в области превентивного вмешательства в события при наличии обоснованного подозрения в том, что здесь и сейчас планируется совершение противоправных действий с террористической подоплекой. 

Размолвка с ЕС произошла не в самый лучший момент, ведь как раз сейчас ЕС активно наращивает усилия в области противодействия терроризму, делая ставку на использование технологий электронного слежения за физическими лицами, в том числе и в области правоохранительной деятельности. Одновременно в настоящее время Европейская комиссия готовит первое в мире законодательствоВнешняя ссылка, призванное заложить правовые основы использования и регулированию применения так называемого «искусственного интеллекта» (ИИ), самообучающихся нейрональных сетей, построенных на обработке не просто больших, но очень больших массивов данных. 

Этот законодательный акт призван найти и обозначить все возможные риски, связанные с этой технологией, а также определить четкие обязательства частных лиц, общественных и государственных структур и институтов в плане ее конкретного использования. Особую роль должны будут играть системы биометрической идентификации (распознавание лиц — один из вариантов такой системы). В настоящее время они все чаще используются для мониторинга в режиме реального времени криминогенной ситуации в общественных местах — причем часто без ведома населения — с целью не только наблюдения со событиями, но еще и сбора эмпирических данных для использования их с правоохранительными целями. 

Организации левых активистов, включая Amnesty International, недавно начали общественную кампанию против использования такого рода технологий распознавания лиц, причем как государственными органами, так и частным бизнесом, однако не в плане противодействия террористической угрозе. Куда больше Amnesty International волнует то, что «распознавание лиц рискует стать оружием правоохранительных органов против политических активистов по всему миру». 

Аналогично эта структура выступала и против нового швейцарского федерального закона «О правоохранительных мерах противодействия террористической угрозе», считая его «опасно расплывчатым» и даже «угрозой для будущего страны», поскольку «этот закон способствует расширению масштабов электронной слежки и может косвенно привести к более активному использованию этих технологий для распознавания лиц, „нежелательных“ с точки зрения европейских властей». О том, почему швейцарские климатические активисты настроены антидемократически, читайте в материале ниже. 

«В либеральном демократическом европейском правовом контексте новый швейцарский антитеррористический закон, безусловно, является одним из самых жестких, поскольку он предоставляет правоохранительным органам порой просто беспрецедентные полномочия», — говорит Лукас Хафнер (Lukas Hafner), координатор Amnesty Switzerland в области технологий и прав человека. В прошлом году Совет Европы также выразил свою обеспокоенность по поводу возможных «значительных нарушений прав человека и основных свобод», которые могут иметь место в рамках правоприменительной практики.

Куда и на кого смотрит «электронный глаз закона»? 

Хотя в вышеупомянутом швейцарском законе нет прямого упоминания о системах видеонаблюдения и мониторинга, тем не менее он наделяет федеральную полицию Швейцарии (fedpol) правом вводить режим «электронного наблюдения за потенциальным террористом», например с помощью электронного браслета. Куда более спорным, однако, является тот факт, что решения о мерах электронного наблюдения могут приниматься полицией в оперативном порядке без предварительного согласования с судом и что собранные данные могут быть использованы в целях, законом не предусмотренных. 

Это подчеркивает Фредерик Бернар (Frédéric Bernard), профессор Женевского университета, эксперт в области швейцарского публичного права. «Этот закон мало что способен реально предотвратить, вот в чем проблема», — говорит он. В ответ на запрос SWI swissinfo.ch fedpol указал, что «не использует системы электронного распознавания лиц». «Какой-либо связи между новыми превентивными мерами, прописанными в законе, и использованием таких технологий нет и не было». Тем не менее региональная практика в Швейцарии выглядит несколько иначе. Так, полиция кантона Санкт-Галлен, например, уже использует шведское программное обеспечение Griffeye Analyze DI ProВнешняя ссылка, которое анализирует большие объемы данных с помощью искусственного интеллекта. Способно это ПО и осуществлять распознавание лиц. 

На сайте компании-производителя Griffeye Technologies говорится, что данное программное обеспечение может соотносить собранные «метаданные с открытыми источниками в Интернете и идентифицировать лица людей, используя большие объемы реальных изображений». Напомним, что сейчас в мире не менее четырех миллиардов человек имеют свои профили в Интернете, из которого как раз и могут быть взяты все эти «реальные изображения». При этом отдельные исследования, например проведенное MIT Media Lab под началом Джой Буоламвини (Joy Buolamwini) и бывшего эксперта Google в области этики ИИ Тимнит Гебру (Timnit Gebru), показывают, что коммерческие программы ИИ могут быть менее точными в анализе прежде всего темнокожих лиц (PDFВнешняя ссылка). Кстати, в Швейцарии Тимнит Гебру со скандалом покинула местное отделение Google, и мы об этом скандале подробно писали в материале ниже.

Ханспетер Крюзи (Hanspeter Krüsi), начальник отдела коммуникаций и связей с общественностью полиции кантона Санкт-Галлен, уточнил нам в ответе по электронной почте, что собранные (упомянутым ПО) данные будут сравниваться с изображениями в полицейских базах данных для поиска совпадений. Окончательная же проверка будет проводиться живым человеком, он же будет делать юридически релевантные выводы. «Каждый кантон должен будет сам решить, хочет ли он разумно использовать эту технологию и есть ли у него для этого необходимые правовые основания», — указал fedpol в письме на имя портала SWI swissinfo.ch. Но в отсутствие четких законов, определяющих рамки применения данных технологий, кто может и должен решать, что разумно, а что нет? 

«Существует риск произвола и злоупотреблений, который нельзя игнорировать, особенно из-за все еще неточно сформулированных понятий», — говорит швейцарец Жан-Филипп Вальтер (Jean-Philippe Walter), Комиссар Совета Европы по защите данных. Новый документальный фильм Coded Bias исследует алгоритмические предубеждения и недостатки в технологии распознавания лиц, которые были обнаружены экспертом Массачусетского технологического института MIT Джой Буоламвини (на англ. яз.):

В последнее время Amnesty International регулярно мониторит ситуацию с базовыми правами человека и гражданскими свободами в Швейцарии, не в последнюю очередь в связи с потенциально возможным определенным риском расширения практики возможно и вероятно неизбирательной «слежки» за населением. «Швейцарский закон о борьбе с терроризмом явно приведет к усилению слежки за большим количеством людей, поскольку федеральная полиция намерена выявлять „потенциальных террористов“ до того, как они совершат какое-либо преступление. Вполне вероятно, что биометрические технологии могут быть использованы именно в этом контексте», — говорит Лукас Хафнер. 

Он предупреждает, что такое использование может оказать непропорционально сильное воздействие на людей, которые, по его субъективному мнению, «уже подвергаются маргинализации и дискриминации». Он отмечает также, что полиция в рамках превентивного наблюдения может, например, решить установить камеры в мечети. «Такие системы создают проблемы не только с точки зрения права на равенство и недискриминацию, но и с точки зрения свободы слова и собраний, а также права на частную жизнь», — уверен Л. Хафнер. 

В тексте недавно одобренного народом швейцарского закона о борьбе с терроризмом говорится, что «религиозные и философские взгляды и деятельность могут быть объектом наблюдения, оправдывая необходимость сбора и обработки персональных данных» (Ст. 23h). Фредерик Бернар считает, что, поскольку определение терроризма, закрепленное в законе, носит очень расширительный характер, данное законодательство может быть применено за пределами его первоначальной сферы действия. 

Нет правил — нет прав!

В некоторых странах, таких как США и Китай, распознавание лиц систематически используется в целях «охраны общественного порядка», а в случае Китая — еще для «классификации социального поведения». Как сообщает «КоммерсантВнешняя ссылка», в «России начали распространять систему распознавания лиц, которая уже работает в Москве. Партнер департамента информационных технологий столицы NtechLab запустил пилотные проекты в десяти городах, включая Нижний Новгород, где установят три тысячи камер с системой распознавания лиц, чтобы штрафовать нарушителей карантина и разыскивать преступников». Кроме того, в Москве эта система, как считается, «сможет также прогнозировать загруженность общественного транспорта и оптимизирует транспортные потоки».

В УкраинеВнешняя ссылка «развитие и внедрение технологии распознавания лиц только начинается, но уже сейчас можно смело заявлять, что технология шагнула в корпоративный сектор и многие предприятия начинают внедрять технологию в свои системы безопасности. Особенно большие перспективы имеет использование технологии распознавания лиц в системах контроля доступа и учета рабочего времени персонала, где она позволяет избавиться от ID карт и повысить уровень безопасности компании». Кроме того, «рассматриваются возможности распознавания лиц банками и платежными системами для обеспечения безопасности платежей».

Среди западноевропейских стран Бельгия и Люксембург запретили у себя использование технологий биометрической идентификации физических лиц. Этим же путем идет Марокко. Европейская комиссия на основе будущего законодательства, регулирующего применение искусственного интеллекта, намерена также запретить сбор биометрических идентификационных личных данных в общественных местах во всех странах-членах ЕС и наказывать тех, кто не соблюдает эти правила. В Швейцарии действует федеральный закон «О защите частных данных», фрагментами соответствующий законодательству Европейского союза о защите частной жизни (GDPR). 

Значительный прорыв в законодательстве

Тем не менее тут пока нет ничего сопоставимого с предлагаемым европейским технологическим законодательством в области ИИ. «И именно поэтому ей следует как можно скорее сесть за стол переговоров с ЕС и помочь направить дебаты по управлению новыми технологиями в нужное русло», — убежден Рикардо Чаварриага (Ricardo Chavarriaga), возглавляющий швейцарское представительство Сообщества лабораторий по исследованию искусственного интеллекта в Европе (Confederation of Laboratories for Artificial Intelligence Research in Europe CLAIREВнешняя ссылка). Предложенный Европейской комиссией закон «действительно допускает использование системы распознавания лиц для противодействия «серьезным преступлениям, в основном связанным с терроризмом. 

Некоторые области применения технологий с высокой степенью риска, например технологии, используемые полицией для обеспечения соблюдения закона, могут иметь пагубные последствия для населения. Полиция — это лишь последнее звено в цепи. Используемые правоохранительными органами системы производятся компаниями, которые обещают им экономию и эффективность, зачастую не предоставляя при этом никаких реальных гарантий. Но никто ведь не купит себе часы, которые не работают, и не установит у себя дома лифт без соответствующих допусков и сертификатов. Так почему с системами искусственного интеллекта должно быть иначе, особенно когда на карту поставлены фундаментальные права человека и гражданские свободы»? 

При этом и Р. Чаварриага, и другие эксперты признают, что грядущий европейский закон, регулирующий ИИ, «ознаменует собой значительный прорыв в законодательстве, защищающем конфиденциальность данных» и что он «может стать стандартом в сфере высоких технологий». По этой причине Р. Чаварриага считает, что, «не имея упорядоченных отношений с ЕС, Швейцария может столкнуться с очень значительными издержками, например в плане конкурентоспособности швейцарских высокотехнологичных товаров на мировом рынке». Пусть Швейцария и намерена автоматически перенимать правовые новации из ЕС, остается вопрос совместимости европейского и швейцарского права: европейский закон запрещает видеонаблюдение, но народ Швейцарии хочет больших гарантий в плане защиты от террористической опасности. И не может ли получиться так, что отсутствие Рамочного соглашения как раз и поможет Швейцарии пройти между Сциллой европейского законодательства и Харибдой народной воли швейцарских избирателей?