Искусственный интеллект и «три закона роботехники» из Швейцарии

Getty Images/istockphoto / Peshkova

Общественные дебаты в Швейцарии на тему этичности отслеживания цепочек заражения коронавирусом (мы об этом подробно сообщали) говорят о том, что проблемой саморегулируемых и самообучающихся технологий «искусственного интеллекта» пора заняться как с этической, так и правовой точки зрения. Швейцария и ее опыт могут стать здесь очень полезными, ведь именно в этой стране, по сути, сложившейся в ходе своей истории в качестве большой нейрональной сети без единого руководящего центра (вы знали, что у Швейцарии нет столицы?), закон и порядок сочетаются с широчайшими либеральными свободами. 

Как это здесь удается совмещать? Ведь точно такая же проблема возникает и связи с самообучающимися системами: где найти золотую середину между полной свободой и жесткими правовыми нормами? И опыт Швейцарии мог бы тут быть очень полезен. Пока вопросы отношений человека и машины изучаются и анализируются в формате научной фантастики (фильмы из франшизы «Бегущий по лезвию бритвы», сериал «Мир Дикого запада»). 

Все это развлечение и не имеет никакого значения? Но три закона роботехники, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942), тоже сначала были литературой. Сегодня это уже обязательная этическая норма, которая по умолчанию находится в основе любой роботизированной системы, включая и системы «искусственного разума» или «интеллекта».

Но что такое искусственный интеллект (ИИ)? «Это либо лучшее, либо худшее, что случилось с человечеством за всю его историю». Так сказал однажды выдающийся учёный-физик Стивен Хокинг, умерший недавно, в 2018 году. Этим же вопросом занимается сейчас и группа экспертов, созданная Европейской комиссиейВнешняя ссылка. Недавно она представила проект руководящих принципов в области этики использования ИИ. 

Но какой-то согласованной глобальной стратегии выработки общих принципов, включая обеспечение прозрачности, защиту частной жизни, непредвзятости и справедливости, пока еще разработано не было. Швейцария вполне могла бы сыграть ведущую роль в формировании этического кодекса функционирования роботизированных систем на основе ИИ. И тут никакой фантастики нет. Речь не идет о противодействии условному «восстанию машин», речь идет о решении тонких и малозаметных проблем, связанных, для начала, с функционированием привычных устройств, но дополненных элементами ИИ.

Так что речь тут идет вовсе не о демократии, нейтралитете или о научных исследованиях мирового уровня. Речь идет, например, о том, кто будет нести ответственность в случае, если беспилотное такси, управляемое ИИ, совершит аварию, да еще не дай бог, с человеческими жертвами. На международном уровне Швейцария уже участвует в обсуждении этого вопроса, а вот в самой Швейцарии дебаты на тему этики, техники и страхования ответственности еще только начались. У Конфедерации тут накоплен немалый опыт. 

Швейцарцы, во-первых, настоящие чемпионы мира по страхованию, они страхуют себя от всего и всегда, так что страховая индустрия в Швейцарии является одной из самых развитых в мире.  Во-вторых, Швейцария свою промышленную стратегию на внешнем рынке строит на принципе «знакомый гаджет с интересным незнакомым и оригинальным дополнением»: если это будет, скажем, карманный фонарик, то в швейцарской версии он непременно будет иметь какую-то интересную дополнительную сервисную особенность. 

Так что решать инженерные задачи на этом направлении швейцарцы умеют очень хорошо. А потом пришел вирус и ребром поставил вопрос этики: стоит ли сгружать себе на телефон программу-трекер и делиться с властями информацией о том, где ты был, с кем и когда? 

Дискуссии на тему достоинств и недостатков централизованного и децентрализованного подхода к хранению персональной информации оказались очень полезными хотя бы уже потому, что благодаря им о проблемах этики в технике узнали и заговорили самые широкие слои общества. Еще бы, ведь коронавирус и борьба с ним касаются всех непосредственно. «Люди будут использовать приложение для отслеживания контактов только в том случае, если будут знать, что им не нужно жертвовать конфиденциальностью своей информации», — говорит Джим Ларус (Jim LarusВнешняя ссылка), декан Школы компьютерных и коммуникационных наук (IC) Федеральной политехнической школы Лозанны и эксперт рабочей группы, разрабатывавшей трекер DP-3T.

Эта программа-приложение еще даже не доходит до уровня действительно сложных самопрограммируемых сетей, пишущих стихи, музыку или картины. Но, наверное, это и хорошо, потому что когда у вас дома поселится андроид, решать проблемы права и этики будет уже поздно. Решать их нужно сейчас, когда речь идет «всего лишь» об относительно простой программе, которая отслеживает ваши контакты и способна предупредить, если кто-то из тех, с кем вы близко общались, оказался в числе зараженных вирусом. 

Согласно результатам проведённого недавно опроса, около двух третей граждан Швейцарии выступают сейчас за такое отслеживание контактов, и это, на минуточку, те самые швейцарцы, которые терпеть не могут, когда кто-то, а прежде всего «эти те которые там в Берне» (то есть федеральное правительство) вмешиваются в их жизнь. 

Вирус поменял ситуацию полностью, и теперь кантоны критикуют федеральный центр уже не за то, что тот вмешивается в ситуацию, а за то, что тот вмешивается недостаточно активно и жёстко. Программа-приложение DP-3T была запущена в тестовом режиме 13 мая 2020 года. Теперь парламент должен разработать для такого приложения соответствующий закон. Положенные в его основу этические нормы могут стать однажды столь же известными и важными, как и «три закона роботехники» Айзека Азимова.

«Швейцарский путь»

Как не бывает «идеи вообще», а есть только конкретные идеи о чем-то конкретном, так и технологии ИИ: нет на свете вообще «абстракции искусственного интеллекта», а есть совершенно конкретные приложения, решения, программы и продукты, обладающие всеми свойствами обычного рыночного товара, но несущие в себе еще и потенциал возможных правовых и этических конфликтов и коллизий. Проникая в нашу жизнь в знакомых форматах (холодильник, который сам заказывает в интернете еду), технологии на основе и с участием «искусственного интеллекта» являются в том числе и результатом деятельности экономики инновационных разработок.

Отсюда вопрос ребром (и именно он и ставится в сериале «Мир Дикого запада»): как обеспечить инновационный рывок, как при этом соблюсти этические нормы и не отдать в обмен на внешне привлекательные новые возможности контроль над своей жизнью неизвестно кому, но как при этом не загубить креативную инициативу и в целом экономику в душных объятиях государственного этатизма и жажды все на свете зарегулировать? В Швейцарии уже сейчас найдены подходы и решения, которые позволяют ей находить «золотую середину». Именно сочетание тонкого нормативного регулирования и либеральных свобод и обеспечивает ей мировое инновационное лидерство и общее благосостояние. 

Понятно, что такие монстры, являющиеся на данный момент главными провайдерами новейших технологий с элементами ИИ, как «Гугл» или «Эппл», обладают огромным финансовым и административным потенциалом. И именно их этические нормы порой и становятся по умолчанию мировым стандартом. А почему, собственно? А может быть, тут были альтернативы, но мы о них ничего не знали? Поэтому важную роль сейчас применительно к этой сфере начинает играть международное сотрудничество. Швейцария, и это еще один ее плюс, способна предложить удобную платформу для такого сотрудничества. 

Недаром «искусственный интеллект» как рыночный принцип, товарный формат и этико-правовая проблема был включён недавно в стратегию правительства Швейцарии по созданию условий для ускорения цифровой трансформации общества страны. В декабре прошлого 2019 года специальная рабочая группа представила правительству доклад под названием «Вызовы искусственного интеллекта». В нём говорится, что Швейцария готова использовать потенциал ИИ, при этом авторы, не заостряя внимания на собственно этических вопросах и социальной роли ИИ, сосредоточились на различных конкретных примерах использования технологий с добавленными опциями ИИ и на возникающих в связи с ним проблемах.

«В Швейцарии федеральное правительство не навязывает единообразное представление об этике использования продукции с использованием элементов искусственного интеллекта. Если бы оно вдруг решило спустить сверху вниз какую-то директиву по этому вопросу, то это было бы, для начала, просто несовместимо с нашими демократическими традициями», — считает Даниэль Эглофф (Daniel Egloff), глава отдела инноваций Государственного секретариата по образованию, исследованиям и инновациям (Staatssekretariat für Bildung, Forschung und Innovation SBFIВнешняя ссылка, подразделение Минэкономики). 

По его словам, «установить какие-то абсолютные моральные и этические принципы довольно сложно, поскольку они могут меняться в зависимости от технологического контекста. Этическое видение ИИ формируется в ходе консультаций между национальными и международными заинтересованными сторонами, включая общественность; и правительство играет в этих дебатах активную роль», — добавил он.

Посол Томас Шнайдер (Thomas SchneiderВнешняя ссылка), Директор по международным связям Федерального ведомства по делам коммуникации и связи (Bundesamt für Kommunikation Bakom, подразделение Министерства экологии, транспорта, коммуникации и энергетики), указал порталу swissinfo.ch, что «Швейцария в этом отношении является одной из самых активных стран в Совете Европы, Организации Объединённых Наций и других международных органах». Он также добавил, что Федеральное ведомство по делам коммуникации совместно с МИД разрабатывают сейчас стратегию по превращению Женевы в глобальный центр выработки норм регулирования и развития новейших технологий.

Просто ещё одно модное слово?

Как тогда можно определить, что этично, а что неэтично, если речь заходит о технологиях? По словам Паскаля Кауфмана (Pascal Kaufmann), нейробиолога и основателя Фонда MindfireВнешняя ссылка, занимающегося разработкой ИИ, концепция этики, применяемой к ИИ— это всего лишь очередное модное слово. «В понимании того, что такое ИИ, много путаницы. То, что многие называют «искусственным интеллектом», на самом деле имеет мало общего с собственно интеллектом, а скорее относится к области применения особого метода вычислений, известного как «полный перебор», или метод «грубой силы» (англ. brute force), когда поиск решения задачи идет «тупым» исчерпыванием всех возможных вариантов». 

Сложность полного перебора зависит от количества всех возможных решений задачи. Если пространство решений очень велико, то полный перебор может не дать результатов в течение нескольких лет или даже столетий. С увеличением вычислительной мощности компьютеров такой метод может войти в рамки приемлемых сроков. Ожидаемый квантовый компьютерВнешняя ссылка будет способен снять эту проблему и длительность решения сложнейших задач методом полного перебора может сократиться со столетий до минут. «Но именно поэтому и нет смысла говорить и какой-то отдельной этики для ИИ. Речь-то на самом деле идет о всё той же человеческой этике. Внедрение неких отдельных этических принципов никуда нас не приведёт, просто потому что такие принципы станут просто набором запретов». 

Что же остается? А остаётся пока единственный универсальный этический закон, уже сформулированный в виде кантовского «категорического императиваВнешняя ссылка», производными от которого и являются, кстати, те самые «три закона роботехникиВнешняя ссылка» Азимова. Анна Жобин (Anna JobinВнешняя ссылка), студентка докторантуры при Лаборатории этики и политики в области здравоохранения Высшей технической школы Цюриха, смотрит на эту проблему иначе. Основываясь на своих исследованиях, она считает, что при разработке ИИ соображения этики должны учитываться в обязательном порядке. «Мы не можем создать ИИ как чистую технологию и просто потом «приклеить» к ней в конце несколько этических норм. Моральные и социальные аспекты должны учитываться с самого начала». 

Поскольку со временем влияние ИИ на нашу повседневную жизнь будет только расти, Анна Жобин считает, что граждане, избиратели должны напрямую участвовать в обсуждении перспектив использования и применения новых технологий, использующих ИИ. Гражданскому обществу необходимо участвовать в процессе принятия решений, напрямую влияющих на положение этого общества. Тем не менее она также признает, что просто составление перечня этических норм для ИИ малоэффективно. 

Идеальное сочетание

По мнению Петера Зееле (Peter SeeleВнешняя ссылка), профессора деловой этики Университета Лугано, ключ к решению этой проблемы — в равной степени учитывать её деловые, этические и правовые аспекты. «Компании заинтересованы в наличии правовых норм. Для собственного успеха и процветания им необходима правовая база. Хорошие законы, которые приводят к общему знаменателю бизнес и этику, создают идеальную деловую среду для всех участников. Задача состоит в том, чтобы найти баланс между этими тремя составляющими».

Швейцарская академия технических наук (SATWВнешняя ссылка) в своём документе, представленном в конце 2019 года, предложила в качестве образца швейцарскую некоммерческую ассоциацию MIDATAВнешняя ссылка, которая обеспечивает полный контроль граждан над использованием их персональных данных, выступая в качестве доверенного лица в процессе их сбора. Стать членом MIDATA, участвуя в демократическом управлении ассоциацией, может кто угодно. С появлением экосистемы открытых данных, способствующей участию гражданского общества в принятии решений, повышается осведомлённость населения о последствиях использования персональных данных, особенно в случаях, касающихся защиты их здоровья, как в случае с приложениями для отслеживания контактов. 

Отсюда может быть смелый, но вполне реальный вывод: продвинутая робототехника на основе искусственного самообучающегося (самопрограммируемого) интеллекта возможна только в демократическом обществе, похожем на Швейцарию с ее традициями прямой демократии и ризомнойВнешняя ссылка (сетевой) самоорганизации общества. Мрачные антиутопии о тоталитарных режимах, использующих роботов для подавления людей, скорее всего, просто нереализуемы технически. 

Кроме того, и об этом надо тоже помнить, во многом такие системы являются инженерными конструктами, и прежде чем ломать голову над вечными вопросами морали и этики, нужно просто обеспечить этим конструктам наиболее эффективную, user-friendly и рациональную научно-техническую реализацию. То есть можно думать о том, как не допустить возможности совершения убийства кухонным ножом. А можно для начала придумать нож со всеми возможными системами безопасности. Кстати, а какая страна хорошо умеет делать ножи? Вот именно!

Русскоязычная версия материала: Нина Шулякова, ред. Игорь Петров.