Роботы – братья по оружию?

Человекообразный робот «Atlas» разработан по заказу Агентства по перспективным оборонным научно-исследовательским разработкам «DARPA» Департамента обороны США компанией «Boston Dynamics» Reuters

Все больше задач, которые раньше выполняли солдаты, возлагается теперь на технику. Ожидается, что полностью автономные системы вооружений будут созданы уже через 20-30 лет. Швейцария активно ведет исследования в сфере военных роботов.

Создается впечатление, что международное сообщество только сейчас раскрыло глаза и пытается предугадать возможные последствия участия автономных роботизированных систем в грядущих войнах.

Лоран Масмежан (Laurent Masmejean), эксперт по разоружению в Федеральном департаменте иностранных дел Швейцарии (МИД), заявил это недавно на прошедшей в Женеве концеренции, посвященной автономным системам летального оружия («Lethal Autonomous Weapons Systems», сокращенно LAWS —  «Боевые автономные роботизированные системы», или БАРС).

Крайне важно на данный момент изучить, какое применение автономных технологий является законным, нужным и приемлемым, а какое дает повод для беспокойства, — подчеркнул эксперт.

Испытание робота-сапёра в городе Тун Keystone

Все больше автономных систем

Швейцарские представители подчеркивали на конференции, что в их исследованиях в области обороны речь идет не только о полностью автономном оружии, но именно оно представляется им наиболее опасным.

«Мы видим, как в различных областях исследований технический прогресс идет в направлении создания всё более автономных систем — будь то смертоносные системы или какие-то другие», — объясняет Квентин Ладетто (Quentin Ladetto), глава исследовательской программы по раннему распознаванию перспективных технологий швейцарской организации «Armasuisse», занимающейся закупками вооружения для армии Конфедерации.

В настоящее время в Швейцарии реализуется несколько небольших научно-исследовательских проектов создания беспилотных воздушных и наземных транспортных средств. Происходит это в рамках сотрудничества с многочисленными научными и промышленными партнерами. К ним относятся, например, Высшая техническая школа в Цюрихе (ETHZ) и американские компании «Black-I Robotics» и «iRobot».

В своем долгосрочном исследовательском плане на период с 2012 по 2016 годы швейцарский Федеральный департамент (министерство) обороны, защиты населения и спорта (VBS) подчеркивает важность применения беспилотных аппаратов (БПЛА), особенно с целью разведки, слежения и обеспечения связи.

«Акцент делается на автономии беспилотных устройств и на создании условий для выпуска и широкого использования мобильных роботов для решения задач политики безопасности Швейцарии», — говорится в плане. «Если мы посмотрим на исследования в области робототехники и искусственного интеллекта, то увидим, что тенденция явно тяготеет к автономии», — указывает К. Ладетто. «Возможности автономного оружия постоянно расширяются, хотя изначально цели исследований научных центров и университетов не носили военного характера».

Но некоторые эксперты в этом сомневаются. Стюарт Кейси-Маслен (Stuart Casey-Maslen), глава исследовательского отдела Женевской академии международного гуманитарного права и прав человека, заявил, что был бы «удивлен», если бы оказалось, что Швейцария не проводит своих исследований в области «LAWS». «Очевидно, что еще больше автономии — это и есть будущее Вооруженных сил», — убежден он.

«Вопрос, следует ли ограничивать развитие таких технологий? И если да, то из каких — юридических или этических -соображений? И как именно это будет делаться. Я особенно обеспокоен использованием смертоносных автономных систем, потому что они не попадают под действие «Конвенции ООН о запрещении или ограничении применения конкретных видов обычного оружия, которые могут считаться наносящими чрезмерные повреждения или имеющими неизбирательное действие»».

Беспилотные армии в скором будущем?

Джо Фарха (Joe Farha), специалист в области вооружений в организации «Omega Research Foundation» в Манчестере, также считает, что любое гражданское исследование в области автономного оружия в какой-то момент может «перейти» в разряд военных.

«Вполне возможно, что вскоре будет предлагаться все больше беспилотных систем, так что постепенное улучшение их качества по умолчанию приведет к большей автономии», — заявил он, добавив, что беспилотные наземные или воздушные системы, «если будет использоваться правильная технология», могут иметь двойное применение, например, также и в качестве платформ-носителей вооружений.

Армия будущего, вероятно, будет во все большей степени базироваться на автономных системах. В последние годы США потратили 6 млрд долларов только на развитие авнономных систем вооружений. Американское Агентство передовых оборонных исследовательских проектов (US Defense Advanced Research Projects Agency) само создало военного робота, а кроме того, поддерживает такие проекты, как созданный компанией «Boston Dynamics» вездеходный робот LS3, по виду напоминающий лошадь.

Меньше человеческого вмешательства

И документы из администрации США указывают на ее планы по расширению автономии систем вооружения. В «Unmanned Systems Integrated Roadmap FY2011-2036» («Комплексная дорожная карта беспилотных систем на период с 2011 по 2036 гг.») министерство обороны США пишет, что «такие системы могут легко кооперироваться с пилотируемыми системами, при этом постепенно сокращается доля человеческого вмешательства, а автономные системы сами смогут принимать решения».

В мире становится все больше автономных технологий в сфере обороны. Таковы, к примеру, «MK 15 Phalanx Close-In Weapons System» ВМС США и его наземный коллега «Counter Rocket, Artillery and Mortar System», их используют на протяжении уже многих лет.

Превентивный запрет БАРС?

87 из 17 стран, которые подписали Конвенцию о запрещении или ограничении применения конкретных видов обычного оружия приняли участие во встрече экспертов, которая прошла с 13 по 16 мая в Женеве, в ООН, посвященной боевым автономным роботизированным системам (сокращенно БАРС, а по-английски LAWS). Они представляют собой системы оружия, которые после приведения их в действие способны выбирать и поражать цели без последующего вмешательства оператора.

Целью женевской конференции было определить, как ограничивать такое оружие и кто за него отвечает. Следующая ежегодная встреча по теме роботов-убийц состоится 14 ноября, тогда страны-участницы решат, необходимо ли продолжать эту работу.

Группы активистов требуют превентивного запрета подобного будущего оружия. В пример они приводят ослепляющее лазерное оружие: международное сообщество запретило его своим протоколом в 1995 году, еще до того, как ослепляющие лазеры могли быть использованы.

Швейцария стала одной из 87 стран, которые инициировали процесс обуздания роботов-убийц. На сегодняшний день лишь пять стран призывают к их полному запрету, в их числе Куба и Пакистан.

Другие страны, включая Францию ​​и Великобританию, подчеркнули в Женеве, что значительная часть контроля над решениями о выборе целей и атаке должны быть сохранены за человеком.

США также призвали к «соответствующему» контролю со стороны человека над автономным оружием. А вот Израиль со своей стороны подчеркнул желательность автономных систем.

Что касается последней, то в ней человек является важной частью процесса принятия решений, но так бывает в основном на начальном этапе программирования, рассказывает Петер В. Зингер (Peter W. Singer), эксперт по военным роботам.

«Во время работы машины оператор имеет только право вето, и решение отменить команду робота должно быть принято буквально за полсекунды», — добавляет Зингер. Опасность заключается в том, что это может привести к «автоматической предвзятости», то есть тенденции полагаться исключительно на решения автоматизированной системы.

Дозорные роботы

Но в других местах уже используются подобные системы — для самозащиты. Израиль создал свою систему автоматического оружия «Iron Dome», Германия — систему «NBS Mantis», а в Афганистане таким образом защищают полевые лагеря, расположенные в непосредственной близости к противнику. Других предшественников полностью автономных видов вооружений можно встретить в Южной Корее и том же Израиле — это роботы-дозорные, которые обнаруживают человеческое присутствие и, если человек отдаст им такой приказ, открывают огонь.

«В то время, когда различные страны совершенствуют свои технологические возможности, многие могут поддаться соблазну и вступить на путь создания полностью автономного оружия, так как оно обещает ряд несомненных преимуществ», — говорит Мари Варенхам (Mary Wareham), эксперт по вооружениям из неправительственной организации «Human Rights Watch».

«Эти преимущества — сокращение времени реагирования, снижение риска для своих солдат, уменьшение расходов, и наконец, то, что на решение о применении силы не влияют человеческие эмоции». И в воздушном пространстве процесс разработки традиционных самолетов-беспилотников также движется в сторону все большей автономии.

Прототипный БПЛА марки «X-47B» ВМС США может уже сейчас самостоятельно подняться с палубы авианосца, приземлиться и дозаправиться. А Великобритания недавно представила автономный беспилотный сверхзвуковой самолет «Taranis», самый «продвинутый» из когда-либо построенных британскими инженерами. Оба самолета имеют регулируемые отсеки для размещения в них различных видов вооружений.

«Под значительным контролем человека»

У неправительственных организаций нет возможности проверить, что именно страны понимают под фразой о действии автономных систем «под значительным контролем человека». Усилия по сдерживанию развития таких систем вооружений пока что еще не увенчались успехом. Профилактический запрет является здесь единственным выходом, подчеркивают они.

«Я пытался наладить диалог с производителями оружия, но они откровенно не заинтересованы в соблюдении норм международного гуманитарного права», — говорит Юрген Альтман (Jürgen Altmann), один из основателей Международного комитета по контролю за роботизированными системами вооружений.

Однако Лоран Масмежан уверен, что существующая правовая база является «достаточно солидной» для того, чтобы выдержать будущие изменения в ведении военных действий. «Получат ли право на существование системы автоматического оружия или нет, любое применение силы или новых систем вооружения должно осуществляться в рамках международного права, особенно в соответствии с гуманитарным правом, которое основано на избирательности, адекватности и на мерах предосторожности». 

При этом международное сообщество должно тщательно изучить мнения юристов относительно новых видов оружия, средств и методов ведения войны, а также возможных пробелов в сферах ответственности, утверждает представитель Швейцарии. Юрген Альтман, однако, не убежден в этом.

«Конечно, человек может быть заинтересован в том, чтобы ограничить воздействия войн, и тогда он стремится к более высокой точности, что может привести к повышению качества вооружений. Но в этом случае речь пойдет, скорее, об инновациях. Сегодняшняя же тенденция направлена в сторону создания беспилотной техники, такой, которая способна реагировать еще быстрее. И это именно то направление, которого мы желаем избежать», — говорит он.

«Необходимо политическое решение международного сообщества с тем, чтобы ограничить создание роботов-убийц и чтобы технологический прогресс в военной сфере не развивался вообще без какого-либо контроля».

Перевод на русский язык и адаптация: Надежда Капоне и Людмила Клот