Les robots tueurs bientôt en action près de chez vous?

Destiné à l’armée américaine du futur, le robot humanoïde «Atlas» a été développé par la société Boston Dynamics. Reuters

Les machines commencent peu à peu à remplacer les humains sur le champ de bataille. On estime que les premières armes entièrement autonomes seront prêtes d’ici 20 à 30 ans. La Suisse mène ses propres recherches sur la technologie robotique mobile.

La communauté internationale commence à peine à saisir les répercussions possibles de la révolution robotique qui se jouera sur les champs de bataille: tel est en substance l’avis émis par Laurent Masmejean, un expert en désarmement du ministère suisse des Affaires étrangères, lors d’une conférence organisée récemment à Genève sur cette thématique.

Pour Laurent Masmejean, il est essentiel d’examiner plus avant les applications technologiques qui sont souhaitables, légales et acceptables, et celles qui soulèvent des questions. Les représentants helvétiques à la conférence ont souligné que leurs programmes de recherche militaires actuels ne comportaient pas de volet sur les armes totalement autonomes.

«Mais nous verrons comment les différents champs de recherche, considérés dans leur ensemble, pourront permettre de réaliser des progrès en matière de technologie autonome, que ce soit pour des systèmes létaux ou non», a indiqué Quentin Ladetto, directeur des technologies du futur au sein d’armasuisse, l’organe chargé des achats de matériel militaire pour l’armée suisse.

Petits programmes de recherche

La Suisse mène actuellement de petits programmes de recherche sur des engins aériens et terrestres sans pilote, en collaboration avec des partenaires académiques et industriels, dont l’Ecole polytechnique fédérale de Zurich (EPFZ) et les sociétés américaines Black-I Robotics et iRobot.

Dans sa stratégie de recherche 2012-2016, le ministère suisse de la Défense (DDPS) souligne l’importance des véhicules sans pilote, en particulier pour les missions de reconnaissance, de surveillance et de communication.

«En regardant de plus près ce qui se fait en matière de robotique et d’intelligence artificielle, on peut constater que la tendance et l’accent sont clairement mis sur l’autonomie. Même si les objectifs finaux des institutions académiques et des universités ne sont pas de nature militaire, les développements actuels et leur intégration future pourraient conduire à des capacités accrues en matière d’autonomie», a relevé Quentin Ladetto.

Les robots militaires peuvent aussi sauver des vies, comme cette machine conçue pour le déminage Keystone

Certains experts pensent que la Suisse va plus loin que ce qu’elle affirme. Directeur de recherche à l’Académie de droit international humanitaire et de droits de l’homme de Genève, Stuart Casey-Maslen a déclaré qu’il serait «surpris» si la Suisse ne menait pas des recherches sur de telles technologies militaires.

«L’autonomie accrue représente clairement l’avenir pour les forces militaires et de sécurité. La question est de savoir si, et si oui, comment et où, la technologie doit être restreinte pour des questions juridiques et éthiques. Je suis particulièrement préoccupé par l’utilisation de systèmes autonomes létaux, qui ne sont pas pris en compte dans la Convention sur certaines armes classiques (CCAC)», a-t-il affirmé.

6 milliards de dollars par an

Joe Farha, spécialiste des armes militaires au sein de la Fondation Omega Research, basée à Manchester, a également estimé que toute recherche civile en matière d’autonomie était de nature à «déborder» sur son volet militaire. «Il est possible qu’on en demande toujours plus aux systèmes sans pilote, et que les progrès ainsi réalisés conduisent par défaut à un plus haut degré d’autonomie», a-t-il déclaré.

L’armée du futur se passera certainement de plus en plus de soldats. Ces dernières années, les Etats-Unis ont dépensé 6 milliards de dollars par an dans des systèmes sans pilote pour la guerre. L’US Defense Advanced Research Projects Agency (DARPA) a développé la robotique militaire et financé des projets tels que LS3, un robot tout terrain créé par la société américaine Boston Dynamics.

Dans un document intitulé Unmanned Systems Integrated Roadmap FY2011-2036, le département américain de la Défense a écrit qu’il «envisage des systèmes sans pilotes fonctionnant en harmonie avec des systèmes pilotés, tout en réduisant graduellement le degré de contrôle humain et de décision requis pour la partie sans pilote de la structure».

Robots sentinelles

Reste que les technologies de défense autonomes existent déjà. L’US Navy’s MK 15 Phalanx Close-In Weapons System, ainsi que sa version terrestre, le Counter Rocket, Artillery and Mortar System (C-RAM), sont opérationnels depuis des années. Israël a pour sa part déployé un système d’armes automatiques de défense nommé Iron Dome, tandis que l’Allemagne a conçu le système NBS Mantis pour la protection de futures opérations en Afghanistan. En ce qui concerne C-RAM, l’expert en robotique de guerre Peter W.Singer a relevé que les humains font partie intégrante de la prise de décision, mais principalement dans la programmation initiale du robot.

«Lorsque la machine fonctionne réellement, l’opérateur exerce uniquement un droit de veto. Il a moins d’une demi-seconde pour entraver la décision du robot», affirme Peter W.Singer. Le danger existe que cela conduise à un «biais d’automatisation», soit la tendance à accorder une confiance sans bornes à un système automatisé.

Parmi les autres précurseurs des armes entièrement autonomes, on trouve les robots sentinelles sud-coréens et israéliens qui peuvent détecter des personnes et, si un être humain leur en donne l’autorisation, utiliser leurs armes à feu. «Alors que les nations développent leurs capacités technologiques, beaucoup d’entre elles peuvent être tentées de prendre le chemin de l’autonomie totale, en raison des avantages que ces armes procurent: un temps de réponse rapide, une réduction des risques pour leurs propres soldats, des coûts moindres et la mise à l’écart des émotions humaines lorsque entre en jeu la décision d’utiliser la force», a indiqué Mary Wareham, experte en armes auprès de l’organisation non gouvernementale (ONG) Human Rights Watch.

Quant aux avions sans pilote, ils vont désormais au-delà de ce que permettent les drones traditionnels en matière d’autonomie. Le prototype X-47B de l’US Navy peut ainsi décoller, atterrir et faire le plein sur un porte-avion par ses propres moyens. La Grande-Bretagne a quant à elle dévoilé récemment un autre prototype, Taranis, «un avion sans pilote autonome et discret». Les deux appareils possèdent des soutes à armement adaptables.

Une interdiction préventive?

87 des 117 pays qui ont signé la Convention sur certaines armes classiques (CCAC) ont assisté à la réunion d’experts sur les systèmes d’armes létales autonomes, qui s’est tenue du 13 au 16 mai 2014 à l’Organisation des Nations Unies à Genève.

L’objectif était de commencer à définir les limites et les responsabilités de ces armes. Lors de leur prochaine réunion annuelle, qui aura lieu le 14 novembre, les membres de l’organisation décideront de poursuivre ou non le processus.

Les organisations non gouvernementales exigent une interdiction préventive de ces armes du futur. Elles mettent en avant l’exemple des lasers aveuglants, que la communauté internationale a bannis en adoptant un protocole international en 1995 avant qu’elles ne puissent être utilisées.

La Suisse fait partie des 87 pays qui tentent de définir les limites et les responsabilités de ces armes qui pourraient choisir et viser des cibles sans intervention humaine. Jusqu’à présent, seuls cinq Etats, dont Cuba et le Pakistan, ont rejoint le rang des militants appelant à une interdiction de ces armes.

Beaucoup d’autres, dont la France et la Grande-Bretagne, ont mis en lumière à Genève la nécessité de garder un contrôle humain significatif sur le ciblage et les décisions d’attaque. Les Etats-Unis ont déclaré qu’il devrait y avoir un contrôle humain «approprié», alors qu’Israël a insisté sur les opportunités offertes par ces systèmes autonomes.

«Contrôle humain significatif»

Pour les ONG, il n’existe aucun moyen de vérifier ce que les pays entendent par «contrôle humain significatif» sur ces systèmes de plus en plus autonomes. Les efforts visant à restreindre l’utilisation de ces armes ayant jusqu’ici échoué, une interdiction préventive est la seule solution valable, estiment-elles.

«J’ai tenté de dialoguer avec certains fabricants d’armes, mais ils ne sont franchement pas intéressés par le droit international humanitaire», a avancé Juergen Altmann, co-fondateur du Comité international pour le contrôle des armes robotiques. Mais Laurent Masmejean estime que la base juridique actuelle est «suffisamment solide» pour gérer les changements qui s’annoncent. «Que les armes autonomes soient impliquées ou non, tout usage de la force ou de systèmes d’armes doit se faire en conformité avec l’ensemble du droit international, et en particulier le droit humanitaire, qui se base notamment sur les principes de distinction, de proportionnalité et de précaution».

Le représentant de la Suisse a toutefois ajouté que la communauté internationale devrait examiner attentivement les avis juridiques concernant les nouvelles armes, les moyens et les méthodes de guerre, ainsi que les éventuelles lacunes en matière de responsabilité.

Un discours qui n’a toutefois pas convaincu Juergen Altmann. «Ils pourraient être intéressés par l’idée de limiter les effets de la guerre, en améliorant la précision grâce à de meilleurs produits. Mais ils veulent au contraire innover et la tendance est à la recherche de véhicules sans pilote capables de réagir plus rapidement, soit exactement la direction que nous voulons éviter». Pour Juergen Altmann, «il doit y avoir une décision politique prise par la société et les Etats pour empêcher cela et ne pas laisser les tendances militaires et technologiques évoluer librement».

Bientôt un tueur dans le ciel suisse?

(Traduction de l’anglais: Samuel Jaberg)