En route pour réglementer les voitures autonomes

Au cours des cinq dernières années, plusieurs villes et entreprises de transport suisses ont mené des essais avec des véhicules autonomes roulant sur des itinéraires fixes. © Keystone / Urs Flueeler

Alors que les voitures deviennent progressivement capables de se conduire elles-mêmes, dans quelle mesure devraient-elles pouvoir expliquer leurs actions? Un groupe de réflexion onusien se tourne vers le grand public pour trouver des réponses.

Que se passe-t-il le jour où une voiture autonome inoccupée renverse un enfant traversant une route reculée sans témoin? La voiture est-elle capable de détecter qu’une collision a eu lieu? S’arrête-t-elle pour appeler les services d’urgence? La voiture est-elle capable d’expliquer ce qui s’est passé, ou plutôt, le système de conduite basé sur l’intelligence artificielle (IA) est-il en mesure de se souvenir des décisions qu’il a prises, pour que la voiture percute un piéton?

Telles sont les questions posées au grand public dans le cadre d’une enquête en ligne intitulée le «Molly ProblemLien externe».

«Le Molly Problem est un exercice de réflexion que nous avons imaginé pour amener les gens à se demander quelles informations sont importantes, ou, dans le contexte de l’IA, quel niveau d’explicabilité le système d’IA doit-il atteindre pour justifier et enregistrer ce qui s’est passé», explique Bryn Balcombe, président du groupe de réflexion sur l’IA pour la conduite autonome et assistéeLien externe de l’Union internationale des télécommunications (UIT), basée à Genève.

Sans surprise, les résultats préliminaires de l’enquête montrent que la plupart des gens attendentLien externe d’une voiture autonome qu’elle ne commette pas de délit de fuite. Ils s’attendent à ce que le système de conduite autonome enregistre suffisamment de données pour être en mesure d’expliquer ce qui s’est passé. En outre, la plupart des personnes interrogées pensent que ces données devraient également être collectées lorsqu’une collision est évitée de justesse.

Le groupe de réflexion que Bryn Balcombe dirige compte près de 350 participants et participantes internationaux représentant l’industrie automobile, les télécoms, les universités et les régulateurs. Ils préparent une proposition de norme technique internationale – une Recommandation UIT – pour le suivi et l’évaluation du comportement des véhicules autonomes sur la route. Le Molly Problem fait partie des travaux du groupe.

Le groupe travaille à combler les lacunes existantes en matière de normes et de réglementations concernant les véhicules autonomes. «La réalité est qu’il n’y a pas de normes pour détecter les collisions avec des piétons», souligne Bryn Balcombe, qui est aussi directeur stratégique pour Roborace, un championnat pour voitures de course autonomes. «Il n’existe pas de réglementation spécifique pour la récolte de données concernant les collisions évitées, ni même pour leur identification.»

En Suisse, le Conseil fédéral (gouvernement) a conduit l’année dernière une procédure de consultation en vue d’une modification de la loi sur la circulation routière. Le texte révisé permettrait au Conseil fédéral d’adapter la loi aux véhicules autonomes par le biais d’ordonnances qui ne nécessiteraient pas l’accord du Parlement. Il disposerait ainsi d’une certaine souplesse pour s’adapter au fur et à mesure que les voitures autonomes gagnent du terrain.

Le projet de norme du groupe vise à appuyer les réglementations internationales et exigences techniques que certains organes de la Commission économique des Nations unies pour l’Europe (CEE-ONU) sont chargés de mettre à jour pour les véhicules autonomes.

«La question est de savoir comment reprendre ces principes, qui ont été approuvés par des gouvernements aux quatre coins du monde, et les transposer dans le monde du numérique et de l’IA», explique Bryn Balcombe.

Le groupe soumettra sa proposition à l’UIT au début de l’année prochaine. L’UIT décidera alors de l’adopter ou non comme Recommandation UIT, qui pourra ensuite être référencée par les régulateurs.

L’IA pour le bien

Les efforts du groupe visant à assurer que les véhicules autonomes améliorent la sécurité routière sont nés lors de discussions au sommet mondial AI for Good (IA pour le bien) de l’UIT en 2019. Plus d’un million de personnes meurent chaque année dans des accidents de la route. Neuf accidents mortels de la route sur dix se produisent dans des pays à revenu faible ou intermédiaire.

«Le projet AI for Good se base sur le fait qu’il ne nous reste pas beaucoup de temps pour atteindre les Objectifs de développement durable (ODD) de 2030, et que l’IA est prometteuse pour atteindre certains de ces objectifs», explique Fred Werner, responsable de l’engagement stratégique à l’UIT et initiateur du projet AI for Good.

L’UIT espère que son modèle d’adhésion unique au sein du système des Nations unies, qui comprend 193 États membres et plus de 900 entreprises privées, universités et autres organisations, permettra à différents acteurs de se réunir pour débattre des avantages et inconvénients de l’IA.

«Les experts eux-mêmes sont d’avis que l’IA est trop importante pour être laissée aux experts. L’objectif du sommet est donc d’amener autant de voix différentes que possible à la table des discussions», explique Fred Werner.

Au fil des ans, l’initiative AI for Good a donné naissance à plusieurs groupes de pré-standardisation tels que celui sur les voitures autonomes. Ils se penchent, par exemple, sur l’utilisation de l’IA pour la santé, l’efficacité énergétique et la gestion des catastrophes naturelles.

Gouvernance

Angela Müller, responsable des affaires politiques et du plaidoyer chez AlgorithmWatch Switzerland, une organisation à but non lucratif qui examine les systèmes d’IA et leurs effets sur la société, est sceptique quant au message que peut véhiculer le programme AI for Good.

Selon elle, certains aspects de ce message tendent à détourner le débat des besoins en matière de gouvernance. «Lorsque vous choisissez d’utiliser ce discours, selon lequel l’IA finira par sauver le monde, alors la solution serait simplement d’investir dans la recherche en IA.»

La transparence sur le fonctionnement des systèmes de conduite basés sur l’IA est essentielle pour qu’un débat public sur la gouvernance ancré dans les faits se tienne. C’est pourquoi Angela Müller accueille favorablement toute recherche ouverte au public visant à expliquer comment les systèmes d’IA prennent des décisions et quels effets ces décisions ont sur les personnes.

«Il est très important que ces discussions aient lieu en ce moment, et que ce type de recherche ait lieu, car nous en avons besoin comme base pour notre débat sur la gouvernance.»

La Commission européenne travaille en ce moment sur la première législation au monde visant à réglementer l’IA. La proposition actuellement en discussion traite des risques de cette technologie et définit des obligations claires concernant ses utilisations spécifiques. Pour l’instant, la Suisse ne travaille pas sur un projet comparable à la proposition de législation européenne sur l’IA.

Angela Müller souligne qu’il est particulièrement important de s’assurer que les processus de standardisation soient inclusifs car ils peuvent servir de modèles pour de futures réglementations. Des efforts législatifs distincts aux niveaux national et international, tels que le projet de législation de la Commission européenne, sont nécessaires, dit-elle, pour garantir que les fabricants soient tenus responsables du comportement des systèmes de conduite intelligents qu’ils produisent.

L’IA pour la sécurité routière

Au début du mois, une nouvelle initiative sur l’IA pour la sécurité routièreLien externe, menée par l’UIT, l’envoyé spécial de l’ONU pour la sécurité routière et le bureau de l’envoyé de l’ONU pour la technologie, a été lancée. Elle vise à encourager les efforts publics et privés pour utiliser l’IA afin d’améliorer la sécurité routière pour tous les usagers de la route. Ces solutions devraient être applicables aux pays à revenus faibles et intermédiaires.

L’IA pourrait aider à interpréter les données que les véhicules, les autres usagers de la route et les infrastructures seront de plus en plus capables de collecter. De meilleures statistiques sur les accidents, par exemple, pourraient contribuer à améliorer les infrastructures routières et à accélérer les interventions d’urgence.

«Les voitures partagent des données entre elles, les voitures partagent des données avec les piétons, les infrastructures partagent des données avec les deux, et nous devrions utiliser ces données avec l’IA pour améliorer la sécurité sur les routes», explique Bryn Balcombe. Le groupe de réflexion fait partie de l’initiative sur l’IA pour la sécurité routière.

Le coût des véhicules entièrement autonomes restera trop élevé pour une adoption à grande échelle dans les pays à faible revenu d’ici à 2030, date à laquelle l’objectif des Nations unies visant à réduire de moitié le nombre de décès sur les routes devra être atteint. Toutefois, selon Bryn Balcombe, une grande partie des données qui peuvent être recueillies sur les voitures autonomes peuvent également l’être sur des véhicules moins coûteux équipés de systèmes de conduite assistée.

«C’est pourquoi nous sommes vraiment intéressés à élargir le rôle du groupe de réflexion, pour commencer à réfléchir à la façon dont nous pouvons utiliser ces technologies et déployer les plus importantes et les plus précieuses dans ces pays pour faire progresser les choses d’ici 2030.»