Un fauteuil roulant suisse assisté par drone illustre les promesses et les problèmes de l’IA

Faire en sorte qu'un fauteuil roulant robotisé traverse la rue en toute sécurité et de manière autonome est l'un des plus grands défis auxquels les développeurs sont confrontés. Gaetan Bally

Un groupe de recherche suisse développe un fauteuil roulant guidé par intelligence artificielle et drone. L’objectif est de permettre aux personnes en situation de handicap de mener une vie plus autonome et de se sentir mieux intégrées dans la société. De nombreux obstacles techniques, éthiques et juridiques subsistent toutefois.

Mener une existence ordinaire, choisir son lieu de vie et s’intégrer au sein de la société: telles sont les revendications des personnes avec handicap en Suisse formulées dans l’initiative populaire «pour l’inclusion». Selon les initiants, les personnes en situation de handicap (1,7 million en Suisse) restent privées des droits fondamentaux dont jouissent les personnes sans handicap, tels que la liberté de mouvement.

Des chercheuses et chercheurs de plusieurs universités suisses et internationales s’efforcent de résoudre le problème grâce à la technologie. L’un des projetsLien externe vise à mettre au point un fauteuil roulant autopiloté, assisté par drone.

«Nous sommes convaincus que notre fauteuil permettra aux personnes souffrant de handicaps physiques et sensoriels de se déplacer de manière autonome, sans être transportées comme des objets», déclare Francesco Flammini, de l’Institut Dalle Molle de recherche en intelligence artificielle à Lugano, au Tessin. Il est responsable de l’équipe de recherche qui mène ce projet financé par l’Union européenne et le gouvernement suisse.

Son équipe collabore avec plusieurs autres universités européennes pour réaliser une idée «disruptive», comme il l’appelle. Il s’agit de créer un outil intelligent devant permettre aux personnes avec handicap d’effectuer les déplacements du quotidien, comme aller au travail ou chez le médecin ou encore rendre visite à des amis, sans avoir besoin d’aide.

Francesco Flammini est professeur de sécurité des systèmes autonomes à l’Institut Dalle Molle pour l’étude de l’intelligence artificielle (USI-SUPSI). IDSIA

La «technologie transformatrice» des fauteuils roulants intelligents

«Un fauteuil roulant intelligent représente une technologie transformatrice pour les personnes qui souffrent d’un handicap grave, souvent confinées au lit et incapables de se déplacer», relève Benjamin Kuipers, professeur émérite d’ingénierie électrique et informatique à l’Université du Michigan, aux États-Unis.

Avec son équipe, Benjamin Kuipers travaille depuis des années à la mise au point de fauteuils roulants robotisés. Entre deux et cinq millions de personnes en situation de handicap aux États-Unis pourraient en bénéficier. Benjamin Kuipers s’est longuement penché sur les questions éthiques qui se posent, notamment celle de la confiance à accorder aux robots pour accomplir des tâches de manière autonome. «Pour collaborer avec l’être humain, le robot doit être digne de confiance», souligne-t-il.

Benjamin Kuipers et deux de ses étudiants montrent leur fauteuil roulant robotisé dans cette vidéo:

Résoudre ces questions éthiques essentielles constitue un défi. C’est pourquoi de nombreuses idées novatrices développées dans les universités n’ont pas encore atteint le stade commercial. Aussi, les projets de fauteuils roulants de Benjamin Kuipers et de Francesco Flammini ont encore un long chemin à parcourir avant d’être mis en œuvre.

«Les défis auxquels nous sommes confrontés sont très importants. Nous développons des prototypes dont l’industrialisation prendra plusieurs années», indique Francesco Flammini.

Benjamin Kuipers est professeur émérite d’ingénierie électrique et informatique à l’université du Michigan, aux États-Unis. Université du Michigan

Traverser la route de manière autonome: un défi

Permettre à un fauteuil roulant de traverser une route en toute sécurité et de manière autonome constitue l’un des plus grands défis auxquels sont confrontés les conceptrices et concepteurs. Le groupe de recherche de Francesco Flammini a fait le test au niveau du logiciel, en simulant diverses situations de la vie réelle (pluie, brouillard, mauvaise visibilité), et a prouvé que cela pouvait fonctionner, même dans le cas de personnes souffrant de handicaps mentaux et sensoriels tels que les déficiences visuelles. L’opération est possible grâce à une série de capteurs et de caméras intégrés, à l’instar des voitures autonomes. Avec l’aide de drones, qui font partie intégrante du projet suisse, le fauteuil roulant peut évaluer la situation et le seuil de danger sous différents angles et perspectives, avant de décider s’il peut traverser la route.

«L’avantage des drones est qu’ils peuvent se déplacer et voler dans les virages et au-delà du champ de vision humain», explique Francesco Flammini. Pour évaluer si traverser est sans danger, le système calcule le seuil de risque à l’aide d’une fonction mathématique.

Le drones sont-ils trop intrusifs, ou cruciaux pour la sécurité?

Toutefois, Benjamin Kuipers a des doutes quant à la faisabilité du projet suisse.

«Les personnes en situation de handicap ne veulent pas attirer l’attention des gens. Un fauteuil roulant entouré de drones est très voyant», fait remarquer le professeur américain. Selon lui, l’équipe de recherche de Lugano devrait prendre en compte cet aspect et sonder les utilisatrices et utilisateurs potentiels.

Francesco Flammini estime que la sécurité des dispositifs autonomes dépend de l’exploitation d’un maximum d’informations, y compris celles fournies par les drones. «Plus les capteurs sont nombreux, plus nous disposons d’informations, ce qui augmente la fiabilité des décisions du robot», précise-t-il.

Le fauteuil roulant piloté par drone développé par Flammini et son équipe, dans une image générée par IA. Francesco Flammini / IA

Comprendre le fonctionnement pour faire confiance

Les systèmes basés sur l’IA qui contrôlent les trains autopilotés ou les centrales nucléaires sont certes complexes, mais obéissent à des principes simples. Ceux qui s’appliquent aux fauteuils roulants, en revanche, opèrent dans des environnements complexes et leurs actions ne peuvent pas toujours être complètement expliquées. En cas d’accident, il sera difficile de déterminer qui est responsable et ce qui s’est passé si le système n’est pas transparent. Les mêmes difficultés se posent pour les voitures autonomes.

«On ne peut pas faire confiance à des systèmes dont on ne comprend pas le fonctionnement», pointe Francesco Flammini. Le chercheur et son équipe ont tenté de résoudre le problème en expliquant la plupart des processus par des formalismes mathématiques. Néanmoins, leur système repose encore en partie sur l’apprentissage profond, qui présente souvent des biais dans les données. «Par exemple, si un système d’IA doit reconnaître un loup d’un chien et qu’il est entraîné seulement avec des images de loups dans la neige, il aura de la peine à le reconnaître dans d’autres contextes», illustre le chercheur.

Éthique et impasse juridique

Le manque de transparence du système cause des problèmes à la fois opérationnels et juridiques, car il est difficile d’imputer les responsabilités en cas d’erreur ou d’accident.

«Où se trouve l’erreur? Dans le logiciel, dans les capteurs? Est-ce la faute de l’entreprise ou d’un tiers? Des systèmes opaques ne peuvent pas être utilisés dans des contextes critiques», soulève Francesco Flammini. Pour être acceptable, la probabilité d’un accident doit également être mesurable et demeurer inférieure à un certain seuil. Pour les trains et les avions, on parle d’une probabilité «inférieure à 10^-9», un seuil que les systèmes d’IA ne peuvent actuellement pas garantir, note Francesco Flammini.

Ce seuil détermine si un robot est réellement fiable. C’est un point crucial en cas de collaboration avec des êtres humains.

«L’être humain délègue une partie de la responsabilité au robot pour l’emmener chez le médecin ou au travail, en espérant qu’il évitera les situations dangereuses. Pour cela, le robot doit être fiable», relève Benjamin Kuipers. Dans le même temps, le robot doit refuser d’exécuter volontairement ou involontairement des ordres qui peuvent entraîner la mort tels que descendre une échelle ou passer par la fenêtre. «Ce sont des questions éthiques très importantes.»

Autre défi pour le projet de fauteuil roulant de Francesco Flammini: l’absence de législation réglementant le vol des drones dans les espaces publics et urbains.

Des robots au service de l’être humain

Malgré les nombreux obstacles, l’équipe de Lugano est convaincue d’aller dans la bonne direction. «Notre projet visionnaire et disruptif ouvre de nouvelles perspectives quant à la manière d’aider les personnes avec handicap et d’améliorer leur inclusion et leur autonomie»,  déclare Francesco Flammini.

Selon Benjamin Kuipers, le plus grand potentiel de cette technologie réside dans l’utilisation du robot comme outil de recherche scientifique, par exemple pour explorer et cartographier des environnements spatiaux ou pour mieux étudier l’interaction entre l’être humain et la machine. «L’être humain est toujours aux commandes. Le robot doit vivre et exister pour nous servir», conclut-il.

Texte relu et vérifié par Veronica De Vore/sb, traduit de l’anglais par Zélie Schaller