Qu’attendre du sommet «AI for Good» de l’UIT?

Doreen Bogdan-Martin a été élue secrétaire générale de l'UIT en 2022. Elle est la première femme à diriger cette organisation vieille de 158 ans. Copyright 2022 The Associated Press. All Rights Reserved.

L’événement phare des Nations unies consacré à l’intelligence artificielle réunit à Genève les grands noms de l’industrie, de la diplomatie et de la recherche pour discuter, entre autres, des questions de gouvernance. Explications.

Beaucoup de choses ont changé depuis 2019, lorsque l’Union internationale des télécommunications (UIT) organisait pour la dernière fois en présentiel à Genève sa conférence «AI for good» (en français: l’intelligence artificielle au service du bien). Depuis, l’essor des systèmes d’intelligence artificielle (IA) générative capables de créer des textes, des images et même du code informatique a suscité à la fois émerveillement et inquiétude au sein des gouvernements, des entreprises et du grand public. ChatGPT en est l’exemple le plus connu. À Genève jeudi et vendredi, l’édition 2023 du sommet «AI for Good» permettra, pour la première fois, la tenue de discussions au plus haut niveau sur cette technologie – capable de booster tant la productivité que la désinformation.

«C’est une réelle opportunité pour les principaux acteurs et actrices de l’IA de se réunir sur la scène mondiale et d’aborder les questions de gouvernance que pose l’essor de l’IA générative», a déclaré Doreen Bogdan-Martin, secrétaire générale de l’UIT, lors d’une conférence de presse.

Quelque 3000 personnes, dont des fonctionnaires gouvernementaux et onusiens, des cadres du secteur privé et des universitaires, sont attendues à cet événement. La plupart des débats porteront sur la façon dont l’IA peut servir à atteindre les objectifs de développement durable (ODD) de l’ONU – un ensemble de 17 objectifs pour 2030 que la communauté internationale s’est fixé. Parmi eux: l’élimination de la pauvreté et de la faim dans le monde.

Que sont l’UIT et son sommet «AI for Good»?

L’UIT est une agence des Nations unies basée à Genève, qui compte parmi ses membres 193 pays et plus de 900 entreprises, universités et autres organisations. C’est une structure inhabituelle au sein du système onusien, où ce sont d’habitude les gouvernements qui tirent les ficelles. L’agence définit des normes techniques et gère le spectre des fréquences radioélectriques et des orbites de satellites.

Le sommet mondial «AI for Good», que l’UIT a organisé pour la première fois en 2017, est la principale conférence de l’ONU consacrée à l’IA. «Il n’existe aucun événement au monde sur l’intelligence artificielle qui rassemble autant de parties prenantes différentes», souligne Reinhard Scholl, cofondateur et directeur général de la conférence.

Depuis 2020 et la pandémie de Covid, «AI for Good» s’est mué en plateforme en ligne active toute l’année. À ce jour, elle a accueilli environ 500 webinaires avec des spécialistes sur les opportunités et les risques de l’IA.

Pourquoi le slogan «AI for Good» alors que la technologie est controversée?

L’UIT explique qu’elle souhaite promouvoir l’utilisation de l’IA «pour le bien de la société», mais elle reconnaît aussi que cette technologie pose des problèmes.

Angela Müller, directrice de l’ONG AlgorithmWatch CH, se dit «un peu sceptique» vis-à-vis du «narratif AI for Good» qui, selon elle, revêt souvent une «dimension techno-solutionniste dépeignant les systèmes d’IA comme la principale solution aux défis mondiaux». Cela ne signifie pas qu’ils ne peuvent pas en faire partie, précise-t-elle. Mais l’IA elle-même «ne résoudra pas le changement climatique et ne combattra pas les inégalités sociales».

Si elle ne pense pas que les organisateurs du sommet ont de mauvaises intentions, Angela Müller estime que «le narratif AI for Good ne tient en général pas compte du fait que le développement et l’utilisation des systèmes d’IA peuvent avoir un impact considérable sur les êtres humains et la société, renforcer les inégalités existantes et consommer d’énormes ressources».

Pour son sommet, l’UIT prévoit deux tables rondes sur les «garde-fous nécessaires à une IA sûre et responsable et sur le développement potentiel de cadres de gouvernance mondiale de celle-ci».

Pourquoi est-il urgent de parler de gouvernance?

Ces derniers mois, plusieurs personnalités du monde de la technologie, dont Elon Musk, directeur de Tesla, et Steve Wozniak, cofondateur d’Apple, ont fait part de leurs inquiétudes concernant les systèmes d’IA et ont appelé à suspendre leur développement. Microsoft, qui finance OpenAI, la société ayant créé ChatGPT, souhaite que les gouvernements réglementent les utilisations «à haut risque» de l’IA.

Le Bureau des droits de l’homme de l’ONU (HCDH) – de son haut-commissaire à ses experts et expertes indépendants – documente de plus en plus fréquemment les utilisations de l’IA portant atteinte aux droits humains. «L’IA en général, et pas seulement l’IA générative, suscite des inquiétudes majeures concernant la discrimination, le racisme et la misogynie répliquées par ces systèmes, ainsi que les atteintes à la vie privée et le manque de transparence, déclare Seif Magango, porte-parole du HCDH. Il n’y a pas de temps à perdre. Les réseaux sociaux nous ont déjà montré de façon effrayante les conséquences majeures que l’absence de réglementation des technologies émergentes peut avoir sur nos sociétés.»

En juin, le Parlement européen a adopté un projet de loi connu sous le nom de «AI Act». Il s’agit de la première réglementation complète au monde en matière d’intelligence artificielle. Elle vise à restreindre certaines des utilisations les plus risquées de la technologie. De nombreux autres pays, dont les États-Unis et la Chine, qui se font la course en matière d’IA, élaborent des règles pour encadrer ce secteur en pleine évolution.

Au sein du système onusien, l’UNESCO a produit la première norme mondiale sur l’éthique de l’IA ancrée dans les droits humains, que tous les États membres de l’ONU ont adoptée en 2021. Son objectif est de fournir des lignes directrices aux pays qui élaborent des cadres juridiques pour l’IA.

«Au niveau international, nous avons besoin d’un accord sur le fait que ces technologies doivent être développées en conformité avec les droits humains, ce qui n’est pas le cas aujourd’hui. Leur développement est motivé par des objectifs commerciaux, par la concurrence, par des considérations géopolitiques», a déclaré Gabriela Ramos, sous-directrice générale de l’UNESCO chargée de superviser l’éthique de la science et de la technologie, aux journalistes avant le sommet.

Peut-on s’attendre à un quelconque accord lors du sommet?

Réponse courte: non. «Il n’y aura pas de déclaration officielle, de déclaration négociée ou de décision», précise Reinhard Scholl de l’UIT. Toutefois, les discussions qui auront lieu lors du sommet pourraient permettre une convergence sur la manière de relever les défis liés à l’IA.

«Le sommet mondial AI for Good a le potentiel de générer des recommandations concrètes sur les mécanismes de gouvernance de l’IA. Nous savons également que certains groupes se réunissent pour élaborer des propositions de solutions à cet égard. Nous espérons en savoir plus à ce sujet lors du sommet», a-t-il ajouté.

Au fil des ans, les discussions qui ont eu lieu lors du sommet ont conduit à la création de groupes de réflexion chargés d’élaborer de nouvelles normes. L’un d’entre eux, lancé en partenariat avec l’Organisation mondiale de la santé (OMS), cherche à évaluer les diagnostics et les décisions thérapeutiques prises par l’IA.

Les voix critiques seront-elles entendues?

En examinant la liste des personnes présentes, on constate que les hauts-cadres d’Amazon, de Google DeepMind et d’autres figures de proue des milieux industriels, diplomatiques et académiques occupent une place prépondérante. Les ONG, en particulier celles qui défendent les droits humains, sont sous-représentées.

Pourtant, ce sont souvent elles qui travaillent directement avec les personnes dont les droits sont menacés par les progrès de l’IA. Lorsque l’UE a adopté son projet de loi, ce sont les ONG qui ont dénoncé le fait que le texte ne prévoyait pas de protéger les personnes migrantes contre la surveillance.

«À ma connaissance, nous n’avons pas été invités à la conférence AI for Good de 2023, et certainement aucun membre de l’équipe n’y participera cette année», a déclaré une porte-parole de la division «tech» de Human Rights Watch. Amnesty International, qui avait envoyé en 2017 son secrétaire général de l’époque, Salil Shetty, a refusé de commenter sur son éventuelle présence au sommet. Une autre ONG qui se concentre sur les droits humains dans l’espace numérique a déclaré que l’événement n’était pas une priorité.

Toutefois, au-delà des grands groupes de défense des droits humains, l’UIT indique que 270 ONG participent à l’événement, auquel toute personne est libre d’assister en personne ou à distance. Reinhard Scholl souligne que «l’UIT travaille en étroite collaboration avec ses agences sœurs à l’ONU, notamment l’Agence pour les réfugiés et le Bureau des droits de l’homme, les principaux organes onusiens responsables des discussions avec la société civile sur l’IA et les droits humains».

Le Bureau des droits de l’homme de l’ONU confirme que le sommet «AI for Good» est «un lieu important pour les discussions sur cette question cruciale» et qu’il participera à certaines de ses sessions. «Nous espérons que les droits humains serviront de fil conducteur à toutes les sessions», déclare Seif Magango.

Texte relu et vérifié par Virginie Mangin