¿Puede el WEF liderar la gobernanza mundial de la IA?

Cómo gestionar los riesgos y aprovechar las oportunidades de la Inteligencia Artificial (IA) será uno de los temas clave que se debatirán en la 54ª reunión anual del WEF, que se celebrará en Davos a partir del 15 de enero. © Keystone / Laurent Gilliéron

Los gobiernos reclaman la existencia de una inteligencia artificial (IA) digna de confianza. Sin embargo, ante la falta de una legislación a nivel mundial, el tema se ha tornado complejo. ¿Pueden lograrse avances significativos en la reunión del Foro Económico Mundial (WEF en inglés)?  

Hace poco más de un año, el popular sistema ChatGPT de OpenAI llevó la IA a la cultura de masas, una incursión que abrió la esperanza de una nueva era en la que la tecnología podría superar las capacidades humanas. Una posibilidad que lanzó también un llamado de atención a los gobiernos sobre los riesgos que entraña la tecnología, que van desde la potencial alteración de la democracia hasta la pérdida de millones de puestos de trabajo.

Actualmente, la geopolítica entra también en la ecuación, con países conscientes de que la IA es mucho más que una mera tecnología: es también un arma política y económica, con China y Estados Unidos a la cabeza de una carrera que ya está en marcha. Desde la industria hasta el secretario General de las Naciones Unidas, António Guterres, han hecho exhortos para que haya una regulación en este tema.

Pero no existe ninguna solución internacional generalizada, aunque la mayoría de los países coinciden en la necesidad de que existan modelos de IA transparentes y fiables.

«No hay consenso global todavía sobre qué áreas de la regulación deben ser internacionalizadas”, dijo Robert Trager, director de la Oxford Martin Iniciativa de Gobernanza en Inteligencia Artificial de la Universidad de Oxford, durante una Cumbre sobre Políticas de Inteligencia Artificial celebrada en Zúrich en noviembre pasado. «Los países tienen diferentes valores sociales en materia de transparencia y privacidad», precisó.

Teniendo esta información como punto de partida, el WEF ha expresado que desea tomar las riendas de la gobernanza mundial de la IA. En junio de 2023, el Foro lanzó la AI Governance AllianceEnlace externo que busca «configurar el futuro de la gobernanza de la IA, fomentar la innovación y garantizar que el potencial de la inteligencia artificial sea aprovechado realmente para mejorar a la sociedad”, según lo expresó en su sitio web. Esta alianza, que reúne a varios gobiernos, y que cuenta también con la presencia de académicos y más de 40 empresas, entre ellas OpenAI y gigantes tecnológicos como Microsoft, Alphabet y Meta, celebró su primera reunión en San Francisco en noviembre del 2023.

Así, bajo el lema de “Reconstruir la confianza”, la reunión anual del WEF en Davos (Suiza), que este año iniciará el 15 de enero, será una oportunidad para que este foro demuestre que es capaz de salvar las diferencias que hay entre los distintos actores y convencer a los países de adoptar medidas concretas en favor de un desarrollo responsable de la IA. El WEF enfrentará, no obstante, enormes obstáculos si quiere lograr avances significativos en la estación alpina helvética.

Lograr que los países se pongan de acuerdo

Para avanzar, el WEF deberá crear un terreno propicio para el entendimiento entre los países en tiempos en los que proliferan las iniciativas nacionales, afirman los expertos en IA. De acuerdo con el Observatorio de Políticas de Inteligencia Artificial de la OCDEEnlace externo, hay más de 700 iniciativas de carácter nacional en el presente que corresponden a 60 países o territorios.

Son iniciativas heterogéneas que reflejan las opiniones divergentes de los países con respecto al rol que debe jugar la IA y el objetivo final de la regulación que se requiere. Por ejemplo, en julio, los reguladores de China incorporaron reglasEnlace externo aplicables a los servicios de IA generativa para impedir específicamente el desarrollo y utilización de la IA que contravengan los valores “socialistas” y que puedan socavar al régimen de Pekín. Por otra parte, el reconocimiento facial se ha implantado en todo el país.

Un enfoque que antagoniza con las iniciativas europeas que priorizan la protección de los derechos fundamentales. La Ley Europea de IA acordada por los Estados miembros de la Unión Europea (UE) limita significativamente el reconocimiento facial y el uso de la IA para otorga calificaciones sociales a la gente basándolas en su comportamiento o sus características personales.

«La Ley de Inteligencia Artificial de la UE es la primera ley que tiende un puente entre el mundo de la tecnología y la democracia», declaró Paul Nemitz, consejero principal para la Transición Digital de la Comisión Europea, en la Cumbre sobre Política de Inteligencia Artificial.

En Estados Unidos, por otra parte, la industria es más proclive a la autorregulación porque desea evitar que la innovación se vea frenada. Lo anterior puede observarse en el proyecto de declaración de derechos de la IA presentado y publicado por el gobierno estadounidense en 2022, y en una reciente orden ejecutiva presidencial que busca una IA fiable a través del establecimiento de normas para la seguridad de la IA, pero que no se trata de una ley estricta.

Mientras las grandes economías debaten sobre cómo crear confianza en la IA, hay otros países que han dicho poco. La UNESCO presentó una recomendación para la ética de la IA en 2021 en la que advirtió que los algoritmos pueden reproducir y fortalecer prejuicios ya existentes y, en consecuencia, exacerbar las desigualdades entre el Norte y el Sur.

La mayor parte de la tecnología y los conjuntos de datos que la sustentan proceden de un puñado de países ricos que están marcando las reglas. Los nuevos y potentes modelos de IA de base, entrenados con amplitud de datos para que puedan aplicarse a muchos sectores y usos, como ChatGPT, no se están empleando por igual en todo el mundo, en parte porque los grandes modelos lingüísticos son significativamente peores en otros idiomas que no sea inglés.

«Necesitamos realizar un esfuerzo extraordinario para garantizar que todo el mundo se beneficie de la IA», dijo a SWI swissinfo.ch Gabriela Ramos, subdirectora General de Ciencias Sociales y Humanas de la UNESCO.

El WEF asegura que reunirá en la misma mesa a la ONU, la industria y a los Estados. Estarán presentes Amandeep Gill, subsecretario general de Tecnología de la ONU, y varios de los principales líderes tecnológicos, como Brad Smith, vicepresidente y presidente de Microsoft, y Ken Walker, presidente de Asuntos Globales de Google y Alphabet. Estarán presentes unos 60 jefes de Estado y de Gobierno de países como Suiza, Francia, China y Corea del Sur.

No obstante, una de las grandes incógnitas es saber hasta qué punto participarán en los debates los representantes de los gobiernos de EE.UU. y China, que lideran el desarrollo de la IA. También está por ver si se invitará a la mesa de debate a muchos países en desarrollo y, por otro lado, si la sociedad civil también participará. «Necesitamos debates multilaterales para que estas normas mundiales funcionen para una tecnología que no conoce fronteras», subrayó Ramos.

Transparencia por el bien de la humanidad 

El WEF no sólo tiene que convencer a los gobiernos de que la gobernanza global es importante, sino también a los que desarrollan la IA así como usuarios, la mayoría de los cuales son empresas privadas.  

El mayor obstáculo es la transparencia, concretamente cuánto deben revelar las empresas sobre sus fuentes de datos y cómo desarrollan sus modelos de IA.

«La transparencia debe ser una de las fuerzas rectoras de la gobernanza en la IA», considera Antoine Bosselut, responsable de sistemas de procesamiento del lenguaje natural de la Escuela Politécnica Federal de Lausana (EPFL). «No ganamos mucho manteniendo estas cosas en la oscuridad. En última instancia, cuanto más sepamos sobre estos sistemas y la forma en que se entrenan, mejor podremos tomar decisiones que beneficien a la sociedad».

Bosselut es uno de los 75 académicos que forman parte de la iniciativa suiza sobre IA presentada en noviembre, que ha colocado en primera línea de importancia la transparencia de los futuros desarrollos de IA.  La apertura es fundamental para garantizar que «la tecnología esté al servicio de todas las personas y no solo de un pequeño segmento», afirmó Hanna Brahme, comisaria de la llamada AI House DavosEnlace externo, alianza organizada por la Escuela Federal de Tecnología de Zúrich (ETHZ) y la EPFL, entro otros asociados.

El hecho de que la reunión se celebre en Suiza, con su reputación de neutralidad, numerosas empresas multinacionales, sólidos conocimientos técnicos y valores humanitarios, podría jugar a favor del WEF, según Brahme. 

Pero el Foro no ha dejado claro aún cómo piensa impulsar esta transparencia, que se ha visto mermada durante los últimos tres años, según un estudioEnlace externo de la Universidad de Stanford. El equipo de investigación evaluó 10 modelos populares de IA en función de 100 indicadores de transparencia diferentes, como los datos de entrenamiento y la cantidad de computación utilizada. Incluso el modelo más transparente, Llama 2 de Meta, recibió una puntuación de 53 sobre 100.

Para algunos desarrolladores mantener ocultos los modelos es una medida de seguridad que es necesaria para evitar la piratería informática. Pero detrás de esta discreción también hay un claro interés comercial. En 2023, los inversores invirtieron casi 10.000 millones de dólares en empresas emergentes dedicadas a la IA generativa como OpenAI, más del doble de los 4.400 millones invertidos el año anterior. Las acciones del fabricante de chips estadounidense Nvidia se dispararon un 240% en 2023.

Aquellos que adoptan la IA, incluidas las empresas multinacionales, también tienen mucho que ganar. Un portavoz del gigante farmacéutico suizo Roche informó a SWI que «los recientes avances en IA son similares a las grandes disrupciones como la electricidad e internet que desencadenaron nuevas oleadas de innovaciones». El banco de inversión Morgan Stanley calcula que, en la próxima década, el uso de la IA en el desarrollo de fármacos en fase inicial podría traducirse en 50 nuevas terapias adicionales por valor de más de 50.000 millones de dólares en ventas. 

«No hay que centrarse en inventar una tecnología para que una empresa concreta se haga muy famosa. Hay que centrarse en resolver un problema como la salud humana. Si lo hacemos, estaremos en el buen camino», señaló a SWI Dorina Thanou, investigadora principal de IA para la salud en la EPFL.

La credibilidad del WEF 

Aunque los expertos aseguran que no será fácil para el WEF salvar todas estas diferencias, se dicen optimistas. El WEF tiene un historial de iniciativas público-privadas que, en más de una ocasión, han tenido un impacto real. La Alianza Mundial para el Fomento de la Vacunación y la Inmunización (conocida como GAVI) se puso en marcha en el WEF del año 2000 y permitió vacunar a 981 millones de niños de los países más pobres del mundo, evitando así la muerte de más de 16,2 millones de personas.

Los críticos del WEFEnlace externo, en contrapartida, sostienen que muchas iniciativas se han quedado simplemente entre los muros del Centro de Congresos de Davos y que solo buscaban elogios de los medios de comunicación y palmaditas en la espalda, sin lograr un impacto real.

Existe el riesgo de que se produzca una especie de “lavado de IA” (AI washing), esto es, que las empresas pregonen promesas de IA y firmen compromisos de avances que no cumplirán, pero que les evitan problemas y una verdadera rendición de cuentas.

El WEF también deberá superar el deterioro que ha experimentado su credibilidad en materia de inclusión y transparencia. Mucha gente considera que el Foro es hermético y que solo es el anfitrión de una exclusiva reunión de élites al servicio de la industria. Y la pregunta es: ¿si una empresa paga 120.000 dólares por ser miembros del WEF, se puede confiar realmente en que tiene en mente el bienestar mundial? Esto es algo que los críticos del WEF se han cuestionado por años.

Pero el hecho de que el WEF pueda atraer a tantos actores de la industria es precisamente lo que lo hace atractivo. Más de la mitad de los 2.800 participantes en la reunión anual de 2024 proceden del mundo empresarial. «La unión de estas partes interesadas puede ser muy poderosa», afirmó en Ginebra la experta en ética digital Niniane Paeffgen. La IA es desarrollada principalmente por grandes empresas tecnológicas alejadas de los centros gubernamentales, por lo que tenerlas a todas juntas es crucial para avanzar en el debate sobre la gobernanza mundial de la IA y asegurarse de que las empresas ponen de su parte para el desarrollo responsable de la IA. «Pero para que eso funcione, es necesario cambiar la forma en que se debaten las cosas». «En concreto», añadió, «la sociedad civil necesita tener un papel». 

Pero pese a todas las inquietudes prevalecientes. los expertos estiman que sí es posible que se produzca un gran avance en la reunión anual del WEF del 2024, principalmente por la coyuntura en la que se celebra. Es urgente llegar a un consenso pocas semanas después de que la UE diera el paso histórico de aprobar la primera ley sobre IA, que según algunos, podría convertirse en una normativa a nivel mundial.

Texto adaptado del inglés por Andrea Ornelas