¿Es la IA un reto para la democracia?

Si parece un pato, anda como un pato y grazna como un pato... Probablemente sea un pato. La lógica de esta afirmación parece indiscutible. Pero ¿y si usted es posible votante —demócrata— en Estados Unidos y recibe una llamada de Joe Biden diciéndole que no le vote “porque solo ayudará al partido republicano”?

Parece Joe Biden, pero ¿por qué un presidente demócrata va a aconsejar a su gente que no vote? ¿Y si en el Reino Unido alguien en las redes sociales se encuentra con una grabación de Sir Keir Starmer, candidato a primer ministro, insultando a su personal? Suena horrible, parece un hombre tan apacible (susurra, aburrido) que esto no parece propio de su carácter.

En 2024, cuatro mil millones de personas tendremos la oportunidad de votar en las elecciones: desde Estados Unidos y Reino Unido, hasta la Unión Europea, India, Rusia, Sudáfrica o Ruanda. Se dice que la inteligencia artificial —IA— podría desempeñar este año un papel importante y peligroso.

Eso es lo que esta semana estamos debatiendo en Inside Geneva [pódcast, en inglés] y por eso, si se encuentra con algo que parece auténtico, pero su mensaje es extraño (como el de Joe Biden pidiendo a la gente demócrata que no vote), desconfíe. Desconfíe mucho.

La propaganda siempre ha estado ahí

Todo el mundo sabe que quienes se dedican a la política utilizarán cualquier herramienta a su alcance para conseguir nuestros votos. Gabriela Ramos, subdirectora general de Ciencias Sociales y Humanas y Ética de la Inteligencia Artificial de la UNESCO, explica a Inside Geneva que “la propaganda siempre ha estado ahí, desde la época romana. La manipulación siempre ha estado ahí; las simples mentiras de gente de la política con poca ética siempre han estado ahí”.

“El problema ahora es que, con el poder de estas tecnologías, la capacidad de daño puede ser masiva”, advierte Ramos.

¿Puede la ONU, en este caso la UNESCO, hacer algo para proteger el proceso democrático de la manipulación de la IA? Ramos trabaja en ello: reúne en la misma sala a socios improbables (Estados Unidos, China) para hablar de regulación, de las medidas que los gobiernos deberían tomar.

Cree firmemente que los riesgos de la inteligencia artificial deben abordarse “desde arriba”. Hay que regular las empresas tecnológicas, imponer sanciones a quienes den pie a la información falsa y los gobiernos deben tener poder para acabar con ella.

¿Suena bien? Podría ser, pero no hay forma de que la legislación llegue este año. Mientras tanto, tendremos que cuidarnos de ese pato que puede que no sea un pato.

“Me preocupa quién va a ganar”, afirma el analista Daniel Warner, que votará en las elecciones presidenciales [estadounidenses] de este año. “Pero también me preocupa si mi voto contará, y me preocupa todo tipo de desinformación que ahora vemos ahí fuera. Más de lo que he visto nunca”.

¿Cuál es el mayor peligro?

Las formas de manipular al electorado cada vez son más sofisticadas y difíciles de detectar. Alberto Fernández Gibaja es responsable de Digitalización y Democracia en el Instituto Internacional para la Democracia y la Asistencia Electoral (IDEA Internacional). Y ha identificado algunas de las amenazas para las elecciones de este año.

La interferencia extranjera —sugiere— podría ser significativa, pero al menos podemos esperar que nuestros gobiernos e instituciones estén atentos a ella.

Pero ¿y si la manipulación, los deepfakes [vídeos o audios falsificados], la microsegmentación del electorado en función de sus gustos, hábitos o supuestas opiniones, proceden de nuestro propio país, de las mismas personas que quieren nuestro voto?

Fernández Gibaja ve el mayor peligro en lo que él denomina “dividendo del mentiroso”. Que la información falsa, los relatos falsos, las imágenes y los vídeos falsos se extiendan tanto que al final la gente no confíe en nadie ni en nada.

“Seguimos pensando que podemos luchar contra eso intentando corregir falsedades, pero ese no es el problema. El problema no es una afirmación particular falsa medio falsa. El problema es que una vez que haces que la gente se cuestione las personas, las instituciones y los procesos en los que puede confiar, ya no hay vuelta atrás” explica Fernández Gibaja.

¿En quién confiar?

Esa falta de confianza, y el auge de las teorías conspirativas más inverosímiles, ya se está viendo en Estados Unidos, e incluso, en menor medida, en el Reino Unido. Steve Bannon, cuando era estratega jefe de Donald Trump, hablaba abiertamente de su deseo de crear desconfianza, de “inundar la zona de mierda” para que el electorado dejara de tener fe en las propias instituciones que sostenían su sistema democrático.

Fue durante la era Trump (que pronto podría volver a la escena política) cuando se acuñó el término “medios de comunicación dominantes” para menospreciar a las emisoras y periódicos tradicionales, aquellos con periodistas que se habían preparado para tener objetividad y profesionalidad.

Irónicamente, en este gran año electoral, Fernández Gibaja aconseja al electorado que —a pesar de los insultos de perturbadores como Bannon— los medios convencionales pueden ser nuestra mejor protección contra la manipulación.

“Confía en los medios fiables”, dice, sugiriendo medios como New York Times, la BBC o Financial Times. “Confiar no significa que haya que estar de acuerdo con los medios. Pero se puede confiar en su ética; no van a mentir, no van a manipular con información falsa solo para intentar convencer de que se vote de una manera u otra”.

La persona influencer a la que podríamos seguir en YouTube, sin embargo, podría sugerirnos algo un poco… inusual… Y, tal y como apunta Fernández Gibaja, no es el mejor lugar para invertir nuestra confianza.

Queda mucho por hacer

¿Estamos preparados para este gran año electoral? ¿Tenemos armas contra la manipulación y la desinformación? La gente a la que hemos invitado a Inside Geneva coincide en que nos queda mucho trabajo por hacer a nivel multilateral, nacional e individual. Es un debate fascinante, así que acompáñenos para escucharlo en su totalidad.

Pero cuando Fernández Gibaja habla de confiar en los medios de comunicación “fiables”, ya estamos viendo señales alentadoras de que los principales medios de comunicación están actuando para acabar con la información falsa. El aviso de “eliminar” que las principales agencias de noticias del mundo pusieron sobre la foto familiar de Kate Middleton es revelador. Era una foto inofensiva, la familia real británica no trataba de influir en el voto de nadie, solo intentaba amortiguar las febriles especulaciones sobre la salud de la princesa de Gales.

Pero la fotografía había sido manipulada y las agencias de noticias tienen sus reglas. Si no es la foto real, no se utiliza. No se puede tener una regla para la clase política y otra para la realeza, así que la foto fue eliminada. Del mismo modo, rápidamente se descubrió la llamada automática falsa de Joe Biden, al igual que las múltiples fotos de Donald Trump rodeado de jóvenes afroamericanos que aparentemente lo adoraban y que, al final, nunca habían estado cerca de Trump, y mucho menos habían prometido votarle. Así que tal vez, a falta de regulación de toda esta farsa maligna, sí tengamos que confiar en los grandes medios de comunicación, y confiar también en nuestro “sentido común”, aconseja Fernández Gibaja. Si parece un pato, grazna como un pato, pero el graznido suena un poco raro, después de todo, quizá no sea un pato.

Texto adaptado del inglés por Lupe Calvo / Carla Wolff

>> Suscríbase a nuestro boletín semanal y manténgase al día sobre las últimas noticias de España y Latinoamérica en la prensa suiza