Como a desinformação ameaça a democracia nos EUA e na Suíça

Uma imagem deepfake, criada por IA, retrata Kamala Harris como uma ditadora comunista. X

Nas vésperas de sua eleição presidencial, os Estados Unidos estão enfrentando uma onda sem precedentes de conteúdo falso gerado por IA. E especialistas alertam que a Suíça não está imune a esse problema. Pelo contrário, a nação alpina é particularmente vulnerável às táticas de desinformação que estão ameaçando os eleitores ao redor do mundo.

“A Suíça é muito vulnerável porque, se as pessoas receberem informações erradas, provavelmente tomarão decisões erradas”, argumenta Touradj Ebrahimi, professor do Instituto Federal Suíço de Tecnologia de Lausanne e especialista em deepfakes, que é como se chama o conteúdo audiovisual falso gerado por inteligência artificial (IA).

O especialista argumenta que as democracias diretas, que concedem aos cidadãos e cidadãs um papel proeminente na formulação de políticas públicas, são as que mais sofrerão com a desinformação e os conteúdos falsos gerados por IA. Esse é o caso da Suíça e da maioria dos estados americanos, onde não apenas os representantes eleitos, mas também o povo toma decisões importantes.

pic.twitter.com/CaH0yXMO0kLink externo

— Donald J. Trump (@realDonaldTrump) August 15, 2024Link externo

A campanha presidencial em andamento nos EUA demonstra o quanto a IA pode influenciar o debate político. Vimos e ouvimos todo tipo de coisa ao longo deste ano: imagens de Kamala Harris retratada como uma ditadoraLink externo em uma convenção comunista, mensagens de áudio com a voz de Joe BidenLink externo pedindo ao eleitorado para não votar, vídeos de Elon Musk e Donald Trump em roupas descoladas dançando impecavelmente ao som de músicas dos anos 70Link externo. Esses são apenas alguns dos deepfakes que estão circulando online em plataformas sociais como o X (antigo Twitter).

O objetivo é gerar desinformação e manipular a opinião pública com grande impacto e pouco esforço. De fato, milhões de pessoas visualizaram, curtiram e repostaram esses deepfakes. A situação nos EUA é tão preocupante que pelo menos 20 estadosLink externo aprovaram regulamentações contra deepfakes e o Departamento de Segurança Nacional alertouLink externo sobre os riscos da IA para a eleição presidencial. Recentemente, o estado da Califórnia assinou uma das leis mais rígidasLink externo dos Estados Unidos contra deepfakes políticos.

A Suíça, por sua vez, está atrasada no que diz respeito à legislação sobre o tema. Enquanto a União Europeia regulamentou os deepfakesLink externo em sua Lei de IA, o governo suíço declarouLink externo no ano passado que não vê necessidade de estabelecer uma regulamentação específica contra conteúdo gerado e manipulado artificialmente.

Apesar dos esforços legislativos, nem os EUA nem nenhuma das grandes democracias mundiais conseguiram escapar da proliferação de vídeos, áudios, fotos e notícias falsas neste ano eleitoral que levou o maior número de pessoas da história – pelo menos quatro bilhões – às urnas.

A escalada da desinformação gerada por IA ainda não atingiu seu pico: no futuro, veremos cada vez mais conteúdos “sintéticos”, criados artificialmente, afirma o especialista Touradj Ebrahimi. E, à medida que a tecnologia se tornar mais sofisticada, será cada vez mais difícil diferenciá-los do que é real. Outros especialistas consultados pela SWI swissinfo.ch concordam com essa avaliação.

Aqui estão as três principais razões pelas quais a democracia suíça não deve subestimar o perigo da desinformação gerada por IA.

1. Os mecanismos de busca e os chatbots mostram informações tendenciosas e incorretas

Organizações sem fins lucrativos e grupos de pesquisa já alertaram sobre os perigos e as limitações dos softwares e algoritmos de IA para a democracia suíça. A ONG suíça Algorithm Watch CH analisouLink externo as respostas do Chatbot da Microsoft dentro do mecanismo de busca Bing antes das eleições federais suíças de outubro de 2023. A organização descobriu que um terço das respostas relacionadas às eleições continha erros factuais e que a IA chegou ao ponto de inventar escândalosLink externo sobre certas personalidades políticas. “Os chatbots de IA generativa integrados aos mecanismos de busca podem ser enganosos, porque as pessoas confiam nas informações que obtêm por meio dessas ferramentas”, diz Angela Müller, diretora do Algorithm Watch CH.

Mas os próprios mecanismos de busca na web também podem ser enganosos. Um relatório – “livro brancoLink externo”, em tradução do termo em inglês white paper – publicado pelas universidades de Berna e Zurique constatou que o mecanismo de busca mais usado na Suíça, o Google, dá visibilidade desigual a certas fontes de informação e pontos de vista sobre um tópico, dependendo do idioma da pesquisa (alemão, francês ou italiano). Antes da votação popular sobre a Lei de Proteção Climática, em junho de 2023, por exemplo, os pesquisadores descobriram que, em resposta a consultas no idioma alemão, o Google favoreceu informações de partidos que eram mais críticos em relação à lei em resposta a consultas no idioma alemão.

“Em uma democracia multilíngue já polarizada como a Suíça, esses resultados devem nos preocupar”, diz Mykola Makhortykh, um dos pesquisadores por trás do relatório. Ele alerta para o fato de que não há transparência sobre como os algoritmos de busca e os softwares de IA funcionam e que, apesar das promessas, as grandes empresas de tecnologia não conseguem estabelecer sistemas eficazes para combater notícias falsas e a polarização.

2. A desinformação gerada por IA está fazendo com que a mídia seja menos confiável

Segundo Makhortykh, os atuais sistemas de IA permitem a criação e a disseminação de desinformação de forma mais rápida e fácil. Há cada vez mais sites de notícias que imitam a mídia oficialLink externo ou tradicional, mas, na verdade, estão cheios de conteúdo gerado automaticamente por IA, que geralmente é incorreto e, às vezes, completamente inventado. Essas notícias enchem as páginas das principais plataformas de mídias sociais, que são responsáveis por mais de 60% das informações falsas que circulam na Suíça, de acordo com uma pesquisaLink externo realizada pela fög.

Apenas uma pequena parteLink externo da população lê notícias geradas por IA, mas elas são tão bem-feitas que é difícil identificá-las e evitá-las. Uma pesquisa recente da OCDE classificou os suíços entre os menos capazes de reconhecer a desinformação.

“Se as notícias criadas por jornalistas reais e as geradas por IA forem parecidas, isso é realmente perigoso”, diz Karsten Donnay, professor de comportamento político e mídia digital da Universidade de Zurique. As pessoas podem se sentir enganadas e perder a confiança na mídia como um todo, acrescenta ele.

Esse ecossistema de desinformação já levou os suíços a mudarem a forma como se informam. Os últimos números publicados no Reuters Digital News ReportLink externo mostram que a principal fonte de informação do país são os sites de notícias online. Os canais tradicionais e mais confiáveis, como a televisão, a mídia impressa e o rádio, continuam sendo importantes, mas vêm sofrendo um declínio significativo desde 2016.

Uma das razões para o declínio do consumo da mídia tradicional é que as pessoas agora são bombardeadas com notícias e se sentem exaustas, diz o relatório. Como resultado, os suíços estão perdendo o interesse em serem informados, o que faz parte de uma tendência global. Apesar disso, a Suíça tem visto uma mudança menos extrema do que algumas outras democracias, como os EUA, onde a população está perto de abandonar as plataformas de mídia tradicionais.

Mas isso não aumenta a probabilidade de a Suíça conseguir minimizar os riscos da IA, diz Donnay. Ele acredita que os mecanismos de busca e os chatbots continuarão ganhando força enquanto fontes de informação.

“As pessoas usarão cada vez mais essas ferramentas e não sabemos realmente aonde isso vai dar”, ressalta o professor. Apesar disso, ele acredita que não é tarde demais para tentar garantir que as fontes de informação não jornalísticas também sigam determinados padrões.

3. As tecnologias de IA generativa são incrivelmente persuasivas

Até agora, tem sido difícil provar o efeito da desinformação gerada por IA sobre a população.

“Não se trata de um fenômeno de massa. A desinformação circula em um nicho”, diz Fabrizio Gilardi, professor de análise política da Universidade de Zurique. Ele diz que a desinformação sempre existiu e que os estudos mais importantes mostram que ela tem muito menos influência do que as pessoas imaginam. “A inteligência artificial não vai mudar substancialmente a situação”, diz ele.

Estudos independentes realizados em colaboração com a MetaLink externo (empresa controladora do Facebook) durante a eleição presidencial de 2020 nos EUA comprovaram que a desinformação que circulou nas mídias sociais não teve efeito significativo sobre as atitudes e o comportamento das pessoas e não aumentou a polarização.

Mas isso pode mudar com o advento de plataformas interativas de IA como o ChatGPT. Uma pesquisa realizada nos EUA pelo Instituto Federal Suíço de Tecnologia de Lausanne (EPFL) com cerca de 900 pessoas mostrou que o ChatGPT é muito hábil em moldar nossas opiniões.

“A capacidade de persuasão dos modelos de IA generativa é tão alta que eles poderiam influenciar as eleições”, diz Francesco Salvi, um dos autores do estudo. Salvi e sua equipe mostraram que, em comparação com um ser humano, o ChatGPT-4 tem 82% mais chances de mudar a opinião de uma pessoa.

Quando em posse de informações pessoais sobre um usuário, o ChatGPT-4 pode gerar mensagens personalizadas e mais persuasivas. Esse é um fenômeno sem precedentes, mesmo entre outros casos famosos de desinformação, como o caso da Cambridge Analytica, empresa que utilizou ilegalmente dados pessoais de milhões de usuários do Facebook para exercer influência política em 2018.

“Estamos de frente à possibilidade de um caso como o da Cambridge Analytica, mas elevado à enésima potência. E estou convencido de que isso já está acontecendo”, argumenta Salvi.

Edição: Benjamin von Wyl e Veronica De Vore/fh
(Adaptação: Clarice Dominguez)