Nome de código: Kappel 3.0. Sua mente está sendo controlada?

swissinfo.ch / Michele Andina & Helen James

A jovem pesquisadora Verena está entusiasmada em agir pelo bem comum de seu país e em combater o discurso de ódio nas mídias sociais para garantir eleições equilibradas na Suíça. Mas quando seu novo projeto de inteligência artificial (IA) é alvo de críticas, ela se vê concordando com sua nêmese: não existe mais um abrigo seguro.

A música toca: tambores marciais e flauta alegre. A câmera mostra uma pintura de um grupo de homens comendo de uma grande cuba de madeira. Eles estão vestidos com as cores de Zurique e Zug: o vermelho, o azul e o branco. O título, “O mingau em Kappel, como pintado por Samuel Albrecht Anker”, aparece na tela; depois uma voz masculina fala: “Em 1529, Católicos e Protestantes se encontraram para lutar em Kappel. Mas, ao invés, os soldados decidiram compartilhar uma refeição… Encontrar uma base comum é nossa tradição nacional. É a nossa identidade nacional”.

Uma nova e visionária série de ficção científica da swissinfo.ch: “As Utopias e Distopias de Amanhã”

Utopia ou distopia? Sonho ou realidade? A revolução tecnológica contemporânea nos confronta com questões fundamentais sobre o futuro da humanidade. As novas tecnologias serão aliadas ou inimigas do homem? Como elas mudarão nosso papel na sociedade? Estaremos destinados a evoluir para uma espécie de super-humanos ou a ser superados pelo poder das máquinas?

“Utopias e Distopias de Amanhã” é a nova série original de contos de ficção científica criados pela SWI swissinfo.ch para tentar responder a estas perguntas de uma forma inovadora e visionária. Graças à criatividade de um grupo de escritores e à colaboração de pesquisadores e profissionais, tentaremos imaginar como a tecnologia irá moldar nossas vidas. Cada história de ficção científica será acompanhada de um artigo informativo em colaboração com os principais especialistas suíços para lhe dar um verão cheio de sonhos utópicos em algum lugar entre a ficção e a realidade!

Se você já viu este vídeo, sua mente está sendo controlada.

Antes de lançar sua cédula eletrônica sobre a reforma previdenciária, vários eleitores relataram tê-lo visto enquanto navegavam na internet. Todos eles se inclinaram para votar “não” sobre as mudanças no sistema previdenciário afirmando seu apego à liberdade e responsabilidade pessoal em vez de uma maior interferência do estado.

Uma fonte confiável que eu não posso citar me disse que isto foi deliberadamente direcionado por uma instituição proeminente com fortes laços com o governo. Nome de código do projeto: Kappel 3.0.

Você está sendo coagido a aceitar cegamente qualquer coisa que o governo apresentar.

A inteligência artificial decide quem vê o quê.

O voto do povo está sendo manipulado de dentro de suas próprias casas. Não há mais um lugar seguro.

No próximo domingo, quando a votação terminar, veremos quem prevaleceu na eleição: os eleitores ou a IA.

Assinado: livre pensador

“Então, Verena, o que você diz?”

Verena hesita enquanto seus olhos se desviam do computador para sua mãe, que espera por uma reação, lábios cerrados, olhos brilhantes.

Finalmente, a “livre pensadora” encontrou algo importante.

Ursi, sua mãe, tornou-se fã da blogueira anônima e insiste em mostrar seus novos posts, desde “furos de reportagem” sobre os bunkers da montanha até ataques contra as grandes indústrias farmacêuticas. Quando Verena não está rangendo os dentes por causa de hipóteses ridículas, ela está se lamentando por causa do design brega de um website. O comportamento de sua mãe mudou desde que Verena conseguiu seu cargo de pós-doutora na melhor universidade de Zurique. É como se Ursi estivesse tentando provar para a filha que é mais esperta.

“É apenas um vídeo”, diz finalmente Verena, lembrando-se de seu acordo de confidencialidade. “Não pode ser controle da mente”. As pessoas continuam livres para escolher. É mais como…” ela hesita, lembrando-se então do termo comumente usado. “… Um empurrãozinho”.

Ursi, que está rolando a tela no Twitter para verificar as reações ao post, parece horrorizada.

“Isso é manipulação!”

Dado o quanto os humanos são péssimos na tomada de decisões, eu digo, bem-vinda seja nossa Senhora a IA, diz o usuário “frechundfrei”, que é insultado 98 vezes em 11 segundos e elogiado 120 vezes.

“Eu pensei que outros países poderiam fazer isso, mas não a Suíça. Eles não se atreveriam. Eles nos respeitariam”, diz Ursi.

“Quem são ‘eles’?”.

“Quem quer que tenha feito isto”.

***

Verena se lembra de quando eles lançaram seu sistema de IA pela primeira vez. Ela e sua equipe construíram uma rede neural profunda e a alimentaram com conteúdo sobre a Suíça. Seu objetivo era promover a democracia.

Eles instruíram-na a encontrar aqueles que estavam inclinados ao  extremismo político ou que mostravam sinais de comportamento violento, para reconduzi-los à moderação: um terreno comum seguro.

A rede neural profunda sugeriu seu próprio nome em questão de segundos. A equipe preparou estratégias e a Kappel 3.0 apareceu com resultados potenciais para cada uma delas. Eventualmente, eles programaram a IA para operar sua magia em um conjunto de eleitores dispostos a participar de “pesquisas de ciências sociais” por uma pequena quantia. Em caso de sucesso, eles apresentariam um relatório formal ao Conselho Federal. Foi o trabalho mais empolgante que ela já havia feito.

“Acho que eles têm boas intenções”, ela acaba respondendo, perguntando-se de onde veio o vazamento.

“Como você sabe? Sua avó lutou para que pudéssemos votar. E agora? Nos fizeram uma lavagem cerebral. Até essa pequena liberdade está sendo tirada de nós”.

“Não pode fazer mal lembrar aos eleitores os fundamentos da história da Suíça. Você costumava me ler essa história quando eu era pequena”.

Normalmente, essas evocações acalmam Ursi, mas desta vez isso não funciona.

“Precisamente”, ela diz. “Você quer que os adultos sejam tratados como crianças?”

“É apenas um filminho”, conclui Verena, mas suas palavras soam oco.

No domingo seguinte, Verena vem com as flores preferidas de sua mãe.

Ursi verifica os resultados provisórios. Ao contrário das previsões anteriores, parece que o “sim” pode prevalecer. Verena não pode deixar de sorrir.

“Nós conseguimos! Viu? Não é uma manipulação, mas uma correção de rumo. E funciona”.

Ela percebe o seu deslize um segundo tarde demais.

Ursi leva um momento para entender o que ela ouviu. “Você é um deles”, ela finalmente se engasga. “Este foi seu grande e secreto projeto?”

Ela está de pé enquanto sua voz se eleva. “Você não participa da maioria das votações, mas forçar outras pessoas a fazer o que você quer é OK?!”

“Não. Deixe-me explicar…”

“Saia daqui”.

Enquanto Verena fecha a porta, Ursi escreve furiosamente no Twitter: Estou solicitando um referendo sobre o #Kappel3.0. Quem está comigo nessa?

***

Atordoada, Verena volta a pé para a estação de trem, a caminho de encontrar amigos para uns drinks tão necessários. O telefone dela toca. É seu o professor, que soa incaracteristicamente agitado.

“Nossa identidade foi divulgada. A equipe inteira”, sussurra ele. “Alguém postou nossos endereços privados em um fórum, e os comentários estão ficando intensos”.

Uma pausa.

“Talvez não devesse ir para casa hoje à noite? Encontrar um outro lugar para ficar? Nós notificamos a polícia”.

Ela murmura algumas palavras, provavelmente para assegurar-lhe que terá cuidado, mas sua mente está em branco. Chegamos mesmo a esse ponto?

***

Uma das colegas de Verena acaba deixando o grupo, mas ela encontra um novo apartamento e trabalha ainda mais duro. Seu professor defende o trabalho deles na mídia, reafirmando que os eleitores envolvidos eram uma pequena amostra de voluntários.

A equipe ajuda a redigir a contraproposta para o próximo referendo sobre AI e democracia. Enquanto o projeto Kappel 3.0 é suspendido, eles usam a rede neural para ajudar a parar o bullying nas escolas.

Após semanas de silêncio, Ursi chama sua filha para encontrar pontos em comum.

***

Um ano depois, Verena e sua mãe se reencontram. Elas se abraçam e vão para cabines de votação separadas.

“Pela implantação em todo o país do sistema Kappel 3.0”

Sim/Não

swissinfo.ch / Michele Andina & Helen James

*          *          *

Sabine Sur é uma tradutora e escritora apaixonada pela influência da tecnologia sobre a mente humana. Ela é deliberadamente otimista e eternamente curiosa por natureza. Ela vive no cantão de Zurique com sua família. Ela também escreve sob o pseudônimo de Luz Maupin.

Quão realista é a história que você acabou de ler? Uma pesquisadora da Universidade de Genebra descreve como a inteligência artificial poderia apoiar os processos democráticos e ajudar os cidadãos a tomar decisões informadas.

Adaptação: DvSperling