O que esperar da cúpula “AI for Good” da UIT

Doreen Bogdan-Martin foi eleita secretária-geral da UIT em 2022. Ela é a primeira mulher a chefiar a organização de 158 anos. Copyright 2022 The Associated Press. All Rights Reserved.

O principal evento das Nações Unidas dedicado à inteligência artificial (IA) reuniu grandes nomes da indústria, dos governos e do meio acadêmico em Genebra para discutir, entre outras coisas, questões de governança. Veja abaixo o que você deve saber.

Muita coisa mudou desde 2019, quando a União Internacional de Telecomunicações (UIT) organizou pela última vez a sua conferência “AI for Good” (IA para o bem) em Genebra. O recente avanço de sistemas de inteligência artificial generativa capazes de criar textos, imagens e até mesmo códigos de computador, como o ChatGPT, suscitou o encanto e a preocupação de governos, de empresas e do público em geral.

A cúpula ‘AI for Good’ de 2023 foi palco de discussões globais sobre a tecnologia – que pode ser usada tanto para aumentar a produtividade quanto para espalhar desinformação.

“É uma oportunidade concreta para que as principais autoridades mundiais em IA se reúnam e abordem as questões de governança decorrentes do avanço da IA generativa”, disse Doreen Bogdan-Martin, secretária-geral da UIT, antes da conferência, que ocorreu nos dias 6 e 7 de julho em Genebra.

A presença de cerca de 3.000 participantes estava prevista para o evento, desde funcionários governamentais e da ONU até executivos do setor privado e acadêmicos. A conferência contou majoritariamente com painéis de discussão sobre como a IA pode ser utilizada para promover os Objetivos de Desenvolvimento Sustentável (ODS) da ONU, um conjunto de 17 metas estabelecidas pela comunidade internacional. Elas devem ser atingidas até 2030 e incluem o fim da fome e da pobreza.

O que é a UIT e a sua conferência ‘AI for Good’?

A UIT é uma agência da ONU com sede em Genebra que reúne todos os 193 Estados membros da Nações Unidas e mais de 900 empresas, universidades e outras organizações. Essa é uma configuração incomum no sistema da ONU, onde os governos costumam ser os principais atores. A agência define padrões técnicos e regula o espectro de rádio global e as órbitas de satélite.

A cúpula global ‘AI for Good’, que a UIT organizou pela primeira vez em 2017, é a principal conferência da ONU dedicada à IA. “Não há nenhum evento no mundo sobre inteligência artificial que reúna tantos grupos de interesse diferentes”, diz Reinhard Scholl, da UIT, cofundador e diretor administrativo da ‘AI for Good’.

Desde 2020 e a pandemia de Covid-19, a ‘AI for Good’ se transformou em uma plataforma online ativa durante todo o ano. Até o momento, ela já realizou cerca de 500 webinários para debater com especialistas as oportunidades e os riscos da IA.

Por que o slogan ‘AI for Good’ em um momento em que a tecnologia é cada vez mais controversa?

A UIT afirma que deseja promover o uso da IA “para o bem da sociedade”, mas também reconhece que a tecnologia apresenta desafios.

Angela Müller, diretora da ONG AlgorithmWatch CH, diz que é “um pouco cética” em relação à “narrativa da ‘AI for Good’”, que, segundo ela, “frequentemente tem uma abordagem tecno-solucionista e retrata os sistemas de IA como a principal solução para os desafios globais”. Ainda segundo a diretora, isso não significa que os algoritmos de IA não possam contribuir para a solução. Mas a IA em si “não resolverá a mudança climática ou combaterá a desigualdade social”.

Embora ela não acredite que os organizadores da cúpula tenham más intenções, Müller diz que “a narrativa da ‘AI for Good’ muitas vezes desconsidera o fato de que o desenvolvimento e o uso de sistemas de IA podem ter um impacto enorme sobre os seres humanos e a sociedade, reforçar as desigualdades existentes e consumir enormes quantidades de recursos”.

Para a sua cúpula sobre IA de 2023 em Genebra, a UIT planejou duas mesas-redondas sobre as “grades de proteção necessárias para uma IA segura e responsável e sobre o possível desenvolvimento de estruturas globais de governança de IA”.

Por que é urgente discutir a governança de IA?

Nos últimos meses, grandes especialistas em tecnologia – incluindo o CEO da Tesla, Elon Musk, e o cofundador da Apple, Steve Wozniak – expressaram suas preocupações com os sistemas de IA e pediram uma pausa em seu desenvolvimento. A Microsoft, que financia a OpenAI, a empresa que criou o ChatGPT, quer que os governos regulamentem as utilizações “de alto risco” da IA.

O Escritório de Direitos Humanos da ONU (ACNUDH) – desde seu alto comissário até seus especialistas independentes – começou a documentar usos de IA que violam os direitos humanos.

“A IA em geral, e não apenas a IA generativa, suscita grandes preocupações quanto à discriminação, ao racismo e à misoginia embutidos, bem como às violações de privacidade e à falta de transparência”, afirma Seif Magango, porta-voz do ACNUDH. “Não há tempo a perder, pois as mídias sociais já nos forneceram um exemplo assustador de como a falta de regulamentação das tecnologias emergentes pode levar a graves consequências para nossas sociedades.”

Em junho, o Parlamento Europeu aprovou um projeto de lei conhecido como “AI Act”. Trata-se do primeiro conjunto abrangente de regulamentações para inteligência artificial no mundo. Seu objetivo é restringir alguns dos usos mais arriscados da tecnologia. Muitos outros países – entre eles, os Estados Unidos e a China, que estão competindo pela liderança em IA – estão elaborando regras para controlar esse setor em rápida evolução.

No sistema da ONU, a UNESCO elaborou o primeiro instrumento global de normas sobre ética de IA com base nos direitos humanos, que todos os Estados membros da ONU adotaram em 2021. Seu objetivo é fornecer diretrizes para os países que estão criando estruturas legais para a IA.

“No cenário internacional, necessitamos de um acordo sobre o fato de que essas tecnologias precisam ser desenvolvidas em conformidade com os direitos humanos, o que não é o caso hoje, uma vez que ainda são motivadas por propósitos comerciais, pela concorrência e por considerações geopolíticas”, disse Gabriela Ramos, vice-diretora-geral da UNESCO encarregada de supervisionar a ética da ciência e da tecnologia, a jornalistas antes da cúpula.

Acordo sobre governança?

Apesar disso, um acordo sobre governança não estava na pauta da conferência. “Não haverá nenhuma declaração formal, declaração de negociação ou decisão”, afirmou Scholl, da ITU, antes da conferência. Mas as conversas na cúpula ainda podem possibilitar uma convergência sobre como lidar com os desafios que a IA apresenta.

“A cúpula global ‘AI for Good’ tem o potencial de gerar recomendações concretas sobre os mecanismos de governança de IA. Também sabemos que vários grupos de partes interessadas estão se reunindo para desenvolver propostas de soluções para isso. Esperamos ouvir mais sobre elas na cúpula”, acrescentou.

Ao longo dos anos, as conversas na cúpula levaram à criação de grupos de foco para desenvolver novas diretrizes. Um desses grupos, organizado em parceria com a Organização Mundial da Saúde (OMS), busca avaliar os diagnósticos e as opções de tratamento apresentados por inteligências artificiais.

As vozes críticas foram ouvidas?

Analisando a lista de participantes, os executivos da Amazon, Google DeepMind e outros líderes da indústria, da diplomacia e do meio acadêmico estão no topo da lista. As ONGs, especialmente as que defendem os direitos humanos, estão sub-representadas.

No entanto, são as ONGs que geralmente trabalham diretamente com as pessoas cujos direitos estão sendo ameaçados pelos avanços da IA. Quando a UE aprovou seu projeto de regulamentação, os grupos da sociedade civil denunciaram que o texto não protegia os migrantes da vigilância.

“Até onde eu sei, não fomos convidados para a conferência ‘AI for Good’ de 2023 e certamente ninguém da nossa equipe está participando do evento este ano”, disse um porta-voz da equipe de tecnologia da Human Rights Watch.

A Anistia Internacional, que em 2017 enviou seu então secretário-geral, Salil Shetty, para o evento, recusou-se a comentar sobre sua presença na cúpula.

Outra ONG focada em direitos humanos no espaço digital disse que o evento não era uma prioridade.

No entanto, além de grandes grupos de direitos humanos, a UIT afirmou que 270 ONGs participariam do evento, ao qual qualquer pessoa podia comparecer, seja física ou remotamente. Scholl ressaltou que a “UIT trabalha em estreita colaboração com as agências irmãs da ONU, incluindo a Agência da ONU para Refugiados e os Direitos Humanos da ONU, os principais órgãos da ONU responsáveis pelas discussões com a sociedade civil sobre IA e direitos humanos”.

O Escritório de Direitos Humanos da ONU afirmou que a cúpula ‘AI for Good’ era “um local importante para discussões sobre essa questão crítica” e que iria participar de algumas de suas sessões. “Esperamos que os direitos humanos sejam um fio condutor comum em todas as sessões”, disse Seif Magango, do ACNUDH.

Edição: Virginie Mangin
(Adaptação: Clarice Dominguez)