Davos debate regulamentação da inteligência artificial

O uso do ChatGPT e outras ferramentas de Inteligência Artificial é um desafio para as autoridades reguladoras. Copyright 2023 The Associated Press. All Rights Reserved.

Os governos requerem que a inteligência artificial (IA) seja confiável. Mas, na ausência de regras globais, isso tem se mostrado difícil. Será possível um avanço na reunião do Fórum Econômico Mundial (WEF) em Davos?

Há pouco mais de um ano, a popular ferramenta de inteligência artificial ChatGPT, da empresa OpenAI, lançou a tecnologia para o grande público. Foi também um alerta para os governos para os riscos da tecnologia, desde problemas para a democracia até ter que contar com milhões de desempregados.

A geopolítica entrou agora na equação com os países conscientes de que a IA é mais do que apenas uma tecnologia: ela é também uma arma política e econômica, com a China e os Estados Unidos liderando a corrida. Pedidos de regulamentação surgiram mais diversas direções, da indústria indo até ao secretário-geral das Nações Unidas, António Guterres.

Embora nenhuma solução internacional aplicável a todos os casos tenha surgido, os países concordaram com a necessidade de modelos de IA transparentes e confiáveis.

“Não há um consenso em todo o mundo sobre quais áreas da regulação devem ser internacionalizadas”, disse Robert Trager, diretor da Oxford Martin AI Governance Initiative da Universidade de Oxford, em uma audiência na AI Policy Summit em Zurique em novembro. “Os países têm valores sociais diferentes quando se trata de transparência e privacidade.”

Contra esse pano de fundo, o WEF disse que quer tomar as rédeas da governança global da IA. Em junho de 2023, lançou a AI Governance AllianceLink externo para “moldar o futuro da governança de IA, promover a inovação e garantir que o potencial da IA seja aproveitado para a melhoria da sociedade”, de acordo com seu site. A aliança, que reúne vários governos, acadêmicos e mais de 40 empresas, incluindo OpenAI e gigantes da tecnologia como Microsoft, Alphabet e Meta realizou sua primeira reunião em São Francisco em novembro.

Sob o tema “Rebuilding Trust” (Reconstruindo a Confiança), o encontro anual do WEFLink externo em Davos, na Suíça, que começa em 15 de janeiro, é uma oportunidade para o WEF mostrar que pode superar divisões e convencer os países a tomar ações concretas para o desenvolvimento responsável da IA. Mas o WEF tem enormes obstáculos a superar se quiser que haja um avanço durante o encontro no resort de montanha suíço.

Alinhar países 

Para avançar, o WEF terá que encontrar pontos em comum entre os países em um momento em que as iniciativas nacionais estão proliferando, dizem especialistas em IA. De acordo com o Observatório de Políticas de IA da OCDELink externo, existem atualmente mais de 700 iniciativas nacionais de políticas de IA de 60 países e territórios.

Estas iniciativas refletem as opiniões divergentes dos países sobre o papel e a finalidade da regulamentação. Em julho, os reguladores chineses introduziram regrasLink externo sobre serviços generativos de IA com o objetivo específico de impedir o desenvolvimento e o uso de IA que contraria os valores “socialistas” e minem o regime de Pequim. A tecnologia de reconhecimento facial foi implementada em todo o país.

Isto contrasta com as iniciativas na Europa que dão prioridade à proteção dos direitos fundamentais. Por exemplo, a Lei Europeia de IA acordada pelos Estados-membros da União Europeia em dezembro restringe fortemente o reconhecimento facial e o uso da IA para pontuação social com base no comportamento social ou características pessoais.

Regulamentação da AI no Brasil, mas com cuidado para não prejudicar a inovação

O debate sobre a regulamentação da Inteligência Artificial (IA) foi um dos temas mais discutidos no Fórum Econômico Mundial (WEF), encerrado em 19 de janeiro. No Brasil, há quatro projetos de lei em tramitação no Congresso Nacional que visam estabelecer regras para o desenvolvimento, implementação e uso de sistemas de IA.

O ministro Luís Roberto Barroso, presidente do Supremo Tribunal Federal (STF), destacou em Davos a necessidade de regular a IA para lidar com os riscos das novas tecnologias, como a discriminação, a manipulação e a perda de privacidade. No entanto, ele ressaltou a importância de evitar restrições que prejudiquem a inovação e criem uma reserva de mercado para empresas já estabelecidas.

O Projeto de Lei 2338/23, apresentado pelo senador Rodrigo Pacheco (PSD/MG), é o mais abrangente e propõe a criação de um marco legal para a IA no Brasil. O projeto estabelece normas gerais para o desenvolvimento e implementação da IA, visando proteger os direitos fundamentais, a privacidade e a proteção de dados pessoais, além de garantir sistemas seguros e confiáveis.

A proposta adota uma abordagem de dois níveis de risco: o excessivo, cujas aplicações serão proibidas; e o alto risco, que exigirá avaliação e monitoramento contínuos. Enquadram-se no primeiro nível os algoritmos que exploram vulnerabilidades sociais ou promovem a classificação de pessoas pelo Poder Público para acesso a bens e serviços públicos, como benefícios sociais. Já as aplicações de alto risco incluem softwares que podem tomar decisões em áreas como educação, trabalho, saúde e previdência.

O advogado Antonio Carlos Morato, da Faculdade de Direito da USP, avalia que o PL 2338/23 é o mais completo, abordando a categorização dos riscos e seguindo tendências legislativas internacionais, especialmente da União Europeia.

Fontes: Folha de São Paulo, Olhar Digital, Startupi, Nexo.

Colaboração: Alexander Thoele

“A Lei de IA da UE é a primeira lei que constrói uma ponte entre o mundo da tecnologia e a democracia”, disse Paul Nemitz, Conselheiro Principal para a Transição Digital da Comissão Europeia, na Cúpula de Políticas de IA.

Entretanto, nos EUA, há mais pressão sobre a indústria para se autorregular, face às preocupações com o impedimento da inovação. Isso pode ser visto no plano do governo dos EUA para uma declaração de direitos de IA lançada em 2022, bem como em uma recente ordem executiva presidencial sobre IA confiável, que estabelece padrões para a segurança e proteção da IA, mas não leis codificadas.

Enquanto as grandes economias regateiam sobre como aumentar a confiança na IA, outros países têm pouca voz. A Unesco apresentou uma recomendaçãoLink externo sobre ética da IA em 2021, na qual alertou que os algoritmos poderiam reproduzir e reforçar os vieses existentes e, assim, exacerbar as desigualdades entre o Norte e o Sul.

A maior parte da tecnologia e os conjuntos de dados por trás dela vêm de apenas um punhado de países ricos que estão moldando as regras. Novos e poderosos modelos de IA de base treinados com dados amplos para que possam ser aplicados a muitos setores e usos, como o ChatGPT, não estão sendo aplicados igualmente em todo o mundo, em parte porque os grandes modelos de linguagem são significativamente piores em outros idiomas do que em inglês. “Precisamos de um esforço extraordinário para garantir que todos se beneficiem da IA”, disse Gabriela Ramos, diretora-geral assistente para as Ciências Sociais e Humanas da UNESCO.

O WEF diz que trará a ONU, a indústria e os Estados individuais para o debate. O subsecretário-geral da ONU para tecnologia, Amandeep Gill, e vários líderes de grandes firmas de tecnologia, como o vice-presidente e presidente da Microsoft, Brad Smith, e o presidente de assuntos globais do Google e da Alphabet, Ken Walker, estarão presentes. Aproximadamente 60 chefes de Estado e governo de países como Suíça, França e Coreia do Sul também participarão.

Mas uma grande questão é saber até que ponto os representantes dos governos dos EUA e da China, que lideram o desenvolvimento da IA, participarão nos debates. Ainda não se sabe se muitos países em desenvolvimento e a sociedade civil serão convidados para a mesa de discussão. “Precisamos de discussões multilaterais para fazer com que essas regras globais funcionem para uma tecnologia que não conhece fronteiras”, enfatizou Ramos.

Transparência 

O WEF não precisa apenas alinhar governos, mas também convencer desenvolvedores e usuários de IA, a maioria dos quais são empresas privadas, de que a governança global é de seu interesse.

O maior obstáculo é a transparência, especificamente o quanto as empresas devem revelar sobre suas fontes de dados e como desenvolvem seus modelos de IA. “A transparência deve ser uma força orientadora para a governança da IA”, disse Antoine Bosselut, que lidera sistemas de processamento de linguagem natural no Instituto Federal de Lausanne (EPFL). “Não ganhamos muito mantendo essas coisas no escuro. Em última análise, quanto mais soubermos sobre esses sistemas e a maneira como eles são treinados, melhor eles serão capazes de tomar decisões que beneficiem a sociedade.”

Bosselut é um dos 75 acadêmicos que se juntaram à iniciativa suíça de IA, lançada em novembro passado, que colocou a transparência na vanguarda dos futuros desenvolvimentos de IA. Essa abertura é fundamental para garantir que “a tecnologia atenda a todas as pessoas e não a um pequeno segmento”, disse Hanna Brahme, curadora da AI House DavosLink externo, organizada pelo instituto federal de tecnologia Escola Politécnica Federal de Zurique (ETH) e pela Escola Politécnica Federal de Lausanne (EPFL) junto com outros parceiros.

O fato de o encontro ocorrer na Suíça, com sua reputação de neutralidade, muitas empresas multinacionais, forte know-how técnico e valores humanitários, pode ser favorável ao WEF, disse Brahme.

O WEF não disse, no entanto, como planeja pressionar por mais transparência, que diminuiu nos últimos três anos, de acordo com um estudoLink externo da Universidade de Stanford. Os pesquisadores classificaram 10 modelos populares de IA com base em 100 indicadores de transparência diferentes, tais como dados de treinamento e o total de computação usada. Mesmo o modelo mais transparente, o Llama 2 da Meta, recebeu uma pontuação de 53 em 100.

Alguns desenvolvedores argumentam que manter sigilo nos modelos é uma medida de segurança necessária para evitar hackers. Mas também há um claro interesse comercial. Em 2023, os investidores aplicaram quase 10 bilhões de dólares em startups de IA generativa como a OpenAI, mais do que o dobro dos 4,4 bilhões investidos no ano anterior. As ações da fabricante americana de chips Nvidia dispararam 240% em 2023.

Os usuários de IA, incluindo empresas multinacionais, também têm muito a ganhar. Um porta-voz da gigante farmacêutica suíça Roche disse que “os avanços recentes em IA são semelhantes às grandes revoluções, como eletricidade e internet, que desencadearam novas ondas de inovações”. O banco de investimentos Morgan Stanley estima que, na próxima década, o uso de IA no desenvolvimento de medicamentos em estágio inicial pode se traduzir em mais 50 novas terapias avaliadas em mais de 50 bilhões em vendas. “O foco não deve ser inventar uma tecnologia para que uma empresa específica possa se tornar muito famosa. Ele deveria ser a resolução de um problema como a saúde humana. Se fizermos isso, estamos no caminho certo”, disse Dorina Thanou, pesquisadora graduada de IA para saúde da EPFL.

Credibilidade do WEF

Superar essas divisões não será fácil para o WEF, de acordo com especialistas, mas há motivos para otimismo. O WEF tem um histórico de dar o pontapé inicial em iniciativas público-privadas; algumas das quais tiveram impacto real. A Aliança Global para Vacinas e Imunização (GAVI) foi lançada na reunião anual do WEF em 2000 e  ajudou a vacinar 981 milhões de crianças nos países mais pobres do mundo, evitando mais de 16,2 milhões de mortes futuras.

Mas os críticos do WEFLink externo argumentam que muitas iniciativas ficaram dentro dos muros do Centro de Congressos de Davos e visaram mais ganhar elogios da mídia e trocar tapinhas nas costas uns dos outros do que ter um impacto real. Há o risco de que surja uma espécie de “lavagem de IA”, em que os participantes prometem IA e assinam promessas de mostrar progresso, evitando as questões difíceis e a responsabilidade real.

O WEF também tem sua própria lacuna de credibilidade a ser superada quando se trata de ser inclusivo e transparente. O fórum é visto por muitas pessoas como secreto, e anfitrião de uma reunião exclusiva de elites voltadas para a indústria. Quando as empresas pagam 120 mil dólares para serem membros do WEF, pode-se realmente confiar que têm o bem global em mente? Isso é algo que os críticos do WEF questionam há anos.

Mas o fato de o WEF poder atrair tantos atores da indústria também é o que o torna atraente. “Essas partes interessadas ao se juntarem podem ser muito poderosas”, disse a especialista em ética digital Niniane Paeffgen em Genebra. A IA é desenvolvida principalmente por grandes empresas de tecnologia longe dos centros governamentais, então tê-las todas juntas é crucial para avançar no debate sobre a governança global da IA e garantir que as empresas façam sua parte para o desenvolvimento responsável da IA. “Mas, para que isso funcione, a forma como as coisas são discutidas precisa mudar.” Especificamente, disse ela, a sociedade civil precisa ter um papel.

Apesar dessas preocupações, especialistas acreditam que um avanço na reunião anual do WEF deste ano é possível, principalmente por causa de seu timing. Há um senso de urgência para construir algum consenso apenas algumas semanas depois que a UE deu o passo histórico de concordar com a primeira lei sobre IA, que alguns argumentamLink externo que pode rapidamente se tornar o padrão global.

Edição: Virginie Mangin

Adaptação: DvSperling