Conferência em Genebra não irá resolver problema dos robôs “assassinos”

stm.com.tr

A Suíça está entre os líderes mundiais em robótica e inteligência artificial, ambos campos de pesquisa cujo conhecimento pode ser utilizado tanto para fins civis como militares. Também em pesquisa de campo, na qual há uma ausência de controle internacional.

Em março de 2020, o governo líbio empregou na guerra civil um quadricóptero Kargu-2, de acordo com um relatório da ONULink externo. Este drone “caçou” um alvo humano sem ser instruído a fazê-lo. Foi a primeira vez na história que uma arma letal autônoma – também chamada de robô “assassino” – foi usada.

Esses sistemas de armas, desenvolvidos com a ajuda da robótica e de inteligência artificial, não requerem manejo humano. Drones autônomos, por exemplo, são programados de modo a voar para uma posição específica, selecionar um objeto e matar o alvo sem qualquer conexão a um controlador humano.

Como mostra o incidente na Líbia, os robôs assassinos também podem assumir vida própriaLink externo. Ao contrário das armas de destruição em massa, não existem tratados ou regimes específicos que proíbam ou proscrevam essas armas e tecnologias internacionalmente.

Como as armas de destruição em massa são mantidas sob controle

Armas de destruição em massa são armas com maior poder destrutivo do que as armas convencionais, tais como as armas nucleares, biológicas e químicas (armas NBQ). Elas podem matar um elevado número de pessoas e destruir o meio ambiente em um espaço de tempo muito curto.

No âmbito das armas de destruição em massa, existem tratados de desarmamento e não-proliferação que são vinculantes ao abrigo do direito internacional, como o Tratado de Não-Proliferação de Armas Nucleares, a Convenção sobre Armas Biológicas ou a Convenção sobre Armas Químicas. Destinam-se a impedir a proliferação de armas nucleares e a proscrever as armas biológicas e químicas em todo o mundo.

Ademais, existem quatro regimes politicamente obrigatórios nos quais os respectivos estados participantes expandem e harmonizam seus controles de exportação: O Grupo de Fornecedores Nucleares, o Grupo da Austrália, o Regime de Controle de Tecnologia de Mísseis e o Acordo de Wassenaar. A Suíça participa em todos os quatro.

Fonte: SecoLink externo

As opiniões divergem sobre se isso deve ser avaliado como uma lacuna. Em resposta a uma pergunta da swissinfo.ch, o ministério suíço das Relações Exteriores (EDA) escreveu que o direito humanitário internacional se aplica a todas as armas e tecnologias, incluindo as novas, tais como os sistemas de armas autônomos. “Portanto, não há vácuo para o uso de robótica, inteligência artificial e outras tecnologias digitais em conflitos armados”.

Todavia, nem todos na comunidade internacional pensam assim. “Alguns estados acham que a legislação existente não é suficiente”, diz Laura Bruun, especialista em novas tecnologias militares e de segurança do Instituto Internacional de Pesquisa para a Paz, em Estocolmo.

Embora o direito humanitário internacional se estenda a todos os tipos de armas, a utilização de tecnologias militares controladas por IA não está explicitamente regulamentada. Segundo Bruun, isso cria um vácuo normativo, dependendo de como a lei é interpretada.

As regras da União Europeia ou da UNESCO sobre a utilização ética de IA referem-se a casos de uso civil, e não militar. Com o progresso das novas tecnologias como a inteligência artificial, torna-se cada vez mais difícil demarcar o potencial civil e militar de um desenvolvimento. E o que agrava ainda mais o processo de regulamentação e controle é o fato de que essas tecnologias são muito fáceis de disseminar, no caso de software de inteligência artificial (IA) até mesmo por e-mail ou código aberto.

“É óbvio que o direito humanitário internacional se aplica à utilização de tais armas, mas são necessárias novas regras de direito internacional que tenham em conta os novos tipos de tecnologias”, diz a pesquisadora de segurança e especialista em direito internacional Elisabeth Hoffberger-Pippan, do Instituto Alemão de Política Internacional e Segurança, sediado em Berlim.

Encontro em Genebra

É por isso que desde 2017 vem a ONU, em Genebra, tratando de negociar uma proibição aos sistemas de armas autônomos. Em princípio, a Suíça apoia essas negociações porque, embora rejeite uma proibição total, é a favor da regulamentação, controle e restrição.

No ano passado, a missão suíça junto a ONU formulou uma proposta para regulamentar armas autônomas letais, associando-se ao grupo de países que pressiona por medidas juridicamente vinculativas. Mas não houve avanço: a Rússia rejeita quase todas as propostas de regulamentação.

Em março, devido à guerra em curso na Ucrânia, Moscou boicotou inclusive a mais recente rodada de negociações. Mas Israel, os EUA, a Turquia, o Reino Unido e a Coreia do SulLink externo também não querem qualquer regulamentação obrigatória dos sistemas de armas autônomos, pois entendem que o direito humanitário internacional é suficiente para o manuseio responsável dessas armas.

A última reunião do grêmio terá lugar em julho. Os especialistas não esperam grandes progressos. À surdina, os países já falam de um fracasso das negociações de Genebra. Quando questionado pela swissinfo.ch, o porta-voz do EDA respondeu que, por enquanto, não havia acordo entre os estados sobre um instrumento internacional.

“É provável que nem todas as nações vão querer continuar apoiando o processo de Genebra porque simplesmente não vale a pena’’, diz Hoffberger-Pippan. Ela espera, portanto, que sejam procurados órgãos alternativos a fim de negociar regras sobre sistemas de armas autônomos.

Segundo Stephen Herzog, do Centro de Pesquisa da Segurança, o fato de a Suíça, como a maioria dos países, não almejar a proibição completa de armas autônomas tem razões econômicas e diplomáticas. A Suíça teme o impacto disso em suas exportações. Especialmente nos campos da robótica e da inteligência artificial, a Suíça se destaca como um dos países líderes no mundo.

Para Hoffberger-Pippan, semelhante medo só pode ser compreendido em parte. No momento, trata-se principalmente de regulamentar a utilização de sistemas de armas autônomos conforme o direito internacional, e não ainda de controles de exportação propriamente ditos.

Por outro lado, muitos países receiam que uma proibição integral possa dificultar a pesquisa nessa área. “Os investidores diriam: por que dar dinheiro se as invenções não podem de modo algum ser usadas”, salienta Hoffberger-Pippan. Em particular para os Estados Unidos este é definitivamente um desafio, mas também para muitas outras grandes potências militares.

Os EUA defendem o princípio de que as armas autônomas devem ser testadas antes de proibi-las. Isso tornaria possível descobrir se essas armas podem não ser de todo úteis. Algumas nações são de opinião que as armas autônomas trazem até vantagens: pelo menos do lado de quem recorrer a essas armas, pode evitar mortes e reduzir os custos de pessoal.

Em 2017, o governo suíço também se opôs a uma inteira proibição por razões semelhantes, declarando que isso poderia levar a uma proibição de sistemas potencialmente úteis, por exemplo, para evitar danos colaterais à população. Por tal motivo, diz Bruun, a discussão sobre a regulamentação das aplicações civis e militares deve andar de mãos dadas. “Reconhecer que a distinção entre os dois usos está tornando-se cada vez mais difusa seria um primeiro passo para controlar a tecnologia”.

Hoffberger-Pippan observa uma mudança de paradigma em relação aos drones: enquanto costumavam ser vistos de maneira muito crítica, estão cada vez mais encontrando aceitação internacional, mesmo entre a população.

Na guerra atual, por exemplo, as tropas ucranianas vêm empregando em grande escala tanto drones civis quanto militares, conseguindo assim uma vantagem inesperada sobre a Rússia.

Embora a utilização de drones na luta contra terroristas continue a ser uma questão legal e ética extremamente problemática, e a guerra de agressão russa na Ucrânia seja comparável apenas até certo ponto, este exemplo mostra que os drones não são exclusivamente passíveis de proscrição. Talvez haja também usos razoáveis para sistemas de armas que atuam de forma autônoma.

Exemplo de uso para salvar vidas: um robô retira explosivos do corpo de um manequim durante um exercício da Polícia Criminal na Alemanha. Keystone / Marijan Murat

“A mudança dos tempos traz uma modernização das forças armadas e, portanto, mais compreensão para com a mecanização”, afirma Hoffberger-Pippan. Portanto, é bem possível que a opinião pública em relação às armas autônomas também mude.

O que são bens de uso duplo?

Quando produtos ou tecnologias podem ser empregados tanto para fins civis quanto militares, falamos de uso duplo. O problema: uma invenção como a tecnologia nuclear pode trazer benefícios civis à humanidade sob a forma de usinas nucleares (embora estas também sejam controversas) ou tratamentos médicos, mas também pode destruir vidas sob a forma de bombas. Proibir completamente a tecnologia e a pesquisa correspondentes faz, portanto, pouco sentido, mas é preciso lidar com elas de forma responsável.

O Acordo de Wassenaar é uma aliança de estados com o objetivo de evitar o acúmulo desestabilizador de armas convencionais, bem como de bens de uso duplo relacionados.

Fonte: SecoLink externo

Adaptação: Karleno Bocarro