IA sem fronteiras: os riscos da falta de regulamentação na Suíça

Os hospitais suíços frequentemente usam dispositivos de IA, por exemplo, para raios X, de países com padrões médicos diferentes, como a China. Keystone / Christian Beutler

Em países como a Suíça, onde a inteligência artificial (IA) não é regulamentada, quais riscos correm os cidadãos? Seriam mais regulamentações um benefício ou uma desvantagem para a economia e a população de um país? A especialista jurídica e médica Kerstin Noëlle Vokinger comenta.

Assine AQUI a nossa newsletter sobre o que a imprensa suíça escreve sobre o Brasil, Portugal e a África lusófona.

A inteligência artificial (IA) está transformando setores-chave, da medicina ao trabalho, mas também levanta riscos e desafios regulatórios. Quando as máquinas poderão realizar cirurgias em vez de seres humanos?

Ou ainda, como os hospitais podem usar dispositivos médicos de IA testados em países com padrões de qualidade diferentes? Enquanto a União Europeia (UE) e os Estados Unidos adotaram estratégias distintas para lidar com essas questões, a Suíça está precisando de mais tempo. Uma proposta do governo para regulamentação da IA, inicialmente prevista para este ano, foi adiada para 2025Link externo.

A especialista jurídica e médica Kerstin Noëlle Vokinger explica por que regulamentações específicas são necessárias para equilibrar a inovação com a proteção dos direitos.

Biografia

Kerstin Noëlle Vokinger tem formação em direito e medicina e é professora na Universidade de Zurique e na Escola Politécnica Federal de Zurique (ETH). Seu principal foco são pesquisas interdisciplinares com o objetivo de melhorar o acesso à medicina e à tecnologia.

swissinfo.ch: Você acha que a Suíça precisa de regulamentações de IA? Se sim, por quê?

Kerstin Noëlle Vokinger é professora de Direito e Medicina na Universidade de Zurique e no Instituto Federal Suíço de Tecnologia de Zurique . foto privada

Kerstin Noëlle Vokinger: Eu não acho que a Suíça precise de regulamentações como as da UE, que são muito abrangentes e regulam horizontalmente todas as tecnologias de IA. Seria mais sensato adotar uma abordagem setorial, avaliando os riscos e as oportunidades específicos de cada área. Isso evitaria a regulamentação excessiva.

swissinfo.ch: Por muito tempo, a Suíça afirmou que não precisava de regulamentações específicas para IA porque as leis existentes eram suficientes. Então, a regulamentação de IA da UE foi proposta, e o governo suíço mudou de opinião. As regulamentações atuais da Suíça não são suficientes?

K.V.: É verdade que existem leis gerais aplicáveis não específicas para IA. Alguns exemplos são o direito à privacidade, o princípio da não discriminação e muitos outros. No entanto, podem haver lacunas específicas para os sistemas de IA que precisamos abordar, porque a complexidade dessa tecnologia pode trazer desafios adicionais ou mais específicos e extremos. Por exemplo, na medicina, precisamos definir quais tarefas podem ser delegadas às máquinas e ajustar nossas leis de acordo.

swissinfo.ch: Na área da saúde, os hospitais suíços frequentemente utilizam dispositivos integrados com IA de países com padrões médicos diferentes, como a China. Este é o caso, por exemplo, de máquinas usadas para radiologia avançada. Quais riscos isso representa para os indivíduos e como isso deve ser regulamentado?

K.V.: Isso certamente é um desafio. Deixe-me dar um exemplo mais geral sobre ensaios clínicos. Ao desenvolver medicamentos para tratamento, sabemos que diferenças de gênero e étnicas podem afetar os resultados. O mesmo pode ser verdade para dispositivos médicos baseados em IA.

Até hoje, muitos dispositivos de IA foram testados apenas em um país, muitas vezes em grandes nações como a China ou os EUA. Infelizmente, os estudos internacionais para dispositivos médicos habilitados para IA ainda são raros. Os resultados obtidos nesses países podem não ser igualmente válidos e seguros para os pacientes suíços. Assim, pode ser necessário que tais dispositivos atendam a certos requisitos antes de serem autorizados na Suíça.

swissinfo.ch: Isso significa que também precisamos de regras mais rigorosas para o processo de aprovação de dispositivos médicos de IA agora que eles estão se tornando mais comuns nos hospitais?

K.V.: Primeiro, devemos identificar as lacunas regulatórias e entender quais riscos adicionais ou novos essas tecnologias trazem. Uma vez identificadas essas lacunas, precisamos decidir a que nível elas devem ser regulamentadas, por exemplo, por meio de autorregulamentação ou regulamentações governamentais. Existem várias opções nesse sentido. Nos Estados Unidos, a agência reguladora de alimentos e medicamentos (FDA) está ativa no desenvolvimento de regulamentações que são válidas durante todo o ciclo de vida de um dispositivo e capazes de se adaptar ao desenvolvimento de software.

A FDA é transparente nesse aspecto e envolve cientistas e outras partes interessadas para definir colaborativamente as melhores políticas e recomendações para os pacientes. Nos EUA, há muito ímpeto nessa área, enquanto na Europa as coisas são menos claras e transparentes. O quadro legal de IA da UE é um conjunto rigoroso de regulamentações gerais, em vez de regras específicas para dispositivos médicos. As abordagens nas duas jurisdições são muito diferentes.

swissinfo.ch: A Suíça pode fazer algo melhor do que a UE, ou ela tentará replicar a abordagem da UE de uma maneira suíça, reconhecendo sua posição como um pequeno país cercado por nações da UE?

K.V.: Estando cercada por estados membros da UE, a Suíça certamente não pode ignorar a regulamentação europeia de IA. Pode haver conflitos com outras regulamentações, como as da UE e dos EUA, dependendo do que a Suíça decida regular. A medicina, por exemplo, é um campo internacional onde não podemos nos isolar. Esse é outro desafio regulatório que a Suíça deve enfrentar.

swissinfo.ch: Os opositores da regulamentação argumentam que ela pode sufocar a inovação. Como podemos encontrar um equilíbrio entre proteger os direitos humanos e do consumidor, e promover o desenvolvimento tecnológico?

K.V.: Encontrar um equilíbrio entre inovação e segurança, incluindo os direitos individuais, é crucial. Cada país deve decidir quais riscos está disposto a correr. A Suíça deve fazer o mesmo, pois essas tecnologias trazem riscos e seus resultados podem variar em termos de precisão.

A regulamentação da UE, por exemplo, não permite muitos riscos, e alguns estudiosos do direito temem que isso possa prejudicar a inovação. Os EUA, por outro lado, são conhecidos por ser mais flexíveis, inclusive em áreas como a proteção de dados.

swissinfo.ch: Como diferentes abordagens regulatórias podem ser reconciliadas para garantir o respeito aos direitos humanos, dado que a IA transcende fronteiras?

K.V.: É importante ser ativo tanto nacional quanto internacionalmente e colaborar com outros países para desenvolver princípios fundamentais alinhados. Claro, sabemos que quanto mais países estão envolvidos, mais difícil é encontrar uma solução. Assim, não é possível encontrar um consenso em todos os aspectos.

swissinfo.ch: A IA, no entanto, não apresenta apenas riscos, mas também oferece oportunidades. Na sua opinião, a regulamentação poderia ajudar a aproveitar melhor essas oportunidades?

K.V.: Sim, estou convencida de que boas regulamentações não apenas limitam, mas também possibilitam oportunidades benéficas. Isso pode ser alcançado de várias maneiras, como investindo em novos softwares e aplicativos ou melhor integrando as tecnologias ao sistema educacional ou à sociedade. As regulamentações têm diferentes funções: elas não apenas previnem, mas também possibilitam.

Na medicina, por exemplo, é possível que as ferramentas de IA se tornem cada vez mais precisas e tenham o potencial de apoiar ou até substituir certas tarefas. Isso poderia ajudar médicos e outros profissionais de saúde a se concentrar, por exemplo, em casos mais complexos. Dependendo das tarefas que a IA substituiria, certas (auto)regulamentações precisariam ser adaptadas para permitir tais avanços.

Como a IA está evoluindo rapidamente e, em certa medida, de forma imprevisível, é importante estar atento para identificar lacunas regulatórias e desenvolver regulamentações que ajudem a mitigar riscos e possibilitar oportunidades.

Edição: Veronica De Vore

Adaptação: DvSperling