Neurotecnologias e implantes cerebrais que utilizam IA sem regulamentação preocupam estudiosos em Genebra

Os implantes cerebrais que integram a IA permitirão o tratamento de milhões de pessoas com Parkinson, Alzheimer, epilepsia, depressão e outras doenças neurológicas e mentais. Freepik.com / AI generated

Neurotecnologias alimentadas por inteligência artificial (IA) podem tratar doenças como Parkinson e depressão, mas também podem influenciar o cérebro e invadir a privacidade da mente. Em Genebra, o Conselho de Direitos Humanos da ONU está produzindo um relatório sobre o impacto dessas tecnologias, enquanto a comunidade internacional pressiona pela regulamentação de seu uso – considerando especialmente o poder de empresas privadas do setor, como a Neuralink de Elon Musk. 

O primeiro eletrodo capaz de registrar a atividade cerebral foi implantado em um crânio humano em 1924. Um século depois, neurotecnologias alimentadas por inteligência artificial (IA) são capazes de restaurar a fala e a mobilidade de pessoas que perderam o domínio da fala ou sofrem de deficiências motoras. A integração da IA em dispositivos de interface cerebral permite a interpretação de dados neurais complexos em tempo real e adapta as respostas às necessidades individuais do paciente. A inovação promete ampliar as opções de tratamento para doenças neurodegenerativas, como Parkinson e Alzheimer.

Embora os avanços tecnológicos tragam esperança, eles também levantam questões profundas sobre o potencial das máquinas de remodelar a personalidade e infringir a liberdade de pensamento.

“As neurotecnologias podem minar a privacidade, a autonomia e a integridade mental como nunca antes”, afirma Milena Costas Trascasas, especialista independente em direitos humanos da Organização das Nações Unidas (ONU) e que integra o comitê consultivo do órgão.

O boom das neurotecnologias de consumo para bem-estar mental, como faixas de cabeça que monitoram a atividade cerebral para reduzir o estresse ou melhorar o sono, está entrando em uma perigosa área cinzenta, diz Costas Trascasas. Empresas privadas controlam o desenvolvimento dessas tecnologias e podem acessar, analisar e usar dados neurais para fins comerciais.

“Estamos falando de uma exploração sobre o último recurso de privacidade, que é a mente”, diz.

É por isso que o Conselho de Direitos Humanos das Nações Unidas, sediado em Genebra, encarregou seu comitê consultivo, de preparar um relatório sobre o impacto e os desafios das neurotecnologias. A UNESCO também alertou sobre as ameaças à privacidade mental e está trabalhando em recomendações globais.

Além de mencionar o “neuromarketing”, o relatório da ONU destaca dispositivos de computação imersiva, como “neurogaming”, como aplicações comerciais particularmente preocupantes, especialmente para jovens, que correm o risco de serem atraídos para o uso compulsivo e o vício. Tecnologias que visam melhorar o desempenho no trabalho e a concentração levantam inúmeras questões éticas e legais, assim como aquelas que prometem aumentar as capacidades humanas e a resiliência ao estresse e às emoções, particularmente em contextos militares.

“Muitos desses usos são preocupantes porque não sabemos os efeitos que eles podem ter na saúde mental e na integridade pessoal”, explica Costas Trascasas .
 

Andre Stringari

Tratamentos inovadores com IA, mas a que custo?

Na Suíça, a comunidade científica também está ocupada investigando os efeitos negativos das neurotecnologias. O projeto internacional Hybrid Minds, que inclui várias universidades suíças, acompanhou mais de 80 pacientes com condições neurológicas ou psiquiátricas, como Parkinson ou transtorno obsessivo-compulsivo. Muitos pacientes acharam as próteses neurológicas benéficas, mas alguns sentiram uma espécie de distanciamento de si mesmos, “como se os componentes artificiais assumissem as intenções originais da pessoa”, explica Marcello Ienca, professor de ética da IA na Universidade Técnica de Munique e pesquisador da Faculdade de Humanidades da EPFL em Lausanne. Outros pacientes desenvolveram tal integração com a tecnologia que se sentiram “desligados” quando o dispositivo foi desativado, conta Ienca.

O fracasso do tratamento neurológico também pode ter consequências dramáticas. Ienca e a psiquiatra Ambra D’Imperio relataram o caso de uma mulher suíça – afetada por uma doença genética rara semelhante ao Parkinson – que tentou suicídio após passar por um tratamento ineficaz de estimulação cerebral profunda.

“A paciente estava em uma condição tão grave que ela se agarrou à esperança desse tratamento. O fracasso foi tão desestabilizador que a levou a tentar suicídio”, diz D’Imperio, que trabalha no Bern University Psychiatric Services e cuidou do caso.

Para D’Imperio é crucial informar os pacientes sobre os riscos e não substituir um psiquiatra por um algoritmo ou máquina. Segundo ela, a ajuda profissional humana não pode ser desconsiderada porque os pacientes crônicos geralmente estão dispostos a fazer qualquer coisa por uma possível cura, até mesmo abrir mão de parte de sua privacidade e liberdade mental.

Aumento de investimentos para tratar Parkinson, Alzheimer e depressão

Apesar desses riscos, as neurotecnologias estão mostrando resultados promissores no tratamento de certas doenças neurológicas e mentais. Implantes cerebrais de alta frequência que estimulam certas áreas cerebrais podem tratar o Parkinson em estágio inicial, restaurando a mobilidade quase normal dos pacientes. Desde o final da década de 1980, cerca de um milhão de pessoas em todo o mundo se beneficiaram desses tratamentos.

Graças à IA, em breve será possível estimular muito mais regiões cerebrais por meio do uso simultâneo de milhares de eletrodos. Isso ajudará a desenvolver tratamentos não apenas para Parkinson, mas também para outras doenças como Alzheimer, epilepsia, depressão e esquizofrenia – condições que atualmente respondem por um terço dos custos de saúde da Europa.

Um paciente recebe um tratamento de estimulação magnética transcraniana no VA Palo Alto Health Care System. Copyright 2018 The Associated Press. All Rights Reserved

“Mesmo condições menores, como enxaquecas, são um grande problema para a nossa sociedade, tanto em termos de custos quanto de sofrimento pessoal e familiar”, diz o neurologista e neurocientista francês Hervé Chneiweiss .

As neurotecnologias estão avançando rapidamente graças a um financiamento substancial. Entre 2014 e 2021, os investimentos globais juntando empresas, governos e fundos cresceram de US$ 1,1 bilhão para US$ 7,1 bilhões (CHF6,8 bilhões) e devem atingir US$ 38 bilhões até 2032. Entre as startups de neurotecnologia mais bem avaliadas está o unicórnio suíço MindMaze, especializado em neurorreabilitação. A startup ultrapassou US$ 1 bilhão em avaliação em 2016 e continua a atrair milhões de dólares em capital.

Desenvolvimento e dados nas mãos de empresas privadas – e Elon Musk

No entanto, a velocidade do desenvolvimento tecnológico e o poder de empresas privadas lideradas por figuras controversas soam alarmes sobre riscos aos direitos humanos. Aqueles que destacam a necessidade urgente de mais regulamentação frequentemente apontam para o exemplo da Neuralink, que está nas mãos do magnata da tecnologia Elon Musk. A empresa se concentra no tratamento de lesões na coluna e no cérebro.

“Muitos avanços vêm do uso da IA em conjunto com tecnologias que atuam no cérebro, e isso merece maior atenção”, afirma o professor Marcello Ienca.

Em 2017, Ienca e um colega levantaram preocupações sobre direitos como liberdade cognitiva e privacidade mental relacionados a neurotecnologias. Em 2022, o pesquisador descreveu Musk como “moralmente inapto” para desenvolver tecnologias de interface cerebral.

A atenção da mídia em torno de Musk, no entanto, teve o “mérito” de chamar a atenção para os perigos das neurotecnologias, de acordo com Ienca. Toda a comunidade global se mobilizou para desenvolver regulamentações desde o ano passado, quando a Neuralink recebeu a aprovação do FDA para conduzir testes clínicos em humanos. Foi um passo preocupante para cientistas preocupados com a falta de transparência em torno do implante da Neuralink, que visa permitir que pessoas com paralisia controlem dispositivos externos apenas por meio de pensamentos.

Tais avanços ressaltam a urgência de proteger as pessoas de violações de direitos humanos, como o direito à privacidade, de acordo com Costas Trascasas. “Os dados mentais das pessoas estão se tornando uma mercadoria nas mãos de empresas privadas”, alerta o especialista da ONU.

Embora o Conselho de Direitos Humanos da ONU deva considerar uma resolução de acompanhamento sobre a regulamentação da neurotecnologia em março de 2025, sua adoção permanece incerta. Enquanto isso, Costas Trascasas espera que mais países defendam o desenvolvimento de princípios orientadores para abordar as preocupações com os direitos humanos em torno da neurotecnologia. “As nações devem antecipar e definir regulamentações antes que essas tecnologias sejam disseminadas no mercado”, diz ela.

Edição: Veronica De Vore/fh
(Adaptação: Clarissa Levy)