Quando Google deixa de ser ética

Jeff Dean, co-fundador do Google Brain e chefe da unidade Google AI, apresentando a iniciativa "AI for Social Good" em um evento organizado em Sunnyvale, Califórnia, em 29 de outubro de 2018. Keystone / Elijah Nouvelage

Pesquisadores suíços consideram que gigantes da alta tecnologia como a Google não estão plenamente conscientes do poder dos sistemas de inteligência artificial (IA). A demissão de uma especialista em ética da empresa americana lança dúvidas sobre o compromisso firmado de atender princípios morais no desenvolvimento da sua tecnologia.

“Os algoritmos que desenvolvemos são uma questão de interesse público, não de afinidade pessoal”, comentou El Mahdi El Mhamdi, o único funcionário do Google Brain na Europa que trabalha com a equipe de ética na inteligência artificial (AI) na plataforma Twitter ao comentar a demissão, em dezembro de 2020, do seu chefe, Timnit Gebru. Google Brain é um projeto pesquisa na Google, cujo objetivo é replicar o funcionamento do cérebro humano utilizando sistemas aprendizado estruturado profundo.

Gebru é considerado um dos pesquisadores mais brilhantes no campo da ética no AI. Em um artigo escritoLink externo em conjunto com outros pesquisadores, ela alertou sobre os perigos do uso de modelos de linguagem excessivamente amplos, que são a base do motor de busca utilizado por Google em suas atividades comerciais.

Timnit Gebru, o “campeã” da ética na IA

Nascida em Adis Abeba (Etiópia) de pais eritreus, Timnit Gebru chegou com sua família nos Estados Unidos aos 15 anos de idade como refugiados da guerra entre a Etiópia e Eritréia. Estudou na Universidade de Stanford, onde obteve o doutorado em visão computacional no Laboratório de Inteligência Artificial. 

Sua dissertação sobre o uso de imagens públicas em larga escala para realizar análises sociológicas chegou a ser citada no jornal New York Times e na revista inglesa Economist.

Seu reconhecimento veio através da participação em pesquisas que demonstraram a inexatidão e discriminação dos sistemas de reconhecimento facial contra mulheres e pessoas de cor.

Em 2018, quando trabalhava para a gigante tecnológica americana Microsoft, foi convidada para coordenar a equipe de ética na IA na Google.

Gebru advertiu ao perigo do uso modelos de análise de gigantescas quantidades de texto na internet devido ao fato de a maioria destes ser gerada no Ocidente. Os preconceitos geográficos, dentre outros, aumentam a tendência de integrar uma linguagem racista, sexista e ofensiva no banco de dados da Google e sua reprodução nos seus sistemas. A empresa reagiu ao artigo pedindo Gebru que o retirasse de circulação. Diante da recusa da pesquisadora, despediu-a.

"Google’s short-sighted decision to fire and retaliate against a core member of the Ethical AI team makes it clear that we need swift and structural changes if this work is to continue…1\https://t.co/ojaCydyS6fLink externo

— Timnit Gebru (@timnitGebru) December 17, 2020Link externo

Como Timnit Gebru, outros pesquisadores também descobriram e destacaram os riscos da evolução descontrolada dos sistemas de IA. Alexandros Kalousis, professor de prospecção de dados (do inglês “data mining”, o processo de explorar dados à procura de padrões consistentes) e aprendizado de máquina Universidade de Ciências Aplicadas da Suíça Ocidental, compartilha dos temores. “A inteligência artificial está por todos os lados e avançando com rapidez. No entanto, muitas vezes as pessoas que desenvolvem as ferramentas e modelos de IA não estão realmente cientes do seu funcionamento quando são aplicados em contextos complexos do mundo real… Você só tem noção das consequências quando avalia em retrospectiva o que foi feito.”

Wtf @GoogleLink externo @GoogleAILink externo??

Before deploying any larger language models, are you confident that such a dangerous misinformation, probably ubiquitous in your training dataset, will not be repeated by your algorithms?

How does firing your ethics team help you make "responsible AIs"? https://t.co/9Fw8bOHonCLink externo

— Lê Nguyên Hoang (Science4All) (@le_science4all) February 28, 2021Link externo

Mas como mostra o caso de Gebru, pesquisadores que alertam para as consequências e vão ao público podem ter dificuldades nas empresas onde trabalham.

“Timnit Gebru foi contratado pela Google para pesquisa o uso de padrões de ética na inteligência artificial. Ela foi demitida por ter feito o seu trabalho. Isto mostra o peso verdadeiro que a empresa dá a essas questões”, critica Anna Jobin, pesquisadora do Instituto Humboldt da Internet e Sociedade, em Berlim, especialista em ética nas novas tecnologias. “Se o Google trata desta forma uma renomada especialista nas áreas, como a empresa pode esperar se tornar mais ética”?

If a company cannot even pretend to care about its internal "Ethical AI" co-leader, how much do you think they care about the rest of us?

In the wake of Google's outing of @timnitgebruLink externo, my two cents on #AIethicsLink externo #BigTechLink externo #IStandWithTimnitLink externo: https://t.co/xzxlaNwPvCLink externo

— Dr. Anna Jobin (@annajobin) December 9, 2020Link externo

Fachada ética

Gebru simboliza uma nova geração de feministas e “people of color” em posições de lideranças nas gigantes da tecnologia, ainda dominada por homens brancos. Ela e sua colega Margaret Mitchell, também demitida da Google em fevereiro, construíram uma equipe multicultural para promover o desenvolvimento da ética e princípios de inclusão nos sistemas de inteligência artificial da gigante tecnológica.

A relação controversa do Google com a ética

Após estabelecer seus princípios éticos de IALink externo em um guia, a Google decidiu, em 2019, completar sua estrutura de governança interna estabelecendo um grupo independente para supervisionar o desenvolvimento dos sistemas de IA da empresa intitulado Conselho Consultivo Externo de Tecnologia Avançada (ATEAC, na sigla em inglês).

“Esse grupo tratará dos desafios mais complexos enfrentados pela Google no uso de tecnologias de inteligência artificial como reconhecimento facial e a equidade no aprendizado de máquinas, fornecendo diferentes perspectivas para orientar nosso trabalho. Estamos ansiosos para discutir com os membros da ATEAC estas importantes questões”, declarou Kent Walker, vice-presidente para assuntos globais da empresa, no blog da GoogleLink externo.

Porém o grupo foi fechado menos de duas semanas após a criação devido à polêmica provocada pela nomeação controversa de dois membros da diretoria, um dos quais considerado um conservador “anti-trans, anti-LGBTQ e anti-imigrante”, e a subsequente demissão posterior de outro membro.

Mas Jobin afirma que, ao menos que o assunto seja tratado adequadamente e pesquisadores tenham o poder de tomar posição baseando-se em suas descobertas, “‘Ethical AI pode ser uma força antiética”, ou seja, um rótulo para mascarar de forma enganosa atividades comerciais que, na verdade, entram em conflito com princípios morais. Como no caso do chamado “green washing” (n.r.: apropriação de virtudes ambientalistas por parte de organizações para fins terceiros), pode-se falar de “ethics washing”. “Seria como se estivéssemos dizendo: somos éticos, então pare de nos incomodar”, explica.

Burak Emir, que trabalha como engenheiro de software na sede suíça da Google em Zurique há 13 anos, questiona os objetivos éticos de pesquisa da empresa após a demissão de Gebru.

“Por que temos um departamento de ética se você só pode escrever palavras bonitas?”, pergunta. E continua: “Se o objetivo é publicar apenas pesquisas cosméticas e bem intencionadas, então não podemos dizer que isso é feito para obtermos mais conhecimentos. O que precisamos é de mais transparência.”

It took me a while (sorry), but I read up on available info & came around to think that @timnitgebruLink externo's reaction makes sense. The demands formulated here are reasonable, and research leadership has to move to regain trust.https://t.co/2Wc3ImG0g7Link externo#ISupportTimnitLink externo #BelieveBlackWomenLink externo

— Burak Emir (@burakemir) December 6, 2020Link externo

Muitos pesquisadores e informáticos se solidarizam com Gebru, incluindo alguns na Suíça. O maior centro de pesquisa da Google fora dos Estados Unidos está localizado em Zurique. Seu forte é a pesquisa de aprendizagem de máquinas e inteligência artificial, entre outros temas. Emir é um dos mais de 2.600 funcionários da empresa que assinaram uma petição em apoio à Gebru, questionando a abordagem da empresa à ética na IA.

Hábito não faz o monge

Google respondeu à crítica afirmando não ser “censurado” Gebru. Em resposta à questão enviada por swissinfo.ch, a assessoria de imprensa da empresa em Zurique, enviou as declarações oficiais feitas anteriormente por executivos da empresa. Uma delas foi deLink externo Jeff Dean, chefe do setor Google AI. Em sua opinião, a pesquisa de Gebru e seus colegas “não atendeu aos padrões de qualidade”. Além disso, a empresa não a demitiu, mas sim aceitou sua demissão (que Gebru afirma nunca ter solicitado).

I understand the concern over Timnit’s resignation from Google. She’s done a great deal to move the field forward with her research. I wanted to share the email I sent to Google Research and some thoughts on our research process.https://t.co/djUGdYwNMbLink externo

— Jeff Dean (@JeffDean) December 4, 2020Link externo

I was fired by @JeffDeanLink externo for my email to Brain women and Allies. My corp account has been cutoff. So I've been immediately fired 🙂

— Timnit Gebru (@timnitGebru) December 3, 2020Link externo

Roberta Fischli, pesquisadora da Universidade de St. Gallen, afirma que o caso Gebru provocou um arranho na imagem da Google dentro da comunidade de pesquisadores de ética e inteligência artificial. Ela também assinou a petição em apoio à ex-funcionária da Google. Fischli acha que o conflito de interesses é inevitável quando a pesquisa desafia práticas comerciais existentes.

“Em teoria, a maioria das empresas gosta de ter pesquisadores críticos. Mas na prática isso costuma levar a um choque de interesses, especialmente se os pesquisadores começam a criticar seus empregadores”, diz. Fischli observa que especialistas na área de ética aplicada à inteligência artificial acabam indo trabalhar em empresas privadas, pois é onde estão concentrados os recursos. “Então eles tentam entender certos mecanismos e mudar coisas de dentro das empresas, o que nem sempre funciona.”

Embora os negócios da Google não tenham sido influenciados pela demissão de Gebru, mudanças começam a ocorrer. Um grupo de funcionários da empresa nos EUA criou, em janeiro de 2021, o Sindicato dos Trabalhadores da AlphabetLink externo (o nome da holding da Google), a primeira das grandes empresas tecnológicas. Posteriormente, funcionários do Google em todo o mundo se uniram para formar uma aliança sindical global em dez países, incluindo membros na Grã-Bretanha e Suíça.

Hard to understate the importance of this against the background of @timnitGebruLink externo’s forced departure from #GoogleLink externo’s AI Ethics team. Time to take ethics, diversity and labor law – and your own corporate slogan seriously, Google! #ISupportTimnitLink externo https://t.co/H0AORkHKE0Link externo

— Roberta Fischli (@leonieclaude) December 3, 2020Link externo

Forte influência

A realidade, porém, é que a influência da Google e outras da chamada GAFAs (um acrônimo para Google, Amazon, Facebook e Apple) não se limita aos seus próprios laboratórios. O que essas gigantes da tecnologia planejam e implementam também dita a agenda da pesquisa acadêmica global. “É difícil encontrar uma pesquisa na universidade que não esteja ligada – ou até mesmo financiada por elas – às estas grandes empresas”, avalia Kalousis.

Frente à essa influência, seria muito importante ter vozes independentes, não ligadas às empresas, que evidenciem os perigos da exploração descontrolada de dados por gigantes da tecnologia, argumenta o professor.

“Este é o grande problema na nossa sociedade”, adverte Kalousis. “Discussões sobre ética podem ser uma distração” ao controle invasivo das gigantes da alta tecnologia.

A independência da pesquisa pode garantir que os riscos de implantação em larga escala das tecnologias de inteligência artificial serão questionados? É relativo. O problema não se limita à Google, mas sim inclui todas as empresas do mercado que aplicam tecnologias de inteligência artificial sem regras ou limites. Para nós, isto significa que a tecnologia dita o que é eticamente aceitável ou não. Isso molda nossas vidas e a maneira como pensamos.

“Google ha licenziato la sua etica. È terrificante.” (Eng.)

Adaptação: Alexander Thoele