13 de ago de 2018

Entenda por que a Google deixou o Projeto Maven, do governo americano

Udacity Brasil

Inteligência artificial é uma das tecnologias centrais do início do século 21. Ela é usada em uma infinidade de funções, desde auxiliar a Amazon a recomendar novos produtos para seus clientes até permitir que computadores gerem imagens totalmente novas.

Empregando recursos como machine learning, é possível criar sistemas que capacitam computadores para uma enorme variedade de tarefas. Mas e se essas tecnologias fossem exploradas pelo exército e aplicadas com fins militares? Quais (e de quem) são as responsabilidades? E as consequências, especialmente se for uma parceria ou prestação de serviços?

Este era o cerne da questão do Projeto Maven, um dos muitos projetos de tecnologia do Departamento de Defesa dos Estados Unidos. E, em março deste ano, o Gizmodo revelou que a Google estava ajudando o governo dos EUA a desenvolver um algoritmo para drones.

Segundo o portal The Verge, um acordo de confidencialidade impedia que a empresa dissesse com clareza qual era o seu nível de envolvimento com o projeto. No entanto, o repórter Greg Allen do The Bulletin conseguiu se aprofundar e afirmou que o objetivo do projeto era utilizar a tecnologia para analisar imagens capturadas por drones do exército.

De acordo com Allen, um único drone do exército estadunidense produz, por dia, muitos terabytes de imagens. E simplesmente não é possível que humanos analisem todo o material capturado.

Por isso, o governo pretendia usar técnicas de inteligência artificial para identificar automaticamente objetos e veículos registrados pelos drones – e precisava de um sofisticado know-how de tecnologia para isso.

É aí que entra a Google, que aceitou desenvolver o algoritmo em questão. Supostamente, embora a tecnologia resultante seja capaz disso, o sistema não seria utilizado para identificar pessoas mostradas nas imagens, apenas identificar o que é o que e facilitar a análise.

Jornalistas da PBS analisam o caso do Projeto Maven e a resposta da Google aos protestos de seus funcionários

Ou seja, na prática, os resultados seriam utilizados para processar imagens – apontar o que era uma casa, um carro ou uma pessoa, por exemplo.

Mesmo com essa explicação, o vínculo da Google com o algoritmos para drones militares causou preocupação e revolta entre funcionários da empresa. Muitos deles expressaram seu descontentamento de saber que o trabalho que estavam realizando poderia estar sendo usado para fins bélicos, e houve quem chegou a se demitir por conta do envolvimento.

A empresa parece ter ouvido. No início de junho, o jornal The New York Times reportou que a Google não renovaria seu contrato com o Pentágono. Menos de uma semana depois, o CEO da empresa, Sundar Pichai, fez um post no blog oficial da Google listando um novo conjunto de princípios da empresa para o desenvolvimento de inteligência artificial.

O post basicamente reforça o compromisso da empresa com alguns pontos, como:

  • Garantir que sua inteligência artificial seja benéfica para a sociedade
  • Estar aberto a questionamentos de fora da empresa
  • Resguardar a privacidade dos usuários

E também lista uma série de aplicações que a empresa se compromete a não desenvolver, que inclui “armas ou tecnologias cujo principal propósito ou implementação seja causar ou facilitar danos a pessoas”.

Segundo uma avaliação crítica da Bloomberg, o documento tem suas lacunas: a empresa não se compromete a ter um grupo externo de pessoas para validar o quanto ela está aderindo aos seus próprios princípios, por exemplo.

Por mais que seja imperfeito, no entanto, o post foi bem recebido. A atitude da empresa parece demonstrar uma postura proativa de escutar seus colaboradores, rever suas posições – e talvez dar mais valor à sua imagem perante o público do que a potenciais contratos lucrativos.

"Estou incrivelmente feliz com essa decisão e tenho profundo respeito por aqueles que trabalharam e se arriscaram para que isso acontecesse. A Google não deveria estar no negócio da guerra", escreveu Meredith Whittaker, uma das pesquisadoras de inteligência artficial da empresa.

Leia também: Entre uma crise e outra, o debate ganha espaço: a tecnologia precisa de um código de ética?

Microsoft, Amazon e o Departamento de Defesa dos Estados Unidos

E foi assim que, de repente e com um pronunciamento público, que a Google trouxe à tona um tema muito comum entre grandes empresas de tecnologia: os lucrativos contratos com o governo, especialmente com o Pentágono.

A Microsoft, por exemplo, assinou em maio um acordo de “centenas de milhões de dólares”, segundo a Bloomberg, para oferecer seu serviço Azure de armazenamento e computação na nuvem ao governo

Dentre as organizações que fazem parte do acordo está a famosa Agência de Segurança Nacional (NSA), que em 2013 foi acusada por Edward Snowden de promover um esquema de vigilância em massa de dados tanto de cidadãos estadunidenses quanto de cidadãos e pessoas de destaque de outros países. Esse acordo, segundo o site, é uma ampliação de outro que licenciava produtos da Microsoft para o governo.

Fei-Fei Li, cientista-chefe de inteligência artificial do Google Cloud, fala sobre IA e machine learning

E vem na sequência de uma série de entendimentos entre as organizações de inteligência e defesa do governo dos EUA e o Vale do Silício que datam pelo menos de 2014, quando, de acordo com a revista The Atlantic, a Amazon assinou um acordo de 600 milhões de dólares com a CIA.

Mas todos esses contratos são relativamente pequenos comparados a outro que está por vir. Segundo o portal Business Insider, o Pentágono tem um futuro investimento de 10 bilhões de dólares em computação e armazenamento por meio de um contrato chamado de Joint Enterprise Defense Infrastrucure (JEDI).

O dinheiro irá para a empresa que sair vencedora da concorrência, que ainda ganharia um voto de confiança do governo. Por enquanto, a favorita para assinar esse contrato é a Amazon, que já é a líder de market share de serviços de computação na nuvem com a AWS.

Mesmo que percam o JEDI, os concorrentes da AWS podem em breve ter motivos para se alegrar. Segundo o site NextGov, esse contrato representa menos do que 20% da capacidade de computação na nuvem do Departamento de Defesa, que quer abrir novas chamadas no futuro próximo.

Leia: Amazon Web Services: por que a nuvem da Amazon está à frente da concorrência

A relação histórica entre o governo e o Vale do Silício

Por mais que os termos em questão sejam modernos – como drones, AI e nuvem –, essas situações não são ponto fora da curva nem novidade para empresas que trabalham com inovação.

Os investimentos de órgãos governamentais de defesa foram historicamente essenciais para o setor de tecnologia em diversos países, especialmente nos EUA, nação que investe mais pesadamente na área, e no Vale do Silício.

Um dos melhores exemplos disso é a DARPA, ou Defense Advances Research Projects Agency. Trata-se da agência de pesquisa vinculada ao exército dos EUA e que foi responsável, dentre outras coisas, pela própria internet.

O financiamento da agência – que também desenvolve tecnologias internamente – beneficia não apenas pesquisas voltadas diretamente para uso militar como também ideias e invenções com potencial revolucionário em diversos campos.

Para figuras importantes, discussão precisa ir além de uma visão simplista dos órgãos de defesa como intrinsecamente perigosos ou corre-se o risco de deixar de fora dados importantes.

O próprio Eric Schmidt, que foi presidente da Google e de sua empresa-mãe, a Alphabet, afirmou no ano passado em um evento ser “muito a favor de parcerias entre o exército e universidades (...) de uma maneira ‘open source’ e aberta". Para ele, seria algo "bom para o país, para as universidades e para a pesquisa”.

Em um editorial publicado pelo The New York Times, Christopher M. Kirchhoff, que por anos liderou o Defense Innovation Unit Experimental, grupo que faz a interface entre startups e o Pentágono, foi além: uma vez que tecnologias como machine learning passaram a existir para alguns, passaram a existir para todos.

"Os engenheiros do Vale do Silício estão aprendendo o que estudantes de história sabem há tempos: que a tecnologia frequentemente aparece de maneiras imprevistas, causando estragos em alguns casos e oferecendo salvação em outros. Aqueles que tiraram o gênio da lâmpada não podem controlar seu futuro por decreto", escreveu.

Kirchhoff completa: "Uma parceria entre o Pentágono é do interesse das empresas (...) Além dos incentivos de praxe criados por pesquisas e desenvolvimentos federais, que ajudaram a criar inovações como a Siri e a internet, ter acesso aos testes operacionais militares e a conjuntos únicos de dados tem valor para a indústria."

No caso das inovações propiciadas por investimentos da DARPA, por exemplo, que está sempre de olho no que acontece de novo e abre editais constantemente, esse dinheiro pode ajudar a criar produtos e serviços de tão longo prazo que não atraem o interesse de investidores, como as atuais pesquisas sobre interfaces cérebro-máquina.

O que dizem os descontentes?

Naturalmente, o outro lado da questão também tem pontos claros para manifestar. Uma carta aberta endereçada à Google, que solicitava o fim da participação da empresa no Projeto Maven e de seus contratos com o exército, foi assinada por mais de mil acadêmicos e sugere que o vínculo do setor de tecnologia com o exército pode ser ruim para as próprias companhias.

“Se a Google decidir usar os dados pessoais dos usuários globais da internet para fins militares, estaria violando a confiança pública que é fundamental para seu negócio, colocando as vidas de seus usuários e os direitos humanos em jogo”, diz o documento.

O desenvolvimento e uso de tecnologias para fins militares, embora antigo e nem sempre bélico, é polêmico e não deve diminuir agora. O que a situação do Projeto Maven mostra é que, num mundo cada vez mais comunicativo, uma velha discussão pode tomar novos rumos.

Afinal, por conta do Projeto Maven, milhares de funcionário protestaram, uma dúzia deixou seus empregos – e o CEO de uma das empresas mais valiosas do mundo decidiu mudar as regras do jogo.

Leia também:

Sobre o autor
Udacity Brasil

A Udacity, conhecida como a "Universidade do Vale do Silício", é uma plataforma online e global que conecta educação e mercado para ensinar as habilidades do futuro – de data science e marketing digital à inteligência artificial e desenvolvimento. Hoje, há mais de 7 mil alunos ativos no país e 50 mil pelo mundo.