9 de abr de 2018

Entre uma crise e outra, o debate ganha espaço: a tecnologia precisa de um código de ética?

Udacity Brasil

Código de ética, de honra ou de conduta: não importa como você o nomeie. Em muitos campos profissionais, importante é ter um para seguir. No entanto, em tempos de tecnologias disruptivas e ampla conectividade, algumas empresas de grande porte – especialmente as nascidas no Vale do Silício – vêm demonstrando que o assunto não era uma alta prioridade. Isso pode mudar em 2018.

Das fake news nas timelines das redes sociais até o acesso indevido de companhias aos dados pessoais de milhões de pessoas, não param de surgir questões alarmantes envolvendo a ética de gigantes da tecnologia. Se, por um lado, a influência e a concentração de poder dessas empresas nunca foram tão grandes, por outro, o debate sobre o assunto também nunca esteve tão inflamado.

O Facebook, por exemplo, rede social com 2,13 bilhões de usuários ativos mensais, está sob os holofotes por uma série de motivos negativos: ampla disseminação de notícias falsas, algoritmos que criam bolhas ideológicas entre as pessoas, má gestão de dados de usuários, problemas na estratégia de monetização da empresa e o escândalo da Cambridge Analytica (que usou dados obtidos no Facebook para estabelecer perfis sobre milhões de eleitores norte-americanos).

"Eu me sinto responsável pelo que aconteceu e é algo de que me arrependo. É por isso que estou falando com vocês", disse Christopher Wylie, o ex-cientista de dados da Cambridge Analytica que denunciou suas ações, ao jornal The Guardian. "Foi um experimento muito antiético. Você está mexendo com a psicologia de um país inteiro sem seu consentimento ou consciência e dentro do contexto do processo democrático."

Christopher Wylie, cientista de dados da Cambridge Analytica que denunciou as práticas da empresa, explica como funcionava a coleta de dados no Facebook (em inglês)

Diante de tantos pontos problemáticos, várias personalidades se manifestaram. Brian Acton, fundador do WhatsApp, publicou no Twitter: "It is time. #deletefacebook". Em resposta, Elon Musk, fundador e CEO da SpaceX, escreveu, irônico: "O que é Facebook?" e deletou as fanpages de suas empresas. Em uma entrevista, Tim Cook, CEO da Apple, criticou as estratégias da rede social por monetizar os próprios usuários.

Além disso, governos estão atentos. Nos EUA, o CEO Mark Zuckerberg foi convocado para depôr sobre o assunto no Congresso e no Senado e muitos políticos agora falam abertamente em novas regulamentações para as gigantes do Vale.

Após horas de questionamentos, o próprio Zuckerberg concordou que os tempos estão mudando. "A internet está crescendo em importância ao redor do mundo. Acho que é inevitável que alguma regulamentação exista."

Na Europa, a situação é ainda mais séria: em 25 de maio de 2018, começam a valer as novas regras da General Data Protection Regulation (GDPR), que visa proteger a privacidade e os dados pessoais dos cidadãos da região.

Empresas que atuam na União Europeia tiveram dois anos para se adequar à novidade, que fortalece a questão do consentimento do usuário (termos de serviço, por exemplo, terão que ficar muito mais claros), oferece aos cidadãos a portabilidade de seus dados (será possível, por exemplo, exigir os dados pessoais que uma plataforma tem sobre você e oferecê-los para outra) e cria uma nova profissão, os Data Protection Officers.

Trata-se de uma enorme mudança, que será acompanhada de perto por outros países.

Leia: Data science e Nubank: porque esta fintech investe tanto em cientistas de dados

Surgem movimentos

Há precedentes para essas discussões. Em 2016, o Yahoo foi alvo de críticas, quando tornou-se público que a empresa criou um programa secreto para acessar e pesquisar os emails de seus usuários e fornecer informações privadas às autoridades de inteligência dos Estados Unidos.

Ao lado do Google, o Yahoo já tinha precisado se explicar sobre o mesmo assunto três anos antes, à época das denúncias de Edward Snowden, que trabalhava para a poderosa National Security Agency (NSA), a agência de segurança americana.

Atualmente, as preocupações com a segurança, privacidade e confiabilidade no ambiente online se ampliaram e hoje atingem uma porção de outras preocupações sociais.

O Instagram, por exemplo, é acusado de glorificar vidas "perfeitas" e irreais, corroendo a autoestima dos usuários. O Snapchat, por ter ter características viciantes, fragmentar a comunicação e redefinir como os jovens encaram suas amizades. E o YouTube por permitir a postagem de vídeos com conteúdos impróprios para crianças e adolescentes e por reproduzir vídeos aleatórios sequencialmente, sem a solicitação ativa do usuário, o que aumenta seu tempo no site.

Leia: Porque a carreira de cientista de dados é tão promissora no Brasil

Essas e outras situações têm levado a sociedade a repensar o uso excessivo das redes sociais, assim como o papel das empresas de tecnologia que lidam com grandes bases de dados e informações. O movimento Time Well Spent, por exemplo, desde 2013 discute com a sociedade e as empresas sobre problemas relacionados à tecnologia e busca uma mudança de mentalidade em prol do bem-estar da humanidade.

"Os consumidores não querem usar produtos que eles sabem que são prejudiciais. Estamos construindo um movimento para que os consumidores assumam o controle de suas vidas digitais", informa o site, que oferece dicas práticas para quem quer passar menos tempo online.

E essas críticas frequentemente vêm de dentro: o fundador do Time Well Spent, Tristan Harris, trabalhou no Google por quase cinco anos, onde trabalhou como designer focado no comportamento do usuário. "Nossas mentes foram sequestradas por nossos telefones", afirma.

Ética do início ao fim

"Já temos conhecimento suficiente para dizer que a ciência da computação não pode mais deixar de lado as questões éticas", afirma Marcelo Finger, professor titular do departamento de ciência da computação do IME-USP.

"A preocupação com a ética não deve ser um comportamento isolado. Ela deve estar em tudo, permeando todo o processo, desde a concepção dos programas até a implementação", explica ele. De acordo com o professor, a situações problemáticas – como os casos citados no início desta matéria – servem como alertas e exemplos do que não deve ser feito.

Finger diz que o profissional de computação, ao criar um algoritmo, deve sempre se perguntar: "Estou embutindo algum um viés discriminatório?", "Estou usando dados confiáveis e de qualidade?", "Estou usando dados substitutivos que podem gerar efeitos nefastos?".

Leia: Conheça 4 programadoras que fizeram história

Um caminho ideal?

Há tempos existem diretrizes de boa práticas e conduta ética a serem seguidas pela empresas de tecnologia e profissionais de computação. Um exemplo é a Association for Computing Machinery (ACM), a maior sociedade de computação educacional e científica do mundo, que surgiu nos EUA em 1947 em decorrência da crescente tecnologia à época.

A ACM tem um Comitê de Ética Profissional que visa promover a conduta responsável entre os profissionais de computação. O Código de Ética da ACM elenca responsabilidades e imperativos organizacionais que contribuem para a sociedade e o bem-estar humano, e consiste em 24 pontos de responsabilidade que abrangem muitos dos dilemas que os profissionais provavelmente enfrentarão ao longo da carreira.

Entre os imperativos, estão itens como: evitar danos a terceiros; ser justo e agir de forma a não discriminar; respeitar a privacidade de terceiros; e assegurar que usuários e todos aqueles que serão afetados por um sistema tenham suas necessidades claramente observadas.

De 1947 para 2018, no entanto, muita coisa nova surgiu. Na esteira do escândalo da Cambridge Analytica, cientistas de dados – que integram uma categoria nova e muito promissora – já discutem se é necessário criar seu próprio Juramento de Hipócrates.

Um movimento chamado Data for Democracy, que reúne profissionais de data science de diversas empresas, recentemente chegou a uma lista de 20 princípios de comportamento ético, incluindo "é meu trabalho entender, mitigar e comunicar a presença de vieses em algoritmos" e "pessoas antes de dados". A expectativa é que 100 mil assinem o documento.

"Precisamos empoderar as pessoas que trabalham com tecnologia para que possam dizer: 'Espera aí, isso não é certo'", resumiu DJ Patil, que foi cientista de dados chefe dos Estados Unidos durante a presidência de Barack Obama.

O professor Marcelo Finger é ainda mais incisivo: "Hoje em dia, com tanta informação disponível, hão há mais como dizer que 'não sabia'. Não tem mais desculpa".

Leia: Quer seguir carreira em data science? Baixe o ebook da Udacity!

Udacity Brasil