25 de jun de 2018

'Don't be evil': as investidas da Alphabet, dona da Google, para deixar a internet segura

Udacity Brasil

Desde seu começo, o código de conduta da Google foi famoso por incluir os dizeres "don't be evil" ("não seja mau"). Em 2015, a Alphabet, que se tornou a empresa mãe da Google e de todas as outras organizações relacionadas, chegou a trocar a frase por "faça a coisa certa" – o que causou boa dose de alvoroço na imprensa especializada.

Três anos depois, no entanto, as palavras voltaram para encerrar o documento atual. "Lembre-se... Não seja mau e, se vir algo que acha que não está certo, fale", lê-se. Como se trata de uma das companhias mais poderosas do mundo, que ajuda a delinear a internet e, por consequência, a sociedade, cada palavra importa.

No começo deste ano, houve mais um passo: o YouTube divulgou o seu primeiro relatório de transparência. O documento detalha os esforços que a empresa vem fazendo para garantir que conteúdos violentos, como vídeos pró-terrorismo, não tenham lugar em sua plataforma. Mais do que isso: trata-se da primeira vez que o YouTube divulga dados desse tipo.

A plataforma recentemente causou polêmica com as mudanças que fez em suas diretrizes de comunidade. Alteradas para dificultar a monetização de vídeos com discursos de ódio e inapropriados para crianças, acabaram afetando de maneira significativa pequenos criadores de conteúdo que dependem da plataforma.

Nesse contexto, a palavra “transparência” do título faz sentido: a ideia é justamente mostrar como a plataforma vem se esforçando para manter-se segura para usuários, não apenas uma mudança de regras. Esse esforço do YouTube é apenas um dentre diversas iniciativas da Google para garantir que a internet, através de suas ferramentas, não se torne um lugar mais perigoso e opressivo.

No vídeo acima, o YouTube explica como a denúncia de vídeos funciona na plataforma

Leia: Entre uma crise e outra, o debate ganha espaço: a tecnologia precisa de um código de ética?

Esforços da Google para deixar a internet segura

A Google já investe em machine learning e inteligência artificial há bastante tempo, e o relatório do YouTube dá uma boa medida do porquê. Dos cerca de 8,2 milhões de vídeos removidos pela plataforma no último trimestre de 2017, mais de 6,6 milhões foram automaticamente removidos pelos seus sistemas – 76% deles removidos antes de que tivessem uma única visualização.

De acordo com o YouTube, em dezembro de 2017, 98% dos vídeos removidos continham extremismo violento (propagandas do Estado Islâmico, por exemplo) e foram identificados pelos algoritmos.

Fica claro, portanto, que esses sistemas cumprem um papel importante na segurança da rede: além de evitar que vídeos que violam as diretrizes de comunidade do YouTube fiquem no ar, eles fazem isso, muitas vezes, sem precisar que um humano entre no processo. Como se pode imaginar, analisar vídeos que possivelmente violam as políticas do YouTube não é um trabalho emocionalmente fácil.

Faria sentido, então, usar tecnologias desse tipo de maneira mais ampla para deixar a internet segura. E, de fato, a Alphabet, empresa-mãe da Google, tem uma incubadora dedicada justamente a isso. Trata-se da Jigsaw, que tem como objetivos “impedir a censura na web, reduzir os riscos de ataques digitais, combater o extremismo violento e proteger as pessoas contra o assédio online”.

A Jigsaw nasceu a partir do Google Ideas, uma espécie de “think tank” da Google que visava usar tecnologia para combater problemas não só na internet, mas também no mundo real.

Em fevereiro de 2016, Eric Schmidt, então presidente executivo do conselho de diretores da Alphabet, anunciou por meio do Medium a mudança do nome para Jigsaw, que em inglês significa quebra-cabeça. A incubadora ficou então encarregada de um objetivo bastante amplo: “usar tecnologia para encarar os maiores desafios geopolíticos”.

Os esforços acontecem por meio de uma série de projetos. Há, por exemplo, a Perspective API, uma interface de programação que usa machine learning para identificar casos de abuso e assédio na internet.

Outro deles é o Password Alert, uma extensão de navegador que avisa o usuário caso o site que ele está acessando esteja tentando interceptar ou roubar sua senha. Esse tipo de roubo sempre é inconveniente, mas no caso de jornalistas e ativistas, pode constituir também um atentado contra a democracia e os direitos civis.

Muitos dos projetos da Jigsaw são em parceria com outras instituições. Há, por exemplo, a Against Violence Extremism Network, uma plataforma criada em parceria com o Institute for Strategic Dialogue e na qual ex-extremistas violentos colaboram para evitar que mais jovens sejam cooptados por discursos desse tipo.

O “extremismo violento”, como já deve ter ficado claro, é um dos principais alvos da Google na luta para manter a internet segura. No final do ano passado, o Google.org, uma espécie de braço filantrópico da empresa, anunciou que investiria US$ 5 milhões em projetos de pesquisa dedicados justamente a “contra-atacar ódio e extremismo” online.

Pressão de todos os lados

Está evidente, portanto, que a Google, uma das principais e mais influentes empresas do mundo, tem um papel muito importante no sentido de manter a internet segura. Governos e outras instituições supra-estatais também cobram isso da empresa: a Comissão Europeia, por exemplo, quer que empresas de tecnologia consigam remover conteúdo extremista em até uma hora após serem notificadas, segundo o jornal The Guardian.

Mas todos os exemplos acima, em alguma medida, agem no sentido de filtrar e moderar o conteúdo que está na internet. E, nesse ponto, a empresa precisa andar sobre a linha fina que separa essa filtragem da censura.

Não é nada fácil: a Google já foi processada por uma instituição chamada Prager University que, segundo a Bloomberg, acusava a empresa de restringir, de maneira ilegal, o acesso dos usuários do YouTube aos seus vídeos, que continham mensagens conservadoras.

Independentemente do mérito do processo, a questão é relevante, pois ressalta o papel central que a empresa tem como curadora e “gatekeeper” de conteúdo da internet. Além disso, a questão ecoa a preocupação de cientistas de dados em relação a seus algoritmos: como manter-se alerta e impedir que seus próprios vieses alimentem a aprendizagem de máquina é algo atualmente em debate.

Assista ao webinar: Machine learning na sua empresa: casos de uso

Educação para manter a internet segura

No entanto, nem só de machine learning se fazem as estratégias da Google: a companhia tem também um segundo front na luta para manter a internet segura, que envolve educar usuários para que eles próprios possam fazer esse controle e filtragem por si próprios.

Um desses projetos educativos é o “Be Internet Awesome”, que chegou ao Brasil no dia 19 de junho com o nome de “Seja Incrível na Internet”. Trata-se de um programa para educadores, pais e crianças com idade entre 8 e 11 anos que ensina os primeiros conceitos de segurança digital a jovens internautas.

Ele incentiva os alunos a serem "inteligentes, atentos, fortes, gentis e corajosos" na internet. Esses adjetivos são maneiras de se referir à atitude que eles devem ter em sua vida online: tomar cuidado com o que compartilham, aprender a identificar golpes e armadilhas, proteger informações pessoais importantes, tratar com respeito e gentileza outros internautas e, em último caso, pedir ajuda a um adulto caso se sintam ameaçados.

O programa é composto por uma apostila, com textos e sugestões de atividades para se realizar em sala de aula, bem como quatro jogos online que ajudam a reforçar os pontos abordados no resto do material.

Segundo a Google, ele não é apenas uma ferramenta voltada para educar crianças, mas também um apoio para empoderar educadores a tocar num assunto importante que, no entanto, não é necessariamente um tópico com o qual eles têm experiência.

De acordo com pesquisas citadas pela empresa, 98% dos educadores brasileiros acreditam que a segurança digital precisa ser ensinada em escolas para alunos com idade a partir de 8 anos, mas 83% deles não acreditam que têm recursos adequados para tratar esse tema com a devida atenção.

Além de ser uma ferramenta educativa importante, o projeto "Seja Incrível na Internet" também é um método alternativo de tornar a internet mais segura. Educando novos internautas a identificarem fraudes, golpes e conteúdo inadequado, a Google também acaba lutando contra as inseguranças – e sem acusações de censura corporativa.

Segundo Cauã Taborda, gerente de comunicação do YouTube no Brasil, “se a população que está consumindo vídeos no YouTube estiver preparada para entender que aquilo é nocivo para determinado grupo, ela mesmo se autorregula”.

Em outras palavras, o YouTube não precisa ter um papel tão central na regulação de conteúdos se sua própria comunidade conseguir acessar esses conteúdos de maneira mais atenta e crítica. Ou seja: educar os usuários acaba sendo uma maneira mais descentralizada de tornar a internet mais segura, evitando que as decisões (e dores de cabeça) dependam apenas de funcionários e algoritmos de uma única empresa. “É muito importante que a comunidade saiba como denunciar e o que pode ou não estar ali”, conclui Cauã.

Leia também:

Sobre o autor
Udacity Brasil

A Udacity, conhecida como a "Universidade do Vale do Silício", é uma plataforma online e global que conecta educação e mercado para ensinar as habilidades do futuro – de data science e marketing digital à inteligência artificial e desenvolvimento. Hoje, há mais de 7 mil alunos ativos no país e 50 mil pelo mundo.