Google e sua guerra contra trolls de internet
A internet hoje tornou-se palco para diversos movimentos bem-intencionados, como recentemente pudemos presenciar os diversos movimentos contra o racismo em diversas partes do mundo, porém, principalmente nos EUA.
Discursos esses em sua maioria, apresentados em redes sociais utilizadas por boa parte da população, como twitter, instagram, facebook, entre outras. Mas claramente e infelizmente, não são utilizadas somente por pessoas bem-intencionadas, sendo assim, é comum vermos discursos de ódio sendo espalhados diretamente em redes sociais e em fóruns na internet.
Identificando os ataques
Sendo muitas vezes também ataques direcionados diretamente à pessoas ou instituições na sua maioria governamentais. Mas principalmente ataques pessoais, como ameaças de morte e discursos de puro ódio, geralmente à jornalistas quando escrevem sobre algo polêmico ou expõem sua opinião abertamente ao público, e esses ataques infelizmente muitas vezes não param somente nas palavras e levam a fatalidades reais.
Para identificar, censurar e enfrentar casos assim, onde pessoas mal-intencionadas usam de palavras e frases recheadas de ódio contra alguém, Jared Cohen, empresário e CEO, criou um projeto (do qual é CEO) chamado “Jigsaw”.
O Projeto Jigsaw
O projeto tem como finalidade reconhecer possíveis ameaças na internet por meio da inteligência artificial. Porém Cohen foi muito além de apenas estudar situações de conflito online, juntamente com sua equipe formada por engenheiros do Google que se voluntariaram a ajudar em seu projeto, fizeram viagens para países onde guerras e conflitos sociais são extremamente intensos, como Síria, Irã, Iraque, entre outros. Dessa forma sua equipe como um todo pôde enxergar e de fato entender como são esses discursos de ódio e as motivações por trás de cada palavra.
Assim se deu início ao projeto Jigsaw, com a ajuda tecnológica e inteligência artificial, a empresa Google (a qual Cohen também presta seus serviços) começou a utilizar essa ferramenta como base para criar outras semelhantes. Por exemplo a “Password Alert” (Alerta de Senha), a qual foi disponibilizada para todos os usuários do Google e funciona como um alerta quando usuários estão digitando suas senhas em sites falsos com layout semelhante ao original e que possuem más intenções.
Especificamente tratando-se do projeto Jigsaw Veronica Velez e Aubri Balk, acompanharam o andamento do projeto desde que se deu a conhecer, e foram convidadas para realizar os testes juntamente à equipe desenvolvedora. No teste puderam escrever mensagens com palavrões e xingamentos para testar se a inteligência artificial (Jigsaw) seria capaz de censurar e alertar como possível linguagem inapropriada e discurso de ódio.
Os testes mostraram ser extremamente promissores, porém como em qualquer outro projeto em sua fase inicial, este necessitava de alguns, porém extremamente necessários, ajustes. Muitas vezes por causa de uma palavra deletada, substituída ou mudada de lugar o programa podia entender como mais crítico ou menos crítico.
O Aperfeiçoamento
O projeto tem sido aperfeiçoado ao longo dos anos desde o seu início em 2010. Também têm sido usado em diversas plataformas online para evitar a propagação de discursos mal-intencionados, redigidos pelo que muitos conhecem como os “trolls” de internet.
Ferramentas assim garantem maior segurança e conforto no espaço sócio-digital, claramente sempre há oportunidade para avanço e melhora no campo tecnológico, porém já foi feito um enorme avanço considerando que a internet e o mundo digital nasceram há “poucos” anos. Com certeza iremos presenciar cada vez mais avanços no meio digital, e que com muita certeza serão para trazer avanço e segurança para a humanidade em geral, desde os países mais avançados como também aqueles em desenvolvimento. E que cada vez mais órgãos governamentais possam estar atentos à necessidade de avanço nesse sentido.
O projeto Jigsaw é apenas o início, de muitas outras ferramentas que virão à existência para garantir que a era digital seja repleta de humanidade, a boa humanidade.
