O uso da tecnologia de reconhecimento facial para prever quais estudantes têm maior probabilidade de reprovar de ano, sem a transparência dos critérios utilizados para realizar tal diagnóstico, é uma das funções que foi identificada e criticada pelos pesquisadores que assinam o relatório “Tecnologias de vigilância e educação: um mapeamento das políticas de reconhecimento facial em escolas públicas brasileiras”, produzido pelo InternetLab, um centro de pesquisa interdisciplinar que promove debates acadêmicos e a produção de conhecimento nas áreas de direito e tecnologia.
De acordo com a coordenadora da área de Desigualdades e Identidades do InternetLab, Clarice Tavares, as empresas que oferecem serviços de reconhecimento facial às escolas podem trabalhar com base em estereótipos.
Ela destaca a preocupação de que essa prática esteja associada à predição de quem tem mais chances de ser reprovado na escola ou de cometer ações que resultem em reprovação, relacionadas a questões estruturais como raça, classe e gênero. Além disso, Tavares aponta que essas tecnologias também são projetadas para prever possíveis ações, o que é preocupante quando se trata de crianças e adolescentes, que são populações que precisam de uma proteção especial.
O relatório apresenta uma lista de 15 iniciativas identificadas pela equipe de pesquisa do centro. No entanto, os pesquisadores consideram esse número reduzido. Além disso, a forma como os autores chegaram a esses projetos levanta preocupações em relação à falta de transparência. As iniciativas foram descobertas por meio de notícias, sites de prefeituras e governos estaduais, portal da transparência, entrevistas com gestores e, ocasionalmente, em resposta a solicitações apresentadas com base na Lei de Acesso à Informação (LAI).
“Esse foi um dos principais achados. Não existe um projeto muito claro, entre todos esses municípios, de informar ao cidadão como estão fazendo essas políticas. Muitas vezes, no próprio site das prefeituras, a gente encontra pouquíssima informação. Então, a gente precisa olhar em portais mais locais. E, em alguns casos, a gente fez pedido via LAI e não obteve resposta ou obteve respostas um pouco vagas. Isso indica uma necessidade de melhora desses mecanismos de transparência, principalmente no âmbito municipal”, disse Clarice.
Diversas escolas em diferentes regiões do país, incluindo o estado de Tocantins, adotaram políticas de reconhecimento facial. Projetos semelhantes foram encontrados em capitais como Fortaleza, Goiânia, Rio de Janeiro e Porto Alegre, além dos municípios de Mata de São João (BA), Jaboatão dos Guararapes (PE), Águas Lindas (GO), Morrinhos (GO), Betim (MG), Angra dos Reis (RJ), Itanhaém (SP), Potirendaba (SP), Santos (SP) e Xaxim (SC).
As escolas justificam a adoção do reconhecimento facial como uma forma de registrar a frequência dos alunos e como um instrumento de segurança da comunidade escolar. Além disso, afirmam que a tecnologia pode ajudar a combater a evasão de estudantes e melhorar a gestão do ambiente escolar e dos alunos.
No entanto, o InternetLab, em relatório, alerta para as brechas que existem para desvios de finalidade. Especialistas afirmam que a adoção do reconhecimento facial pode levar à discriminação de grupos historicamente minorizados, como mulheres, negros e a população LGBTQIA+.
“Há diversos estudos que pontuam como as tecnologias de reconhecimento facial são menos precisas quando o público alvo da ferramenta são pessoas não pertencentes ao gênero masculino ou não brancas, uma vez que são treinadas por meio de bancos de dados fracos em termos de diversidade de gênero, raça e registros culturais. Há, assim, reprodução de vieses discriminatórios que podem levar a erros persistentes na operação da tecnologia, tais como falsos negativos e/ou falsos positivos.”, dizem os pesquisadores.
“Ademais, há também a possibilidade de inferências discriminatórias quando o reconhecimento facial busca não apenas verificar ou identificar determinada pessoa, mas também atribuir características físicas ou comportamentais a ela, tais como sua raça, gênero, humor, temperatura corporal, dentre outras possibilidades”, alertam.
Outro ponto destacado no relatório são as preocupações em relação ao acesso aos bancos de dados que armazenam as informações coletadas da comunidade escolar, o que pode comprometer a privacidade. A equipe do InternetLab recomenda o uso de software livre, a capacitação digital de educadores e gestores, a produção de relatórios que avaliem o impacto na proteção de dados e nos direitos humanos, e a inclusão dos estudantes no processo de adoção dessas políticas, para que possam ampliar sua compreensão sobre o tema.
*Com informações da Agência Brasil, PortalEduca e Extra.