Uma falha pode mudar os rumos do reconhecimento facial nos EUA

Uma grande discussão sobre os limites da tecnologia no sistema judiciário dos Estados Unidos está sendo travada a partir de um caso de janeiro de 2020, em Detroit, no Michigan. Robert Julian-Borchak Williams move um processo pedindo o fim das prisões por reconhecimento facial na sua cidade e, se ação for considerada procedente, tem a possibilidade de espalhar esse entendimento nos demais estados norte-americanos.

SAIBA TAMBÉM: Brasil tem prisões por reconhecimento facial

Ao voltar do trabalho, o homem de 42 anos foi parado na porta de casa por uma dupla de policiais em um carro oficial. As autoridades o prenderam na presença da esposa e das duas filhas, sem dar nenhuma justificativa. Depois, ele soube que estava sendo acusado de roubo a uma loja de luxo, em 2018. As imagens das câmeras de segurança foram submetidas ao programa de identificação que, por sua vez, indicou Robert como a pessoa que aparecia na filmagem. Ele chegou a ser contatado por telefone por policiais para que fosse à delegacia, mas achou que era trote e, como estava a caminho do trabalho e não tinha feito nada ilícito, não se preocupou.

Após 18 horas sob custódia e sem ser informado sobre o motivo da detenção, o homem foi liberado. Os investigadores não identificaram nenhuma semelhança entre o procurado e Robert e alegaram problemas técnicos. O próprio chefe da corporação local declarou que o sistema é pouco confiável. Já a companhia responsável pelo software afirma que não existem dados percentuais concretos de erros e acertos.

Algoritmo racista?

Robert é negro. Ele entrou com um processo judicial denunciando os abusos e o erro do sistema de reconhecimento, com alegação de racismo. Além de confundir traços que qualquer pessoa perceberia serem diferentes, o software usado pela polícia de Detroit costuma não distinguir pessoas negras nos testes realizados. A limitação virou motivo de crítica e levou a polícia de Detroit a abandonar o sistema.

Com o crescimento das manifestações por direitos igualitários entre pessoas de todas as origens e cores, empresas gigantes do mercado de tecnologia cancelaram os acordos de venda de softwares de reconhecimento facial para a polícia dos EUA até que a questão da legalidade e da funcionalidade seja avaliada por cortes superiores.

O caso de Robert Julian-Borchak Williams é documentado como uma prova de incapacidade dos sistemas. Análises mostraram que, apesar da efetividade em pessoas brancas, asiáticos também costumam serem confundidos, já que o resultado da busca em vídeo faz um verdadeiro sorteio e identifica qualquer outro cidadão com traços parecidos, mesmo quando há diferenças perceptíveis entre a imagem oferecida e o resultado retornado.

Um ano após o primeiro relato de erro concreto, policiais de Dallas, no Texas, usaram ilegalmente um outro software de reconhecimento facial nos próprios celulares para identificar pessoas com base nos arquivos salvos em seus smartphones. O aplicativo instalado pela equipe de segurança foi descoberto após a informação circular entre policiais de diversas regiões, com comentários sobre a qualidade e eficácia das respostas retornadas via rede social.

Apesar de não terem autorização para a busca, os agentes foram apenas advertidos para apagarem os quase mil resultados recebidos. O uso indevido de um sistema de cruzamento de dados governamentais elevou as pressões pela proibição. Até maio de 2021, 30 entidades e órgãos mundiais exigiam a suspensão imediata dos modelos e do compartilhamento de dados, para que haja um grande aprimoramento do algoritmo, além de uma regulação rígida para uma eventual volta da utilização, quando os problemas forem sanados. As discussões sobre os riscos do sistema, pedindo que o reconhecimento facial seja suspenso ou, ao menos, se amplificam com a proximidade do julgamento da ação judicial. Robert tenta barrar o uso dessa tecnologia. Segundo o homem que foi preso injustamente, a ideia dele é fazer valer a máxima de que “nem todos os homens negros são iguais”.

LEIA TAMBÉM: O lado excludente dos algoritmos