Tecnologia é alvo de críticas em todo o mundo por falhas na análise de informações sobre pessoas negras
As vereadoras Karla Coser (PT) e Camila Valadão (Psol) apresentaram um requerimento com pedido de informação sobre a implementação do sistema de reconhecimento facial em Vitória, medida anunciada pela prefeitura na última semana. Elas questionam como será a aplicação da tecnologia, que é alvo de críticas no Brasil e no mundo por erros no reconhecimento de pessoas negras e falta de transparência nas informações.
Camila Valadão questiona a efetividade da implementação e o gerenciamento das informações. A vereadora lembra que pesquisas apontam para os impactos dessa tecnologia nos espaços públicos e na vida cotidiana. Entre os riscos destacados, está a violação de direitos fundamentais, bem como a possibilidade de casos de racismo e transfobia.
“Em Vitória, não vimos estudos promovidos pelo Executivo Municipal para subsidiar a implementação da referida tecnologia; não localizamos qualquer normativa que regulamente a utilização da ferramenta; não localizamos informações sobre a aquisição, bem como processos e contratos”, elencou Camila em uma publicação nas redes sociais.
De acordo com a gestão de Lorenzo Pazolini (Republicanos), o sistema seria utilizado para reconhecer pessoas com mandados de prisão em aberto, suspeitos e pessoas portando armas e objetos perigosos.
Na sessão ordinária da Câmara de Vitória realizada na manhã desta segunda-feira (7), Karla Coser também pediu mais explicações da prefeitura. “Não acredito em soluções fáceis para problemas difíceis. Registro que não sou contra o uso da tecnologia para pensar em segurança pública. Pelo contrário, acredito que é com inteligência que a gente consegue resultados melhores (…), mas o reconhecimento facial anunciado reforça o racismo e preconceitos. Gera problemas de exposição de crianças e adolescentes, e infelizmente não funciona”, apontou.
Karla citou o caso de uma trabalhadora que foi presa pelo erro de um sistema de reconhecimento facial no Rio de Janeiro, confundida como suspeita de praticar homicídio, bem como o caso do ator negro internacional Michael B. Jordan, conhecido por filmes como Pantera Negra, que teve a foto cadastrada na lista de procurados da polícia no Ceará, como suspeito de uma chacina que ocorreu no estado. A Secretaria de Segurança local chegou a afirmar, em janeiro deste ano, que iria investigar o caso.
Pesquisas espalhadas pelo Brasil e pelo mundo estudam o racismo algorítmico. De acordo com a Rede de Observatórios da Segurança, pelo menos 20 estados brasileiros já tiveram, têm ou estão em processo de licitação de projetos para implementação de sistemas de reconhecimento facial. Um artigo do pesquisador Bruno Sousa, do Centro de Estudos de Estudos e Cidadania (CESeC), divulgado pela rede, fala sobre os erros das tecnologias.
“Não sabemos onde começa nem onde termina o poder dado às instituições de policia no uso do reconhecimento facial. O que vemos é que a tecnologia está renovando velhas táticas racistas de encarceramento e tirando das instituições de polícia o peso das abordagens, uma vez que o padrão não é mais definido pelo agente e sim pela máquina. Não podemos esquecer que as máquinas são falhas e que carregam histórias, vícios e preconceitos de quem as opera. Máquinas programadas por humanos reproduzem táticas históricas de encarceramento”, diz o artigo.
Vitória
No lançamento do sistema em Vitória, a prefeitura informou que o investimento para o projeto é de R$ 15 milhões, contemplando câmeras, licenças de softwares e o HCI [Hyper‐Converged Infrastructure ou Infraestrutura Hiperconvergente]. A implementação começará com 10 pontos de reconhecimento situados em praças, escolas, unidades de saúde e demais equipamentos públicos do município, número que depois será ampliado.
“Vale a pena a gente assumir esse risco? Não existe outro sistema de tecnologia para reduzir os índices de criminalidade? É nisso que o nosso dinheiro deve ser investido? É essa solução que vai de fato trazer mais segurança para a nossa cidade?”, questionou a vereadora Karla Coser na sessão desta segunda-feira.
No requerimento de pedido de informação protocolado, Karla pergunta qual foi a modalidade de licitação utilizada para contratação, como acontecerá o fluxo de captura, armazenamento e utilização das imagens, com quais instituições essas imagens serão compartilhadas, além de fazer questionamentos sobre a vida útil do equipamento.
Já Camila Valadão questionou aspectos normativos do uso da tecnologia. “No Brasil, alguns estudos vão falar que é necessário criar legislações específicas acerca do uso dessas tecnologias, que as nossas leis não dão conta desses aspectos. Vitória não tem uma lei nem uma normativa específica (…) São 15 milhões de reais gastos na nossa cidade com essa tecnologia que tem inclusive eficácia questionada. Esse dinheiro deveria estar sendo investido nas políticas sociais, na saúde, na redução da insegurança alimentar, nas carências enormes que a população da nossa cidade possui”, ressaltou.
