Erro da inteligência artificial pode ameaçar liberdade pessoal

A implementação de câmeras inteligentes levanta preocupações sobre discriminação e eficácia na segurança pública.

As câmeras inteligentes estão se tornando uma presença comum nas cidades, prometendo eficiência no combate ao crime. Contudo, a realidade de 2025 revela que essa promessa ainda está distante de ser cumprida.

Casos de prisões injustas, especialmente envolvendo pessoas negras, têm sido registrados devido a falhas nos algoritmos. Essa situação evidencia que a inovação tecnológica pode perpetuar problemas sociais antigos. A segurança não deve depender de tentativas e erros de sistemas automatizados.

Quando uma tecnologia falha com base na cor da pele, não se trata de inteligência, mas sim de racismo automatizado. A segurança pública não pode operar como um jogo de azar. Este tema é crucial nas discussões contemporâneas, destacando a necessidade de regulamentações rigorosas.

O debate em torno do projeto de lei nº 2.338/2023 exige uma posição clara do Legislativo sobre o uso de biometria a distância. A proposta busca atender à urgência de proteger direitos fundamentais, classificando essa prática como de alto risco. Sistemas de segurança devem ser auditáveis e transparentes.

Entretanto, essa transparência é frequentemente ausente nos modelos privados adotados pelos estados. O governo brasileiro, em muitos casos, abdica de sua soberania tecnológica ao aceitar soluções sem questionamentos. Os critérios que regem o funcionamento desses sistemas muitas vezes permanecem ocultos sob a justificativa de segredo industrial.

As falhas nos algoritmos não são meros números em relatórios de produtividade; elas representam a limitação da liberdade de indivíduos inocentes e comprometem a confiança entre cidadãos e o Estado. Quando a tecnologia falha, a polícia intervém e o sistema judiciário processa, resultando em humilhação pública e desgaste jurídico para o indivíduo afetado.

O avanço da biometria facial requer a implementação de regras rigorosas de transparência, auditoria e responsabilização, para evitar que a tecnologia amplifique discriminações históricas.

O custo de erros humanos deve ser mitigado pela responsabilidade de quem ordena ações. Por outro lado, erros algorítmicos têm sido vistos como falhas técnicas impessoais. É necessário reavaliar essa lógica de investimento, priorizando a capacitação dos agentes e a inteligência de dados sobre rotas criminais.

Os sistemas públicos devem integrar tecnologias de inteligência que respeitem a privacidade e o devido processo legal. A automação deve ser utilizada para investigar crimes, e não para práticas discriminatórias baseadas em características físicas.

A soberania digital exige que os sistemas operados pelo Estado sejam submetidos a avaliações rigorosas. Eles devem passar por testes de diversidade e equidade antes de serem implementados. O Congresso Nacional tem a oportunidade de assegurar que a inovação tecnológica no Brasil respeite a dignidade humana como um princípio inegociável.

A solução para essa questão reside na exigência de que cada sistema de identificação biométrica seja submetido a auditorias públicas independentes, sem exceções. Os gestores que negligenciarem essa governança devem ser responsabilizados.

O uso de inteligência artificial não isenta o cumprimento da Constituição. O futuro da segurança pública depende de um Estado que saiba empregar a tecnologia para proteger os cidadãos, sem transformar a população em alvos de sistemas que não conseguem justificar sua própria eficácia.