Quando a vigilância por vídeo transforma erro técnico em decisão pública

A questão mais difícil da vigilância automatizada por vídeo não é saber se a visão computacional consegue detectar objetos, rostos ou movimentos. É decidir o que acontece quando um sistema imperfeito passa a influenciar abordagens policiais, acesso a prédios, monitoramento de bairros ou alarmes sobre pessoas vulneráveis. Na palestra de Helena Maia no Instituto de Computação da Unicamp, o ponto central aparece com clareza: problemas técnicos conhecidos da área mudam de natureza quando são automatizados e aplicados em escala.

A própria lista de tarefas mostra o risco. Detectar uma arma pode significar confundir um guarda-chuva com uma ameaça ou deixar passar uma arma discreta. Rastrear pessoas em múltiplas câmeras exige lidar com oclusão, mudança de iluminação, baixa resolução e ângulos diferentes. Reconhecer ações parece simples até a anotação dos dados colocar “sorrir” e “rir” em fronteiras ambíguas, ou classificar cenas de espada de modo pouco consistente. A dificuldade não está só no modelo. Está no dado, no rótulo, na câmera, no contexto e na definição do que conta como normal ou anômalo.

O problema cresce quando esses sistemas deixam de ser demonstrações técnicas e entram em circuitos institucionais. Maia cita o caso de modelos de policiamento preditivo, como o PredPol, em que uma região marcada como perigosa recebe mais policiamento, gera mais registros e reforça a previsão inicial. Também menciona o Smart Sampa, vendido como solução de segurança, mas cercado por dúvidas sobre eficácia, falsos positivos e hipervigilância. O mecanismo é conhecido: dados enviesados alimentam modelos enviesados, modelos influenciam decisões humanas, e essas decisões produzem novos dados que parecem confirmar o sistema.

Isso não elimina todos os usos possíveis. A detecção de queda de idosos, por exemplo, pode ter valor concreto, embora também implique vigilância contínua. A diferença está em reconhecer que nem toda tarefa deve ser escalada, que a retirada do humano do processo pode piorar o erro e que métricas de acurácia não respondem sozinhas a perguntas sobre consentimento, custo social e reparação. Antes de instalar câmeras inteligentes, a pergunta operacional deveria ser mais dura: quem será afetado quando o sistema errar, e quem terá poder para contestar esse erro?

Assistir ao episódio original

Referências encontradas

Livros

• A Era do Capitalismo de Vigilância, de Shoshana Zuboff — Ver livro na Amazon
• 1984 - Edição de Luxo, de George Orwell — Ver livro na Amazon
• Algoritmos de Destruição em Massa: Como o Big Data Aumenta a Desigualdade e Ameaça a Democracia, de Cathy O'Neil — Ver livro na Amazon

Filmes

• The Lord Of The Rings — Ver no TMDB

Este post contém links de afiliado. Se você comprar por eles, eu posso receber uma pequena comissão sem custo adicional para você.