Vigilância e segurança pública: preconceitos e segregação social ampliados pela suposta neutralidade digital

Resumo

O presente artigo busca demonstrar como as novas implementações algorítmicas, alegadamente imparciais, acentuam a discriminação e os preconceitos por meio de mecanismos de vigilância. Quando as informações pessoais sobre a população são aplicadas no desenvolvimento de tecnologias de inteligência artificial, em uma sociedade já marcada pela seletividade, as consequências podem ser catastróficas. O ponto de partida é dado pela análise sobre vigilância, atualizada por Zygmunt Bauman, descrevendo como a sociedade da informação se delineou e ganhou a forma que possui hoje. Na sequência, por meio de revisão bibliográfica consubstanciada via método dedutivo, é possível observar que em países onde há permanente sensação de insegurança e a discriminação racial se institucionalizou, o uso pouco transparente de algoritmos preditivos, em especial pela justiça criminal, provoca efeitos negativos na eficácia das políticas públicas, fazendo cada vez mais vítimas e acentuando disparidades, ao invés de promover segurança.