O algoritmo não conhece o futuro

Imagine descobrir que, antes mesmo de uma abordagem policial, um sistema já havia indicado que você merecia ser observado. Nenhum crime foi cometido, não existe uma investigação baseada em fatos concretos e talvez seu nome jamais tenha aparecido em um inquérito. Ainda assim, o lugar onde você mora, os caminhos que percorre ou as pessoas com quem convive foram suficientes para colocá-lo no campo de atenção do Estado.

A situação parece retirada de um filme de ficção científica, mas traduz uma das questões mais delicadas trazidas pela chamada segurança preditiva. Esses sistemas analisam registros de ocorrências, horários, locais e padrões identificados em grandes volumes de dados. A partir dessas informações, calculam onde determinados delitos teriam maior probabilidade de acontecer ou quais situações mereceriam maior vigilância.

A promessa é sedutora. Se o Estado puder antecipar o risco, será capaz de distribuir melhor as equipes, reduzir o tempo de resposta e impedir que um crime aconteça. Em uma área marcada pela escassez de recursos e pela necessidade de decisões rápidas, desprezar o potencial dessas ferramentas seria pouco razoável. A tecnologia pode, de fato, melhorar o planejamento das operações e ajudar a identificar padrões que escapariam à análise humana.

O problema começa quando tratamos os dados como se fossem uma fotografia completa e neutra da realidade. Um registro policial não representa tudo o que aconteceu em uma cidade. Ele mostra aquilo que foi denunciado, identificado, abordado e formalmente registrado. Há crimes que ocorrem e não chegam ao conhecimento das autoridades, enquanto determinadas regiões são historicamente submetidas a uma presença policial muito mais intensa.

Essa diferença produz um efeito difícil de perceber. Quanto maior o policiamento em uma região, maior tende a ser o número de abordagens e registros produzidos naquele local. Esses dados alimentam o sistema, que passa a considerar a mesma área ainda mais perigosa e recomenda o envio de mais equipes. O novo policiamento gera novos registros, que reforçam a previsão inicial. O algoritmo parece confirmar sua própria eficiência, quando pode estar apenas reproduzindo a lógica que orientou a coleta dos dados.

Isso não significa que os registros sejam falsos ou que o policiamento deva ignorar áreas com maior incidência criminal. Significa apenas que os dados não falam sozinhos. Eles carregam as escolhas institucionais, as prioridades operacionais e até as desigualdades presentes no momento em que foram produzidos. Um sistema treinado com o passado pode identificar padrões relevantes, mas também pode dar aparência matemática a distorções antigas.

Há ainda uma diferença essencial entre estimar o risco de um crime ocorrer em determinado lugar e calcular a probabilidade de uma pessoa vir a cometê-lo. No primeiro caso, a informação pode orientar medidas preventivas, como melhorar a iluminação, reforçar o patrulhamento ou ajustar horários de atendimento. No segundo, o risco estatístico passa a acompanhar um indivíduo e pode interferir na maneira como ele será observado, abordado ou investigado.

É nesse ponto que a eficiência encontra os limites do Estado de Direito. A Constituição brasileira protege a liberdade, a igualdade, a intimidade, a vida privada, o devido processo legal, a presunção de inocência e, expressamente, o direito à proteção dos dados pessoais. Essas garantias não desaparecem porque a decisão passou a contar com uma recomendação produzida por software. Ao contrário, quanto menos compreensível for o funcionamento do sistema, maior deve ser o cuidado institucional com seus efeitos. A tecnologia muda os instrumentos do poder público, mas não reduz as obrigações constitucionais de quem exerce esse poder.

A preocupação não é apenas teórica. O Regulamento Europeu de Inteligência Artificial proíbe o uso de sistemas destinados a prever o risco de uma pessoa cometer um crime quando a avaliação estiver baseada exclusivamente em seu perfil ou em características pessoais. A norma admite apoio tecnológico quando já existem fatos objetivos e verificáveis ligados a uma atividade criminosa. A distinção é importante: uma ferramenta pode auxiliar na análise de evidências, mas não deve fabricar a suspeita que justificará sua própria utilização.

Também não basta afirmar que haverá uma pessoa responsável pela decisão final. Se o agente público não conhece os critérios do sistema, não consegue verificar a qualidade dos dados e não possui condições reais de contrariar a recomendação, a supervisão humana existe apenas no papel. A máquina indica, o servidor confirma e ninguém consegue explicar como aquela pessoa se tornou um risco.

O uso responsável da segurança preditiva exige finalidade definida, dados de qualidade, avaliação de impacto, auditorias independentes e registro das decisões tomadas. Exige ainda a possibilidade de contestação por quem sofrer consequências concretas, além da identificação clara de quem responde quando o sistema erra. Sem essas garantias, a inovação corre o risco de ampliar a capacidade de vigilância do Estado sem ampliar, na mesma proporção, sua responsabilidade.

Antecipar situações de risco pode salvar vidas e tornar a segurança pública mais eficiente. O que não se pode admitir é que uma probabilidade seja tratada como prova, que um endereço funcione como antecedente ou que uma correlação estatística substitua a investigação de fatos.

O algoritmo não conhece o futuro. Ele reorganiza informações do passado e calcula possibilidades a partir delas. A decisão sobre o que fazer com essas possibilidades continua sendo humana, jurídica e política.

Talvez o maior perigo de um sistema preditivo não seja deixar de identificar quem cometerá um crime. Talvez seja conceder ao Estado o poder de criar um suspeito antes mesmo que o crime exista.

Cadu Guerreiro é advogado, especialista em gestão pública, compliance e integridade.