Os pesquisadores alertam que o uso crescente de inteligência artificial (IA) na polícia pode aumentar a discriminação contra minorias. Estudos indicam que previsões de áreas de alta criminalidade baseadas em dados imparciais podem reforçar preconceitos existentes.

Feedback loop perigoso

A Associação de Escritores de Ciência Britânicos premiou Adrian Dredge, um jovem escritor científico britânico, por sua análise sobre os riscos associados ao uso de IA na polícia. Segundo Dredge, os sistemas de IA são treinados com dados que já contêm viés humano, criando um ciclo vicioso.

Um exemplo dado é de uma pessoa que cria um mapa baseado em mapas antigos e dados parciais, resultando em uma interpretação distorcida das áreas de criminalidade. Isso leva a mais registros de crimes em áreas monitoradas intensamente e menos em outras, perpetuando a discriminação.