- O chefe de polícia reconhece que a IA usada no combate ao crime pode ter viés, mas afirma que o risco será combatido.
- O centro nacional de IA policial, previsto para custar £115 milhões, deve reduzir esse viés e avaliar produtos de fornecedores privados.
- Dados históricos podem ensinar vieses às ferramentas, como reconhecimento facial, levando a resultados injustos contra minorias ou indivíduos.
- Autoridades e associações defendem supervisão independente e testes rigorosos antes do uso generalizado.
- A IA é vista como ferramenta para acelerar investigações, busca por veículos vinculados a suspeitos e análise de grandes volumes de provas digitais, sem substituir a decisão humana.
O chefe de polícia reconheceu que a inteligência artificial usada para combater o crime apresentará vieses, mas ressaltou que medidas serão tomadas para reduzi-los. A declaração foi dada em entrevista exclusiva a The Guardian, sobre a criação de um centro nacional de IA policial no Reino Unido, com investimento de 115 milhões de libras.
O objetivo é tornar a IA parte central da atuação policial na Inglaterra e no País de Gales, para acompanhar novas ameaças criminosas. Alex Murray, diretor de liderança de ameaças na National Crime Agency (NCA) e líder nacional de IA, afirmou que o centro buscará identificar e minimizar vieses presentes em ferramentas de reconhecimento facial, vigilância e policiamento preditivo.
Segundo Murray, reconhecer o viés e treiná-lo para ser reduzido é etapa essencial. Ele ressaltou a necessidade de envolver cientistas de dados para limpar dados, treinar modelos e testar resultados antes de implantação na polícia. O objetivo é evitar que sistemas apresentem resultados injustos.
O debate sobre vieses já ganhou espaço com usos retrospectivos de reconhecimento facial, que comparam suspeitos a bancos de imagens após crimes. A polícia usa também reconhecimento facial em tempo real, prática mais controversa. Relatórios apontam falhas de salvaguardas.
A Associação de Comissionados de Polícia e Crimes (APCC) pediu supervisão independente para ferramentas poderosas de IA, citando falhas conhecidas e a necessidade de transparência com as comunidades afetadas. A APCC enfatizou a importância de testes rigorosos antes da implementação.
O centro nacional, previsto para custar 115 milhões de libras, visa reduzir vieses e avaliar quais produtos de fornecedores privados devem ser adotados. Atualmente as forças locais decidem de forma independente, o que é visto como lento e ineficiente.
Murray descreveu a corrida entre polícia e criminosos como uma competição tecnológica, destacando que a IA pode ajudar em várias frentes, desde buscas rápidas até análise de grandes volumes de dados. Ele ressaltou que decisões finais continuam a depender de policiais humanos.
Em casos recentes, a polícia utilizou IA para tratar dados de dispositivos móveis, acelerando processos de investigação e cooperação entre equipes. Um exemplo citado envolveu a análise de conteúdos em romeno para consolidar evidências contra suspeitos.
Entre na conversa da comunidade