A Polícia Utiliza Bots de IA para se Passar por Vítimas de Tráfico Online

Departamentos de polícia próximos à fronteira entre os EUA e o México estão utilizando bots de IA que se passam por civis na internet para investigar crimes, o que desperta preocupações sobre as liberdades civis.

De acordo com um extenso relatório da 404 Media, departamentos de polícia dos EUA próximos à fronteira com o México estão silenciosamente usando bots de IA que se passam por manifestantes, trabalhadores do sexo, crianças e criminosos em um esforço para coletar informações online.

A tecnologia – chamada Overwatch – está sendo vendida por uma empresa sediada em Nova York chamada Massive Blue. A 404 Media diz que esses bots são projetados para enganar suspeitos a revelar informações via redes sociais, texto ou aplicativos de mensagens.

A 404 Media obteve documentos que revelam que os departamentos de polícia usam personas de IA para rastrear indivíduos suspeitos de tráfico humano, tráfico de drogas e pessoas rotuladas como “ativistas radicalizados” e “manifestantes universitários”.

A 404 Media informa que o sistema de vigilância de IA da Massive Blue opera sob um contrato de $360.000 com o Condado de Pinal, Arizona, financiado por uma bolsa contra o tráfico humano. O acordo proporciona vigilância contínua e permite até 50 personas de IA. Outro condado, Yuma, testou o sistema, mas decidiu não renová-lo, dizendo: “Não atendeu às nossas necessidades.”

Os bots de IA são surpreendentemente detalhados, como observado pela 404 Media. Por exemplo, um personagem é “Jason”, um tímido garoto de 14 anos de Los Angeles que fala espanhol e adora anime. Em uma troca de mensagens roteirizada, um adulto pergunta a ele:

“Seus pais estão por perto? Ou você está tendo um tempo sozinho incrível.”
“Estou de boa sozinho, cara. Minha mãe está no trabalho e meu pai fora da cidade”, responde Jason.

Outro personagem AI é uma mulher iemenita-americana de 25 anos que fala árabe e usa aplicativos como Telegram e Signal. Há também uma “persona de protesto radicalizada” que se passa por uma ativista solitária de 36 anos interessada em positividade corporal e culinária.

“Essa ideia de ter uma IA fingindo ser alguém, um jovem procurando pedófilos para conversar online, ou alguém que é um falso terrorista, é uma ideia que remonta muito tempo atrás”, disse Dave Maass da Electronic Frontier Foundation, como relatado pela 404 Media.

“O problema com todas essas coisas é que são problemas mal definidos. Não estou preocupada com escoltas. Não estou preocupada com manifestantes universitários. Então, tipo, para que é eficaz, violar os direitos da Primeira Emenda dos manifestantes?” acrescentou Dave.

Apesar de tudo isso, a 404 Media relata que o condado de Pinal confirma que ainda não foram feitas prisões. “O Massive Blue gerou pistas que os detetives estão ativamente seguindo”, disse o porta-voz Sam Salzwedel. “Mas não podemos divulgar mais detalhes”, acrescentou ele.