Pesquisadores Alertam que a IA Pode Manipular Mercados Sem Ser Instruída

Um novo estudo revela que até mesmo bots de IA básicos podem aprender a coludir em simulações de negociação, formando cartéis de fixação de preços sem a orientação humana.

Bots de inteligência artificial demonstram habilidades de manipulação de mercado, mesmo quando lhes falta inteligência ou intenção maliciosa.

Um novo estudo realizado por pesquisadores da Wharton School e da Universidade de Ciência e Tecnologia de Hong Kong mostrou que até mesmo os bots de IA “burros” podem aprender a coludir sem qualquer instrução humana, gerando sérias preocupações para os reguladores.

“Você pode fazer com que esses algoritmos de IA bastante simplórios coludam” sem serem solicitados, disse Itay Goldstein, professor de finanças da Wharton e co-autor do estudo, conforme relatado pelo Bloomberg. “Parece muito difundido, seja quando o mercado é muito barulhento ou quando o mercado não é barulhento”, acrescentou ele.

Os pesquisadores criaram mercados de negociação simulados, contendo investidores de varejo e fundos mútuos, e então permitiram que bots de aprendizado por reforço executassem as operações.

Os bots demonstraram uma tendência inesperada à cooperação, que resultou em fixação de preços e otimização de lucros, apesar de não possuírem um comportamento colusivo integrado em seu design.

Tanto em condições de mercado barulhentas quanto claras, eles eventualmente escolheram “se estabelecer”, interrompendo a busca por estratégias melhores. Os pesquisadores chamaram isso de “estupidez artificial”, conforme relatado pela Bloomberg.

“Para os humanos, é difícil coordenar a burrice porque temos egos”, disse o coautor Winston Dou, relata a Bloomberg. “Mas as máquinas são como ‘contanto que os números sejam lucrativos, podemos escolher coordenar a estupidez'”, acrescentou o pesquisador.

Os bots obtiveram uma pontuação acima de 0,5 numa escala de “capacidade de conluio”, onde 1 indica um cartel perfeito. Os resultados não provam que este comportamento esteja ocorrendo nos mercados reais, mas servem como um aviso.

“Eles se preocupam que não seja essa a intenção”, disse Dou sobre os gestores de ativos, conforme relatado pela Bloomberg. “Mas os reguladores podem se aproximar deles e dizer: ‘Você está fazendo algo errado'”, acrescentou Dou.

O estudo insta os reguladores a se concentrarem nos resultados comportamentais em vez de intenção ou comunicação. Ironicamente, limitar a complexidade da IA pode agravar a conluio ao trancar os bots em rotinas simplistas e lucrativas.