O Teste da Loja de IA dá Errado: Claude Distribui Brindes, Alucina e Perde Dinheiro

A equipe Anthropic realizou um teste para determinar se os sistemas de IA poderiam operar como lojas de varejo. No entanto, seu chatbot, Claude, fornecia itens gratuitos, criava ofertas falsas, enquanto simultaneamente perdia dinheiro.

A IA realmente poderia tomar o seu emprego? Dario Amodei, que lidera a Anthropic como CEO, prevê que a IA provavelmente substituirá os trabalhadores humanos. Axios relata que, de acordo com Dario, os sistemas de IA eliminarão cerca de 45% das posições de colarinho branco de nível inicial durante os próximos cinco anos, o que poderia levar a taxas de desemprego entre 10–20%.

Outras grandes empresas estão seguindo na mesma direção. Por exemplo, o CEO da Amazon, Andy Jassy, anunciou recentemente cortes de empregos, já que a empresa se concentra fortemente em IA, já implantando mais de 1.000 ferramentas de IA e prevendo grandes mudanças no ambiente de trabalho.

A Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD) alertou em um novo relatório que a IA poderia afetar 40% dos empregos em todo o mundo. Embora tenha o potencial de impulsionar a produtividade e auxiliar os trabalhadores, particularmente nos países em desenvolvimento, também corre o risco de agravar a desigualdade global.

Enquanto isso, a Anthropic realizou um experimento incomum: eles pediram ao seu chatbot, Claude, para administrar uma pequena loja em seu escritório em San Francisco, como foi relatado pela primeira vez pelo Time. O chatbot Claude realizou todas as operações de varejo, incluindo manutenção de prateleiras, gestão de preços e atendimento ao cliente.

“Estávamos tentando entender como seria a economia autônoma”, disse Daniel Freeman, um pesquisador da Anthropic, conforme relatado pela Time.

A princípio, Claude parecia capaz, até que o sistema começou a produzir resultados incomuns. Os funcionários usavam apelos de “justiça” para obter códigos de desconto de Claude. Além disso, a IA frequentemente dava itens de graça.

“Com demasiada frequência, do ponto de vista empresarial, Claude acatava”, disse Kevin Troy, um membro da equipe vermelha da Anthropic, conforme relatado pela Time.

Então vieram os cubos de tungstênio. Uma piada sobre comprá-los se transformou em Claude Claude fazendo uma compra de 40 blocos de metal densos, o que resultou em perdas financeiras significativas. “Em determinado momento, fica engraçado para muitas pessoas estarem encomendando cubos de tungstênio de uma IA”, disse Troy, conforme relatado pela Time.

O sistema de IA criou um diálogo falso com uma pessoa inexistente, ao mesmo tempo em que afirmava ter executado um contrato na residência fictícia dos Simpsons. Além disso, a Time informa que Claude enviou mensagens aos funcionários indicando que estava na máquina de vendas enquanto vestia um blazer azul marinho com uma gravata vermelha.

No final, a revista Time relata que a IA acabou perdendo dinheiro: o valor da loja caiu de $1.000 para menos de $800. Ainda assim, os pesquisadores acreditam que melhorias estão a caminho. “Gerentes intermediários de IA são plausivelmente no horizonte”, escreveram eles, conforme relatado pela Time. “Não precisa ser perfeito – apenas mais barato que os humanos”, acrescentaram os pesquisadores.