Juíza Multa Advogados por Usarem Pesquisa Jurídica Gerada por IA Falsa

Uma juíza dos EUA criticou duramente duas firmas de advocacia por incluírem informações jurídicas falsas geradas por IA em um processo judicial, chamando isso de uma grande falha na responsabilidade legal.

O juiz Michael Wilner, com base na Califórnia, multou as empresas em $31,000 após descobrir que a peça processual estava repleta de “citações e citações jurídicas falsas, imprecisas e enganosas”, conforme relatado inicialmente por WIRED.

“Nenhum advogado razoavelmente competente deveria terceirizar pesquisa e escrita” para a IA, escreveu Wilner em sua decisão, alertando que estava perto de incluir os casos falsos em uma ordem judicial.

“Eu li o resumo deles, fui persuadida (ou pelo menos intrigada) pelas autoridades que eles citaram, e procurei as decisões para aprender mais sobre elas – apenas para descobrir que elas não existiam”, disse ele, conforme relatado pela WIRED. “Isso é assustador”, acrescentou.

A situação surgiu durante um processo civil contra a State Farm. Um advogado utilizou ferramentas de IA para elaborar um esboço jurídico. Esse documento, contendo pesquisa falsa, foi entregue ao grande escritório de advocacia K&L Gates, que o adicionou a um arquivo oficial.

“Nenhum advogado ou membro da equipe de ambos os escritórios aparentemente checou as citações ou revisou essa pesquisa antes de arquivar o pedido”, observou Wilner, conforme relatado pela WIRED.

Após descobrir que pelo menos dois dos casos citados foram completamente inventados, a juíza Wilner pediu esclarecimentos à K&L Gates. Quando eles apresentaram uma nova versão, descobriu-se que incluía ainda mais citações falsas. A juíza exigiu uma explicação, que revelou declarações juramentadas admitindo o uso de ferramentas de IA, conforme relatado pela WIRED.

Wilner concluiu: “O uso inicial não revelado de produtos de IA para gerar o primeiro rascunho da defesa foi absolutamente errado […] E enviar esse material para outros advogados sem revelar sua origem duvidosa de IA colocou esses profissionais realisticamente em perigo”, conforme relatado pela WIRED.

Esta não é a primeira vez que a IA causou problemas em tribunais. De fato, dois advogados do Wyoming recentemente admitiram o uso de casos gerados por IA falsa em uma petição judicial para um processo contra a Walmart. Um juiz federal ameaçou sancioná-los também.

Nesse cenário, as “alucinações” da IA — informações inventadas geradas por ferramentas de IA — estão se tornando uma preocupação crescente no sistema jurídico.