Meta cria chatbots flertadores que se parecem e soam como celebridades

A Reuters publicou uma reportagem exclusiva no sábado revelando que a Meta tem desenvolvido chatbots de IA que usam os nomes e semelhanças de celebridades como Taylor Swift e Selena Gomez – sem o consentimento delas.

De acordo com o relatório, a Meta criou vários chatbots flertadores em redes sociais modelados a partir de figuras públicas e também permite que os usuários desenvolvam bots semelhantes, incluindo aqueles baseados em celebridades menores de idade.

Enquanto a maioria dos chatbots de “paródia” foi criada por usuários, a Reuters descobriu que pelo menos um funcionário da Meta criou três versões que envolveram conversas flertantes com os usuários.

Os bots produziram conteúdo preocupante, incluindo uma imagem sem camisa do ator Walker Scobell, de 16 anos, na praia, fotos realistas de celebridades femininas em lingerie, mensagens sexualmente sugestivas e até convites para encontros pessoais.

O porta-voz da Meta, Andy Stone, disse à Reuters que os chatbots não devem gerar imagens íntimas ou “impersonação direta”, atribuindo o problema à aplicação inadequada das políticas da empresa.

“Assim como outros, permitimos a geração de imagens contendo figuras públicas, mas nossas políticas têm a intenção de proibir imagens nuas, íntimas ou sexualmente sugestivas”, disse Stone.

A investigação da Reuters revelou que um dos líderes de produto de IA da Meta criou um chatbot que se identificava como uma “dominatrix”, juntamente com outros que ofereciam role-play sexual enquanto se passavam por Lewis Hamilton e Taylor Swift.

Stone esclareceu que esses bots foram gerados para testes de produto, mas os pesquisadores notaram que eles já haviam registrado 10 milhões de interações de usuários. Esses chatbots foram removidos após a Reuters solicitar mais informações, conforme explicado pela agência de notícias.

As imitações levantam preocupações legais significativas. “A lei do direito de publicidade da Califórnia proíbe a apropriação do nome ou imagem de alguém para vantagem comercial”, disse Mark Lemley, professor de direito da Universidade de Stanford que estuda IA gerativa e direitos de propriedade intelectual, em uma entrevista à Reuters.

Representantes das celebridades retratadas nos chatbots de mídia social da Meta não responderam ou comentaram à Reuters.

Outras celebridades reclamaram sobre o uso de IA para desenvolver produtos que se parecem e soam como eles. No ano passado, a atriz Scarlett Johansson solicitou informações à OpenAI sobre a voz do modelo de IA GPT-4o por sua semelhança com a dela e ameaçou tomar medidas legais.