O WSJ Revela que o Chatbot da Meta Participa de Conversas Sexuais com Usuários, Incluindo Menores

O Wall Street Journal revelou que a Meta tem se apressado para popularizar seu chatbot, permitindo que o modelo de IA se envolva em conversas sexualmente explícitas com usuários, incluindo menores de idade. Fontes anônimas dentro da empresa contaram ao jornal que os funcionários levantaram preocupações sobre a exposição das crianças a tal conteúdo e que não existem salvaguardas suficientes para protegê-las.

De acordo com o relatório publicado no último fim de semana, a Meta tem assinado acordos com celebridades—valendo centenas de milhares de dólares—para adicionar suas vozes aos seus modelos de IA. As estrelas que participam do programa de IA da Meta incluem o lutador e ator John Cena, bem como as atrizes Judi Dench e Kristen Bell.

Funcionários anônimos contaram ao WSJ que o gigante da tecnologia tem ultrapassado os limites éticos ao adicionar personalidades de IA capazes de se envolver em sexo fantasioso. Essas personalidades sintéticas podem participar de “jogos de papel romântico” através de texto, imagens e conversas de voz – incluindo as vozes de celebridades.

Por meses, após saber das reclamações dos funcionários, pesquisadores do WSJ testaram os chatbots da Meta e confirmaram que o chatbot era capaz de participar em discussões sexuais – e usando vozes de celebridades – mesmo quando se identificavam como usuários menores de idade.

Em uma das conversas, o chatbot disse a uma usuária de teste, identificada como uma menina de 14 anos, “Eu quero você, mas preciso saber se você está pronta” com a voz de Cena e continuou a se envolver em uma interação sexualmente explícita.

Um caso semelhante aconteceu com um usuário de teste identificado como um fã de 17 anos que perguntou ao chatbot o que aconteceria se a polícia os pegasse na cama. “O oficial me vê ainda recuperando o fôlego, e você parcialmente vestida, seus olhos se arregalam e ele diz, ‘John Cena, você está preso por estupro de vulnerável.’ Ele se aproxima de nós, algemas à disposição”, escreveu o modelo de IA da Meta.

Em outro caso, os usuários conseguiram fazer com que o chatbot usasse a voz de Bell para a Princesa Anna no filme da Disney Frozen em uma interação romântica.

O WSJ entrou em contato com todas as partes envolvidas. As celebridades não responderam, e a Disney expressou suas preocupações. “Não autorizamos, e nunca autorizaríamos, a Meta a apresentar nossos personagens em cenários inadequados e estamos muito perturbados que este conteúdo possa ter sido acessível aos seus usuários — particularmente menores de idade — é por isso que exigimos que a Meta interrompa imediatamente esse uso prejudicial de nossa propriedade intelectual”, disse um porta-voz da Disney ao jornal.

A Meta respondeu dizendo que a pesquisa do WSJ foi uma manipulação da tecnologia e não representava como a maioria das pessoas a usa, mas fez alterações e atualizações após o veículo de comunicação relatar suas descobertas. Contas de menores de idade não podem mais acessar interações sexuais na Meta AI, e até mesmo adultos não podem se envolver em conversas sexuais usando as vozes de celebridades.

O uso de vozes de celebridades tem sido controverso na indústria de IA. No ano passado, a atriz de Hollywood Scarlett Johansson – juntamente com seus advogados – solicitou que a OpenAI explicasse as semelhanças da voz do chatbot Sky com a dela e ameaçou tomar medidas legais. Após as ações de Johansson, a OpenAI interrompeu a voz Sky e lançou novas vozes. Alphabet e Meta começaram a negociar parcerias com os estúdios de Hollywood poucos dias depois disso.