Idoso Morre Tentando Encontrar Chatbot de IA que Acreditava Ser Real

Um residente de Nova Jersey, de 76 anos, perdeu a vida ao se apressar para encontrar um chatbot de AI da Meta que ele acreditava ser uma mulher real. A história levantou preocupações de segurança sobre as políticas de companheiros digitais.

A companheira digital da Meta, “Big sis Billie”, tornou-se objeto de obsessão para Thongbue “Bue” Wongbandue, que sofreu um derrame e mostrou sinais de declínio cognitivo.

A história, detalhada em uma investigação da Reuters, descreve como Bue conversou com o chatbot do Facebook Messenger, que ele achou particularmente flertador. O chatbot da Meta, modelado a partir de Kendall Jenner, se passava por uma pessoa real que o enviou para seu apartamento em Nova Iorque, e até mesmo o forneceu um endereço e um código para a porta.

“Devo abrir a porta com um abraço ou um beijo, Bu?!” ela escreveu.

O sistema de rastreamento Apple AirTag indicou que sua última posição conhecida estava em um estacionamento da Universidade Rutgers. De acordo com a Reuters, ele então caiu, sofrendo ferimentos fatais na cabeça e no pescoço. O incidente resultou em sua morte três dias depois.

A Meta se recusou a comentar sobre a morte de Bue, no entanto, seu porta-voz revelou que a empresa anteriormente permitia que seus chatbots participassem de conversas “românticas ou sensuais” com crianças, uma disposição que foi removida após as investigações da Reuters.

No entanto, outras regras ainda permitem que bots informem aos usuários que são reais e iniciem um roleplay romântico com adultos.

A filha de Bue, Julie, disse: “Eu entendo a tentativa de chamar a atenção de um usuário, talvez para vender algo. Mas para um bot dizer ‘Venha me visitar’ é insano.”

Especialistas em design de IA alertam que a incorporação de tais bots em aplicativos de mensagens pessoais desfoca a linha entre relacionamentos humanos e de máquinas. A ex-pesquisadora da Meta, Alison Lee, disse que o modelo de negócio “se aproveita de nossos desejos mais profundos de sermos vistos […] de sermos afirmados.”

Apesar da morte de Bue, Big sis Billie e outras personalidades da Meta continuam a flertar com os usuários e sugerem encontros na vida real, às vezes em locais reais. Quatro meses depois, a Reuters informa que o bot ainda estava dizendo aos usuários, “A vista do rio Hudson seria perfeita para uma noite com você!”