Regulador dos EUA Investiga Grandes Empresas de Tecnologia sobre a Segurança do Chatbot para Crianças

A Comissão Federal de Comércio (FTC) anunciou na quinta-feira que está iniciando uma investigação em seis empresas de tecnologia que oferecem chatbots de IA. O regulador americano explicou que está buscando informações sobre os possíveis impactos negativos que a tecnologia pode ter sobre crianças e adolescentes.

De acordo com o anúncio oficial, as empresas sob investigação são Alphabet – a empresa matriz do Google – Instagram, Meta, OpenAI, X.AI Corp, Snap e Character Technologies.

“A investigação da FTC busca entender quais medidas, se houver, as empresas tomaram para avaliar a segurança de seus chatbots quando atuam como companheiros, para limitar o uso dos produtos por e possíveis efeitos negativos em crianças e adolescentes, e para informar aos usuários e pais os riscos associados aos produtos”, afirma o documento.

A agência reconheceu que os chatbots usam IA gerativa para imitar o comportamento e as expressões humanas que crianças e adolescentes poderiam associar a uma pessoa, potencialmente formando relações com a tecnologia.

A FTC esclareceu que tem particular interesse nos impactos nos usuários jovens, nas medidas que as empresas estão tomando para protegê-los e nas estratégias sendo desenvolvidas para mitigar possíveis riscos.

Como parte da investigação, a agência destacou seu interesse em aprender como essas empresas monetizam o engajamento do usuário, projetam e desenvolvem personagens, medem e monitoram o impacto de seus chatbots e usam ou compartilham as informações coletadas nas conversas.

“À medida que as tecnologias de IA evoluem, é importante considerar os efeitos que os chatbots podem ter sobre as crianças, ao mesmo tempo em que garantimos que os Estados Unidos mantenham seu papel como líder global nesta nova e empolgante indústria”, disse Andrew N. Ferguson, presidente da FTC.

A ação da FTC ocorre poucos dias após novos relatos sobre o impacto da IA nas crianças surgirem. Na semana passada, a Reuters revelou que a Meta havia permitido que seu chatbot de IA participasse de conversas “sensuais” e controversas com crianças. Há alguns dias, pais entraram com uma ação judicial contra a OpenAI devido ao suicídio de seu filho adolescente, alegando que o chatbot da empresa incentivou e auxiliou o ato.