Milhares de Conversas do ChatGPT Acidentalmente Tornaram-se Públicas

Milhares de usuários do ChatGPT ficaram chocados ao descobrir que suas conversas privadas tornaram-se visíveis publicamente nas pesquisas do Google.

A OpenAI rapidamente retirou o recurso controverso que permitia que as conversas fossem indexadas pelos motores de busca, mas o evento desencadeou preocupações generalizadas com a privacidade dos usuários.

A Fast Company foi a primeira a reportar o problema, descobrindo mais de 4.000 conversas do ChatGPT acessíveis por meio de uma simples pesquisa no Google. Essas conversas expuseram informações pessoais, incluindo preocupações com a saúde mental, uso de drogas, problemas familiares e traumas. Embora as conversas não exibissem nomes de usuário, os detalhes incluídos às vezes tornavam possível identificar indivíduos.

O problema surgiu de uma pequena caixa de seleção rotulada “Tornar este chat descobrível” que aparecia quando os usuários clicavam em “Compartilhar”. Muitos ficaram confusos e interpretaram mal essa opção, já que uma breve e levemente formatada nota na parte inferior fornecia uma explicação insuficiente sobre as consequências.

ArsTechnica relata que o Chefe de Segurança da Informação da OpenAI, Dane Stuckey, disse no dia X que apenas os usuários que optaram por participar tiveram suas conversas indexadas, chamando o experimento de “breve”. Ainda assim, ele admitiu que o recurso “introduziu muitas oportunidades para as pessoas compartilharem acidentalmente coisas que não pretendiam”.

A especialista em ética da IA, Carissa Véliz, criticou a prática: “Estou apenas chocada. Que o Google está registrando essas conversas extremamente sensíveis é simplesmente surpreendente”, conforme relatado pela Fast Company. Ela acrescentou, “Isso também é uma confirmação adicional de que essa empresa, OpenAI, não é confiável, que eles não levam a privacidade a sério, não importa o que digam”.

Uma porta-voz do Google disse à Ars Technica que a indexação depende do que os editores tornam público: “Nem o Google nem qualquer outro mecanismo de busca controlam quais páginas são disponibilizadas publicamente na web.”

A especialista em cibersegurança Rachel Tobac alertou: “As pessoas esperam que possam usar ferramentas como o ChatGPT totalmente em privado, mas a realidade é que muitos usuários não estão totalmente conscientes de que essas plataformas têm recursos que podem vazar involuntariamente suas perguntas, histórias e medos mais íntimos”, conforme relatado pela Fast Company.

A OpenAI prometeu remover os chats expostos dos motores de busca e restaurar a confiança do usuário.