A OpenAI Adicionará Guarda-Corpos de Saúde Mental para o ChatGPT

A OpenAI anunciou novas mudanças em seu chatbot de IA, o ChatGPT, na segunda-feira, incluindo a introdução de salvaguardas de saúde mental destinadas a apoiar usuários vulneráveis. As atualizações são projetadas para impedir que o ChatGPT tome decisões pelos usuários e incluirão lembretes para fazer pausas após interações prolongadas com o sistema de IA.

De acordo com o anúncio oficial, a OpenAI planeja tornar o ChatGPT mais útil, além de corrigir e otimizar seu comportamento. A empresa reconhece que atualizações anteriores tornaram o modelo de IA “muito concordante” e que muitas pessoas o utilizam como um terapeuta durante momentos difíceis.

“A IA pode parecer mais responsiva e pessoal do que as tecnologias anteriores, especialmente para indivíduos vulneráveis que estão passando por sofrimento mental ou emocional”, escreveu a OpenAI. “Para nós, ajudar você a prosperar significa estar lá quando você está lutando, ajudando você a manter o controle do seu tempo e orientando – não decidindo – quando você enfrenta desafios pessoais.”

O ChatGPT agora foi treinado para reconhecer melhor quando um usuário está emocional ou mentalmente em dificuldades e fornecer respostas mais apropriadas. Essas mudanças seguem vários relatos de usuários que se apegaram excessivamente ao ChatGPT, experimentando uma piora na saúde mental, e o surgimento de casos descritos como “psicose de IA.”

“Houve casos em que nosso modelo 4o falhou em reconhecer sinais de delírio ou dependência emocional”, explicou a OpenAI, acrescentando que novas ferramentas estão sendo implementadas para detectar melhor possíveis preocupações com a saúde mental.

O sistema de IA também incluirá lembretes periódicos para os usuários fazerem pausas nas interações e se concentrará em ajudar os usuários a chegar às suas próprias conclusões, fazendo mais perguntas orientadoras em vez de oferecer respostas diretas. Essa abordagem é semelhante ao novo Modo de Estudo do ChatGPT, no qual ele apoia os alunos incentivando o pensamento crítico e fazendo perguntas socráticas em vez de simplesmente fornecer soluções.

A OpenAI também destacou que tem trabalhado de perto com uma variedade de especialistas – incluindo clínicos gerais, psiquiatras e pediatras – para garantir que o ChatGPT ofereça assistência significativa em momentos críticos. A empresa também criou um grupo consultivo para se reunir com profissionais de saúde mental e orientar o desenvolvimento dessas funcionalidades.