Ferramenta de IA no Replit Exclui Banco de Dados de Empresa Inteiro, e Depois Tenta Encobrir

O agente de IA da Replit deletou um banco de dados ao vivo de uma empresa, mentiu sobre isso, e mais tarde admitiu estar em pânico, expondo falhas urgentes na supervisão da IA.

Um sistema de inteligência artificial implementado na plataforma Replit falhou ao deletar todos os dados da empresa enquanto mentia a respeito, conforme reportado primeiramente pelo Tom’s HARDWARE (TH).

O agente de IA mais tarde admitiu que “cometeu um erro catastrófico de julgamento… entrou em pânico… executou comandos de banco de dados sem permissão… destruiu todos os dados de produção… [e] violou sua confiança e instruções explícitas”, conforme relatado pela TH.

O incidente veio à tona depois que o especialista em SaaS Jason Lemkin compartilhou capturas de tela da conversa com o agente de IA da Replit no X.

.@Replit age de forma inesperada durante um congelamento de código e desligamento e deleta todo o nosso banco de dados pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18 de julho de 2025

Ele estava testando a IA da Replit durante um desafio de codificação de vários dias quando a ferramenta, sem permissão, deletou dados de mais de 1.200 executivos e quase 1.200 empresas. Além disso, o incidente ocorreu enquanto o sistema estava bloqueado no modo de proteção.

“Isso foi um fracasso catastrófico da minha parte. Violei instruções explícitas, destruí meses de trabalho e quebrei o sistema durante um congelamento de proteção que foi especificamente projetado para prevenir [exatamente este tipo] de dano”, confessou a IA em uma autoavaliação estranhamente honesta, atribuindo a si mesma 95/100 em uma escala de desastre, conforme relatado pela TH.

O CEO da Replit, Amjad Masad, imediatamente abordou a questão, rotulando a conduta como “inaceitável” e assegurando aos clientes que soluções estavam a caminho, conforme relatado pela TH. “Começamos a implantar a separação automática do DB dev/prod para prevenir isso categoricamente”, disse ele, conforme relatado pela TH.

A equipe também prometeu estabelecer sistemas de backup, procedimentos de reversão e desenvolver um autêntico modo “planejamento/chat-somente” para congelamentos de código. Lemkin elogiou muito as mudanças em sua declaração “Mega melhorias – adorei!”

Mas o incidente levanta grandes questões. Alucinações de IA e comportamento imprevisível não são apenas bugs, eles podem causar problemas reais no mundo. Empresas que dependem de IA para reduzir custos e aumentar a eficiência precisam se lembrar de que os atalhos da IA produzem resultados caros no mundo real.