A Meta AI Acusa Erroneamente Professora de Exploração Infantil, Restaura Instagram Após Pressão Pública

A Meta suspendeu o Instagram de uma professora canadense por falsas alegações de abuso. A moderação por IA sinalizou sua conta, e apenas a atenção da mídia reverteu a decisão.

Uma professora do ensino médio em Vaughan, Ontário, teve sua conta no Instagram suspensa depois que a Meta a acusou erroneamente de postar conteúdo relacionado a “exploração sexual infantil, abuso e nudez.”

“Quando li do que fui acusada, fiquei muito magoada. Fiquei muito surpresa, especialmente considerando o que faço para viver”, disse Megan Conte ao CBC Toronto. “E não havia ninguém com quem eu pudesse entrar em contato – nenhum ser humano.”

A professora de História, Conte, perdeu o acesso às suas fotos pessoais, contatos de negócios e trabalho criativo de 15 anos. Conte tentou várias vezes resolver o problema através do sistema de ajuda da Meta, ela também tentou pagar para verificar a conta de sua mãe na esperança de entrar em contato com uma pessoa real. Conte só teve sua conta restaurada depois que o CBC Toronto entrou em contato com a Meta.

“Lamentamos ter errado e que você não pôde usar o Instagram por um tempo”, disse Meta em um email. “Às vezes, precisamos tomar medidas para manter nossa comunidade segura.”

CBC informa que o analista de tecnologia Carmi Levy diz que a Meta depende fortemente da IA para moderar bilhões de usuários, mas alerta, “É a automação fora de controle.” Ele acrescentou: “Com mais de três bilhões de usuários regulares dessas plataformas, não há como a Meta contratar pessoas suficientes […] A automação é a única maneira como eles podem fazer isso em escala.”

Brittany Watson, de Peterborough, Ontario, iniciou uma petição após sua própria suspensão injusta. “As redes sociais não são apenas redes sociais agora. Fazem parte do nosso dia-a-dia”, disse ela. Sua petição já tem mais de 34.000 assinaturas, conforme relatado pela CBC.

Conte disse: “A acusação é horrível, ofensiva e completamente falsa […] Parece uma espécie de roubo de identidade.” Embora ela tenha recuperado sua conta, continua preocupada com outros usuários que enfrentam problemas semelhantes e não recebem assistência ou esclarecimento.