A Wikipedia Ajusta Regras para Combater Erros Gerados por IA

A Wikipedia está alertando os leitores sobre textos gerados por IA, acelerando a exclusão de páginas e proibindo imagens de IA em um grande esforço para preservar a confiabilidade e a confiança.

O rótulo de aviso “Este artigo pode incorporar texto de um grande modelo de linguagem” aparece em centenas de artigos da Wikipedia. The Washington Post relata como editores voluntários trabalham para identificar e eliminar conteúdos gerados por IA que contêm erros, citações falsas e dados enganosos.

“As pessoas realmente confiam muito na Wikipedia”, disse Lucie-Aimée Kaffee, pesquisadora de políticas e IA, conforme relatado pelo The Post. “E isso é algo que não deveríamos corroer”, acrescentou Lucie.

A precisão da Wikipedia depende de uma rede mundial de voluntários que têm lutado contra spam e vandalismo desde a criação da plataforma. Desde 2022, a geração de texto por IA simplificou a criação de artigos convincentes, mas falhos na Wikipedia, disse Marshall Miller, diretor de produto da Fundação Wikimedia. “Gosto de pensar nisso como um sistema imunológico”, disse Miller, conforme relatado pelo The Post.

Um estudo da Universidade de Princeton descobriu que cerca de 5% das novas páginas em inglês da Wikipedia em agosto de 2024 continham texto gerado por IA, conforme relatado pelo The Post. Alguns eram inofensivos, mas outros promoviam negócios ou agendas políticas. Exemplos incluíram um hotel descrito como uma aldeia e um artigo falso sobre uma fortaleza otomana que permaneceu online por quase um ano.

Para combater isso, os editores lançaram o WikiProject AI Cleanup em 2023, criando guias para identificar escrita de IA e listando mais de 500 artigos suspeitos. Em agosto, a Wikipedia implementou uma nova política de exclusão para permitir a remoção rápida de páginas, particularmente aquelas que contêm conteúdo visivelmente produzido por IA ou prompts remanescentes. Além disso, as imagens geradas por IA foram completamente banidas.

“Ah, cara, tenho encontrado MUITO lixo de IA na fila de submissões”, reclamou um editor em junho, conforme relatado pelo The Post.

Embora a Fundação Wikimedia tenha explorado ferramentas de IA para ajudar os editores em tarefas como tradução, Miller enfatizou: “A forma como a Wikipedia permanece neutra e confiável… é que todo esse conteúdo passa pelas mãos das pessoas”. Kaffee acrescentou: “Perguntar, ‘Onde queremos a IA? [ … ] Que tipo de regras queremos estabelecer para o conhecimento gerado pela IA?’ Acho que é realmente importante.”