A BBC Revela Golpe de Imagem do Holocausto com IA no Facebook

Alguns usuários do Facebook tornaram-se vítimas de spammers lucrando com imagens do Holocausto manipuladas por IA, causando indignação entre os sobreviventes do Holocausto.

Uma investigação da BBC descobriu uma rede internacional de spammers que utilizam imagens geradas por IA de vítimas do Holocausto para lucrar com o sistema de monetização do Facebook.

A prática enfrenta oposição de organizações de memória do Holocausto, pois consideram as imagens geradas por IA prejudiciais aos sobreviventes e aos seus familiares.

“Existem apenas algumas fotos autênticas de dentro do campo de concentração de Auschwitz durante a Segunda Guerra Mundial”, observou a investigação à BBC.

Spammers de IA começaram a postar conteúdo artificial que inclui imagens encenadas de prisioneiros tocando violinos e amantes se encontrando perto de cercas de prisão, que supostamente receberam milhares de curtidas e compartilhamentos.

“Aqui temos alguém inventando as histórias… para algum tipo de estranho jogo emocional que está acontecendo nas redes sociais”, disse Pawel Sawicki, porta-voz do Memorial de Auschwitz na Polônia, conforme relatado pela BBC.

“Isso não é um jogo. É um mundo real, com sofrimento real e pessoas reais que queremos e precisamos comemorar”, acrescentou Sawicki.

A BBC vinculou muitas postagens a criadores de conteúdo baseados no Paquistão que exploravam o programa de Monetização de Conteúdo (CM) somente para convidados da Meta. A conta, operada por Abdul Mughees, supostamente gerou $20,000 a partir de golpes em redes sociais e alcançou 1.2 bilhões de visualizações durante seus primeiros quatro meses de operação.

As postagens retratam imagens geradas por IA mostrando cenários completamente inventados, como um bebê deixado nos trilhos de um trem em um campo de concentração.

Organizações do Holocausto dizem que essa tendência mina o testemunho dos sobreviventes. “Eles não entendem bem o que estão vendo”, disse o Dr. Robert Williams da Aliança Internacional para a Lembrança do Holocausto Sobreviventes, conforme relatado pela BBC. Ele acrescentou que sente “uma certa tristeza por isso ter sido permitido acontecer.”

Especialistas alertam que, embora a IA possa preservar a memória, o uso distorcido corre o risco de transformar a história do Holocausto em ficção.

Descobertas recentes indicam que os riscos das imagens geradas por IA podem ir além da simples disseminação de informações falsas. Uma nova pesquisa mostrou que o conteúdo gerado por IA pode implantar falsas memórias. As pessoas frequentemente acreditavam que eventos aconteceram quando na verdade nunca ocorreram, e se sentiam muito confiantes sobre essas memórias erradas.

Especialistas dizem que isso pode afetar seriamente a lembrança do Holocausto. A visualização repetitiva de imagens geradas por IA pode distorcer o conhecimento histórico coletivo, à medida que as pessoas lutam para distinguir entre conteúdo real e sintético, especialmente quando esse conteúdo se espalha rapidamente pelas redes sociais.

Embora a IA possa ser útil na educação ou terapia se usada com cuidado, os acadêmicos alertam que em áreas sensíveis como a história do Holocausto, o uso descuidado corre o risco de apagar a verdade em si. Os pesquisadores pedem aprimoramento das regulamentações, documentação precisa e melhor colaboração entre historiadores, tecnólogos e formuladores de políticas para salvaguardar os registros históricos e proteger os testemunhos dos sobreviventes e o conhecimento histórico público.

A Meta removeu algumas páginas após o Museu de Auschwitz sinalizá-las. A BBC informa que um porta-voz disse: “Removemos as Páginas e Grupos compartilhados conosco e desativamos as contas por trás delas por violarem nossas políticas sobre spam e comportamento inautêntico.”