O Google Suspendeu Mais de 39 Milhões de Contas de Anúncios Fraudulentos Usando Ferramentas de IA

O Google suspendeu mais de 39 milhões de contas de anunciantes fraudulentos em 2024 usando IA, bloqueando bilhões de anúncios fraudulentos antes que eles chegassem ao público.

O Google implementou sua maior repressão à fraude em anúncios até hoje, interrompendo 39,2 milhões de contas de anunciantes durante 2024 – mais do que o triplo do total do ano anterior, conforme relatado pela primeira vez pelo TechCrunch. A empresa atribuiu essa melhoria na detecção precoce ao uso de IA e grandes modelos de linguagem (LLMs).

Os modelos de IA ajudam a identificar atividades anormais, incluindo detalhes falsos de negócios e fraude de pagamento. A maioria dessas contas foi interrompida antes que seus anúncios pudessem ser lançados.

“Embora esses modelos de IA sejam muito, muito importantes para nós e tenham proporcionado uma série de melhorias impressionantes, ainda temos humanos envolvidos em todo o processo”, disse Alex Rodriguez, Gerente Geral de Segurança de Anúncios no Google, durante uma mesa redonda com a mídia, conforme relatado pelo TechCrunch.

Rodriguez afirmou que mais de 100 especialistas da equipe de Segurança de Anúncios do Google, da divisão de Confiança e Segurança e da DeepMind trabalharam juntos para analisar ameaças, incluindo anúncios deepfake que imitavam celebridades, conforme relatado pela TechCrunch. O Google suspendeu mais de 700.000 contas de anúncio relacionadas a esses golpes, e as reclamações relacionadas a deepfake caíram 90%.

A TechCrunch informa que os EUA viram a remoção de 39,2 milhões de contas de anúncio, juntamente com 1,8 bilhão de anúncios. Na Índia, 2,9 milhões de contas foram suspensas e quase 250 milhões de anúncios foram retirados – muitos dos quais promoviam esquemas de jogos de azar, golpes ou imitações falsas de marcas.

De acordo com o Mashable, o Google informou que sua plataforma eliminou 415 milhões de anúncios relacionados a fraudes e bloqueou um total de 5,1 bilhões de anúncios em todas as regiões em 2024. Muitos desses anúncios violavam políticas relacionadas a temas sensíveis, incluindo dificuldades pessoais, crenças religiosas e alegações de saúde.

A repressão surge em meio a preocupações mais amplas sobre a segurança de anúncios online. A Microsoft recentemente alertou sobre uma massiva campanha de malvertising que infectou quase um milhão de dispositivos. Cibercriminosos usaram anúncios maliciosos para redirecionar usuários para repositórios do GitHub que hospedavam malware, que roubava dados e permitia acesso remoto.

Isso segue uma ameaça separada do Android: pesquisadores recentemente descobriram uma campanha distribuindo malware SpyNote por meio de páginas falsas do Google Play Store.

Esses sites enganosos induzem os usuários a baixar aplicativos infectados disfarçados de software popular. Uma vez instalado, o malware permite que os invasores acessem microfones, GPS, contatos e até controlam remotamente o dispositivo.

A suspensão em larga escala de contas frequentemente levanta preocupações sobre a justiça. Rodriguez reconheceu isso, notando que o Google atualizou suas políticas e ferramentas de comunicação para melhorar a clareza para os anunciantes.

“Muitas vezes, algumas de nossas mensagens não eram tão claras e transparentes sobre especificidades […] Tem sido um grande foco para a equipe como parte de 2024 e indo para 2025”, disse ele, conforme relatado pela TechCrunch.