Hackers Podem Armar Resumidores de IA para Espalhar Malware

Uma nova pesquisa em cibersegurança revelou uma forma preocupante pela qual os hackers podem usar resumidores de IA para disseminar ataques de ransomware.

Pesquisadores da CloudSek explicam que, por meio de um ataque de engenharia social ClickFix, hackers podem inserir instruções prejudiciais em documentos, utilizando técnicas de codificação invisível. O texto oculto permanece invisível aos olhos humanos, mas os resumidores de IA conseguem detectá-lo. E quando geram resumos, podem, sem saber, transmitir as instruções perigosas aos usuários.

“Uma nova adaptação da técnica de engenharia social ClickFix foi identificada, aproveitando a injeção de prompts invisíveis para armar sistemas de resumo de IA”, disseram os pesquisadores.

O ataque depende da ofuscação baseada em CSS que usa caracteres de largura zero e texto branco sobre branco e fontes minúsculas e colocação fora da tela para esconder instruções. O resumidor detecta o código invisível que permanece invisível aos olhos humanos.

Os atacantes implementam uma sobrecarga imediata adicionando numerosos comandos a seções ocultas que fazem com que a IA selecione esses comandos primeiro em sua saída.

“Quando tal conteúdo manipulado é indexado, compartilhado ou enviado por e-mail, qualquer processo automatizado de resumo que o ingere produzirá resumos contendo instruções ClickFix controladas pelo atacante”, explicou o estudo.

Durante os testes, os pesquisadores demonstraram como um resumidor de IA poderia ser manipulado para instruir os usuários a executar comandos perigosos do PowerShell. Enquanto a versão de teste era inofensiva, um ataque real poderia facilmente iniciar um ransomware.

O nível de risco deste ataque é alto porque os resumidores de IA estão integrados em clientes de e-mail e navegadores e aplicativos de local de trabalho. Os pesquisadores apontam que muitas pessoas confiam nos resumos sem ler o documento original, facilitando para os invasores explorar essa confiança.

Especialistas recomendam defesas como remover texto oculto antes do conteúdo ser resumido, filtrar solicitações suspeitas e alertar os usuários se os resumos contiverem instruções passo a passo.

Sem essas proteções, a IA poderia se tornar inadvertidamente “uma participante ativa na cadeia de engenharia social”.