Hackers Norte-Coreanos Usaram ChatGPT para Forjar Identificação Militar Deepfake em Ciberataque

Um suposto grupo de hackers patrocinado pelo estado norte-coreano usou o ChatGPT para criar uma identidade militar sul-coreana deepfake como parte de um ciberataque

Os atacantes desenvolveram um cartão de identidade falso para aumentar sua credibilidade durante sua operação de phishing, conforme relatado pela Bloomberg. Em vez de incluir uma imagem real, o email de phishing continha um link que disparava um download de malware, projetado para roubar dados dos dispositivos das vítimas.

Acredita-se que os hackers façam parte do Kimsuky, um grupo há muito suspeito de trabalhar para Pyongyang. O Departamento de Segurança Interna dos EUA declarou em 2020 que Kimsuky “provavelmente é encarregado pelo regime norte-coreano com uma missão global de coleta de informações”, conforme relatado pela Bloomberg.

Os alvos de phishing neste último ataque incluíam jornalistas sul-coreanos, pesquisadores e ativistas de direitos humanos focados na Coreia do Norte. A Bloomberg explica que os e-mails de phishing até usaram um endereço que terminava em “.mil.kr” para imitar o exército sul-coreano. Ainda não está claro quantas pessoas foram afetadas.

“Os invasores podem aproveitar a IA emergente durante o processo de hacking, incluindo o planejamento de cenários de ataque, desenvolvimento de malware, construção de suas ferramentas e para se passar por recrutadores de emprego”, disse Mun Chong-hyun, diretor da Genians, a empresa de cibersegurança sul-coreana que descobriu o ataque pela primeira vez.

A Bloomberg relata como os pesquisadores da Genians descobriram que o ChatGPT inicialmente se recusou a criar um ID quando solicitado, uma vez que a reprodução de IDs governamentais é ilegal na Coréia do Sul. Mas alterar o prompt permitiu que eles contornassem a restrição.

Este não é o primeiro caso de hackers norte-coreanos explorando a IA. Por exemplo, a Anthropic relatou em agosto que hackers usaram sua ferramenta Claude Code para conseguir empregos remotos em empresas da Fortune 500 nos EUA.

Autoridades dos EUA alertam que a Coreia do Norte continua a contar com ciberataques, roubo de criptomoedas e contratados de TI para coletar informações de inteligência e financiar seu programa nuclear.