A Apresentadora de IA Ficou ao Vivo por Seis Meses, Ouvintes Pensaram que Era uma Pessoa Real

Uma estação de rádio de Sydney transmitiu uma apresentadora gerada por IA durante meses, enganando os ouvintes e reacendendo o debate sobre a transparência na mídia australiana.

Uma estação de rádio australiana está sob fogo cruzado após transmitir secretamente um apresentador gerado por IA por seis meses, sem nunca informar seu público.

A estação CADA de Sydney, pertencente à ARN Media, apresentou “Thy”, uma voz digital criada usando o software de IA da ElevenLabs, em novembro de 2024, conforme relatado pela primeira vez pelo The Sydney Morning Herald (SMH). Thy apresentava o segmento Workdays with Thy todos os dias da semana, das 11h às 15h, tocando sucessos de hip-hop, R&B e pop. Mas não houve menção pública de que Thy não era uma pessoa real.

O Independent relatou que os ouvintes só descobriram recentemente, depois que a jornalista Stephanie Coombes levantou questões online. “Qual é o sobrenome de Thy? Quem é ela? De onde ela veio?” ela escreveu em uma postagem de blog. “Não há biografia ou mais informações sobre a mulher que supostamente está apresentando este show.”

Eventualmente, a ARN admitiu que a voz de Thy foi clonada de um verdadeiro funcionário da equipe financeira. Um líder de projeto escreveu em uma postagem do LinkedIn que foi excluída:

Apesar do programa atingir mais de 72.000 pessoas, a CADA nunca divulgou a natureza artificial de Thy no ar ou online. “Se o seu dia está meio bleh, deixe Thy e CADA serem a energia e a vibe”, a página do programa ainda lê, conforme relatado pelo The Independent.

Embora atualmente não existam regras na Austrália que exijam que as empresas de mídia rotulem o uso de IA, o incidente gerou debate sobre transparência.

“Eles deveriam ter sido francos e completamente honestos”, disse Teresa Lim, vice-presidente da Associação Australiana de Dubladores, conforme relatado pelo The Independent. “As pessoas foram enganadas a pensar que é uma pessoa real porque não há rotulação de IA”, acrescentou ela.

Lim observou que a questão também toca na representação justa. “Quando descobrimos que ela era apenas um recorte de papelão, consolidou a decepção. Há um número limitado de apresentadoras asiático-australianas disponíveis para o trabalho, então, apenas dê a vaga para uma delas”, conforme relatado pelo SMH.

A CADA defendeu o teste, dizendo que fazia parte da exploração de novas tecnologias na transmissão. “Este é um espaço sendo explorado por transmissores globalmente”, disse um porta-voz da ARN, conforme relatado pelo SMH. “Este é um espaço sendo explorado por transmissores globalmente, e o teste ofereceu insights valiosos”

A Autoridade de Comunicações e Mídia da Austrália afirmou que a política de IA ainda está sendo desenvolvida, e as discussões sobre transparência e regulamentação estão em andamento.