O Spotify Hospedou Podcasts Falsos Vendendo Medicamentos de Prescrição

O Spotify está enfrentando reações negativas após a promoção de centenas de podcasts falsos que incentivavam a venda de drogas ilegais, aumentando as preocupações sobre o abuso de IA e a moderação frouxa da plataforma.

O Spotify está enfrentando críticas por hospedar diversos podcasts falsos que anunciam medicamentos controlados sem autorização médica.

Business Insider (BI) e as investigações da CNN revelaram que esses supostos podcasts eram pouco mais do que clipes de áudio de 10 segundos, ou até mesmo permaneciam em silêncio, enquanto potencialmente serviam como fachadas para farmácias online ilegais.

O conteúdo violava descaradamente as próprias regras do Spotify e, em alguns casos, violava a lei federal. Um podcast afirmou, “Compre tramadol online em apenas um clique […] sem receita médica com entrega legal nos EUA”, conforme relatado pela BI. A CNN observa que outros tinham títulos como “My Adderall Store” e promoviam opioides como Oxycodone e Vicodin.

A plataforma removeu mais de 200 dessas páginas após as reportagens do Business Insider e relatórios de usuários de mídias sociais. A CNN descobriu que alguns podcasts ao vivo persistiram mesmo após alguns deles terem sido removidos. O porta-voz do Spotify explicou à CNN e ao BI que a empresa mantém esforços contínuos para identificar e eliminar conteúdo que viole as regras em todo o seu serviço.

Especialistas dizem que o aumento das ferramentas de IA tornou mais fácil do que nunca criar esses podcasts fraudulentos. Muitos usaram vozes robóticas ou apenas arte de capa com links clicáveis, burlando os sistemas automatizados de moderação do Spotify. Segundo a CNN, alguns estavam ativos por meses antes da remoção.

Katie Paul, do Tech Transparency Project, alertou que “a maioria das plataformas carece de responsabilidade pelo conteúdo gerado pelos usuários, como esses podcasts falsos”, acrescentando que o conteúdo baseado em voz é especialmente difícil de moderar.

Os programas falsos direcionavam os usuários para sites que prometiam fornecer Adderall e Metadona sem prescrições médicas, no entanto, nem a BI nem a CNN conseguiram verificar compras bem-sucedidas. A lei estabelece que medicamentos prescritos devem ser dispensados por profissionais médicos autorizados.

O incidente despertou novas demandas por monitoramento aprimorado, pois as famílias e autoridades estão preocupadas com a crescente ameaça de vendas de medicamentos falsificados online, após recentes mortes de adolescentes por overdose de comprimidos comprados na internet.