A Itália Multa o Fabricante de Chatbot AI Replika em 5 Milhões de Euros por Violação de Proteção de Dados

A autoridade de proteção de dados da Itália multou a empresa mãe da Replika, a Luka Inc., em 5 milhões de euros – aproximadamente 5,64 milhões de dólares – por não cumprir as regulamentações destinadas a proteger os dados dos usuários. As autoridades citaram preocupações sobre os possíveis riscos da tecnologia para as crianças e a falta de uma base legal suficiente da empresa para o processamento dos dados pessoais dos usuários italianos.

De acordo com a Reuters, a autoridade de proteção à privacidade Garante anunciou a decisão na segunda-feira, afirmando que a plataforma de chatbot não implementou um sistema de verificação de idade para impedir que crianças compartilhem ou acessem conteúdo sensível. Como resultado, a Luka Inc. foi multada por essas violações.

A Replika oferece aos usuários avatares personalizáveis que podem se engajar em conversas – através de chat e voz – para criar “amigos virtuais”. Alguns meses atrás, uma mulher chamada Sarah Kay relatou desenvolver uma conexão emocional com um dos chatbots da Replika.

A batalha legal entre as autoridades italianas e a Replika vem se desenrolando há vários anos. Em 2023, a agência de proteção de dados da Itália proibiu a Replika de processar os dados pessoais de cidadãos italianos, citando os possíveis riscos que a tecnologia representa para as crianças.

Por quase dois anos, as autoridades italianas realizaram uma investigação contínua e concluíram que a empresa de IA não possui uma base legal para processar os dados dos usuários italianos.

A agência de proteção de dados também está conduzindo uma investigação separada para determinar se a Replika está em conformidade com as políticas e estruturas legais da União Europeia, com um foco particular em como o modelo de linguagem da IA é treinado.

O Ato de Inteligência Artificial (AI Act) da União Europeia entrou em vigor recentemente para garantir que a tecnologia de IA na região seja segura, confiável e respeite os direitos humanos.

Replika não emitiu nenhum comentário ou declaração oficial a respeito da multa italiana. A Luka Inc. não é a única empresa americana de IA enfrentando ações legais do governo italiano – OpenAI foi brevemente banida e também está enfrentando uma multa de 15 milhões de euros, pois a autoridade de proteção de dados da Itália alega que a empresa violou as normas de privacidade da UE.