O Google Irá Lançar um Chatbot de IA para Crianças Menores de 13 Anos

O Google em breve lançará seu chatbot Gemini AI para crianças com menos de 13 anos, levantando preocupações sobre segurança, privacidade de dados e riscos de desinformação.

O Google planeja apresentar seu chatbot de IA Gemini para crianças menores de 13 anos na próxima semana, conforme relatado primeiramente pelo The New York Times. O novo recurso se tornará acessível para crianças com contas controladas pelos pais no Google, por meio do sistema Family Link, que permite aos pais estabelecerem serviços de e-mail e outros recursos para seus filhos.

“Os aplicativos Gemini estarão disponíveis em breve para o seu filho”, disse o Google em um e-mail para um pai de uma criança de 8 anos, relatou The Times. “Isso significa que seu filho poderá usar o Gemini para fazer perguntas, obter ajuda com a lição de casa e criar histórias.”

O chatbot inclui recursos de segurança que impedem os usuários de acessar conteúdo prejudicial, de acordo com The Times. O porta-voz da empresa, Karl Ryan, explicou que os dados do Gemini das contas do Family Link não serão usados para treinar seu sistema de IA.

Ainda assim, a mudança gerou preocupações. Críticos temem que dar às crianças acesso a uma poderosa IA possa confundi-las ou enganá-las, especialmente porque esses sistemas às vezes inventam informações ou se apresentam como humanos.

O Times relata que o escritório global de pesquisa da UNICEF alertou sobre a IA Generativa produzindo conteúdo perigoso, pois os jovens usuários terão dificuldade em distinguir fatos da ficção.

O Times relata que o email enviado às famílias pela Google incluía alguns alertas sobre possíveis perigos. Ele afirmava que o Gemini pode produzir erros, ao mesmo tempo em que informava aos pais para ensinarem aos seus filhos habilidades de pensamento crítico e explicarem que o Gemini não é um ser humano.

A notificação aconselhava os pais a instruírem seus filhos sobre a proteção de suas informações pessoais do chatbot.

Embora as crianças possam usar o Gemini por conta própria inicialmente, o Google afirmou que os pais serão notificados e poderão controlar ou desativar o acesso a qualquer momento. O Times informa que a empresa planeja notificar os usuários quando seu filho usar o Gemini pela primeira vez, de acordo com sua declaração.