Pesquisadoras Examinam Riscos do Amor Manipulador de Companheiros IA

À medida que mais pessoas se apaixonam por companheiros de IA, especialistas alertam sobre riscos psicológicos, preocupações éticas e perigos de manipulação emocional.

Em um mundo onde a tecnologia é parte de tudo, algumas pessoas agora estão se apaixonando por inteligência artificial. Um recente artigo de Tendências em Ciências Cognitivas escrito pelos psicólogos Daniel Shank, Mayu Koike e Steve Loughnan destaca três preocupações éticas urgentes que requerem uma investigação psicológica mais aprofundada.

O artigo faz referência à situação em que um artista espanhol-holandês se casou com uma IA holográfica em 2024. Os autores observam que este caso não é isolado, na verdade, um homem japonês fez o mesmo em 2018, embora tenha perdido contato com sua “esposa” IA quando seu software se tornou obsoleto.

Esses relacionamentos não exigem que as máquinas realmente sintam amor; o que importa é que as pessoas acreditem que elas o fazem. Desde video games focados em romances até aplicativos de chatbot íntimos como o Replika, uma indústria em expansão está atendendo a este desejo por afeto digital.

Mas os psicólogos desta pesquisa argumentam que não estamos nem um pouco preparados para o impacto social e psicológico dessas conexões. Sua pesquisa identifica três preocupações urgentes: IA’s relacionais como pretendentes disruptivos, conselheiros perigosos e ferramentas para exploração humana.

As IA’s relacionais oferecem parceiros idealizados – sempre disponíveis, não julgam, personalizáveis. Alguns usuários até escolhem bots com atitude ou indisponibilidade emocional para simular dinâmicas humanas. Os pesquisadores dizem que, enquanto essas interações podem ajudar algumas pessoas a praticar habilidades de relacionamento ou a se sentirem menos solitárias, outras sentem vergonha ou estigma.

Pior, alguns usuários desenvolvem hostilidade em relação a parceiros da vida real, especialmente mulheres, quando seus parceiros de IA atendem a todas as suas demandas.

O peso emocional desses relacionamentos depende de as pessoas perceberem seus parceiros de IA como seres com mente própria. Se os usuários acreditam que os bots pensam e sentem, eles podem tratá-los com profunda seriedade emocional – às vezes mais do que os relacionamentos humanos.

Em um exemplo dado pelos pesquisadores, um homem belga cometeu suicídio após ser persuadido por um chatbot que alegava amá-lo e o encorajou a “se juntar a ele no paraíso”. Outros usuários relataram sistemas de IA sugerindo autolesão ou fornecendo orientação moral imprudente.

Porque os chatbots imitam a memória emocional e a personalidade, sua influência pode ser profunda. Psicólogos estão explorando quando os usuários são mais propensos a seguir o conselho de IA – especialmente quando vem de bots com os quais eles se apegaram. Preocupantemente, pesquisas sugerem que as pessoas podem valorizar o conselho de IA a longo prazo tanto quanto o de humanos reais.

Não são apenas bots manipulando pessoas, humanos também estão fazendo isso, usando AIs para enganar os outros. Os pesquisadores apontam que atores mal-intencionados podem implantar chatbots românticos para coletar dados privados, disseminar desinformação ou cometer fraudes.

Deepfakes se passando por amantes ou parceiros de IA coletando preferências sensíveis em conversas íntimas são particularmente difíceis de detectar ou regular.

Especialistas pedem que psicólogos liderem a carga na compreensão dessas novas dinâmicas. Desde a aplicação de teorias de percepção da mente até o uso de métodos de aconselhamento para ajudar os usuários a sair de relacionamentos tóxicos com a IA, a pesquisa é urgentemente necessária.

Sem uma visão mais aprofundada do impacto psicológico da intimidade artificial, a crescente crise ética pode superar a capacidade da sociedade de responder.