A Ferramenta de IA do Governo do Reino Unido Levanta Preocupações sobre Regulamentação

A ferramenta de IA do governo do Reino Unido desperta preocupações sobre direitos autorais, transparência e dependência do serviço civil.

O sistema de IA do governo do Reino Unido, conhecido como Humphrey, é construído com base em modelos da OpenAI, Anthropic e Google, conforme relatado pelo The Guardian. O governo enfrenta crescentes críticas, à medida que sua dependência crescente das grandes empresas de tecnologia se torna mais preocupante, enquanto as ferramentas de IA se tornam centrais para a reforma do serviço civil.

O governo planeja treinar todos os servidores públicos ingleses e galeses no uso de ferramentas de IA por meio de Humphrey para melhorar a eficiência operacional do setor público. A rápida implementação de grandes sistemas de IA tecnológicos, muitas vezes usando material protegido por direitos autorais sem autorização, acende diversos problemas éticos e regulatórios, conforme relatado pelo The Guadian.

“O governo não pode regular efetivamente essas empresas se, ao mesmo tempo, as está incorporando em suas operações internas”, disse Ed Newton-Rex, CEO da Fairly Trained, relatou o The Guardian. “Esses modelos de IA são construídos através da exploração não remunerada do trabalho dos criativos”, acrescentou.

A indústria criativa se opôs fortemente à medida, apoiando uma campanha que luta por uma proteção de direitos autorais aprimorada. Membros deste movimento incluem Elton John, Kate Bush e Paul McCartney.

O governo recentemente aprovou um controverso projeto de lei de dados que permite que sistemas de IA usem conteúdo protegido por direitos autorais, a menos que os detentores dos direitos optem especificamente por não participar.

A par do Trabalho, Shami Chakrabarti, expressou preocupação sobre erros do sistema de IA, enquanto aconselhava vigilância em relação a possíveis vieses e imprecisões, que o The Guardian observa já terem sido relatados no sistema de computador Horizon.

Apesar das preocupações, os funcionários do governo defendem a abordagem. Um porta-voz do Departamento de Ciência, Inovação e Tecnologia disse: “Nosso uso desta tecnologia de maneira alguma limita nossa capacidade de regulá-la”, conforme relatado pelo The Guardian.

O governo opera através de contratos na nuvem com um modelo de pagamento conforme o uso, em vez de estabelecer acordos de longo prazo com empresas de tecnologia, o que lhes permite mudar de fornecedores, diz The Guardian.

As ferramentas Humphrey, compostas por Redbox, Parlex e AI Minute, demonstraram seu valor ao reduzir os custos para abaixo de 50p, ao mesmo tempo em que eliminam extensas tarefas administrativas que levam horas para serem concluídas.

A implementação contínua de IA nas operações governamentais enfrenta desafios em relação às práticas de transparência e supervisão.