CIO Pretende Ampliar Equipe ao Criar Clones Digitais dos Funcionários

A CIO da UC San Diego quer usar agentes de IA e gêmeos digitais para automatizar o trabalho de TI, melhorar a segurança cibernética e aliviar a carga de trabalho da equipe.

Durante a conferência Cisco Live desta semana, o Dr. Vince Kellen propôs a utilização de agentes de IA e gêmeos digitais de funcionários de TI experientes para lidar com tarefas repetitivas e emergências durante a noite, conforme relatado inicialmente pelo The Register.

Falando para uma platéia lotada, Kellen disse: “Todos os caminhos estão levando a altos níveis de automação sempre que podemos”, relata The Register.

A universidade funciona como uma pequena cidade, pois recebe mais de 100.000 pessoas por dia, enquanto tem que lidar com a diminuição do número de estudantes e recursos financeiros limitados

Kellen prevê que os sistemas de IA adquirirão conhecimento dos trabalhadores de tecnologia para gerenciar demandas crescentes no futuro. “Temos todo esse conhecimento em seres humanos sobre política de rede que temos que tirar de suas mentes em uma espécie de forma de irrigação por gotejamento”, disse ele, conforme relatado pelo The Register.

Kellen acredita que transferir lentamente esse conhecimento para a IA permitiria às equipes de TI diminuir sua carga de trabalho e melhorar o desempenho da rede.

O Instituto de Oceanografia da UCSD também enfrenta ameaças à segurança nacional. “Quando você coloca sonar na água, descobre mais do que peixes e outros países querem saber sobre isso”, ele alertou, conforme relatado pelo The Register.

Os ciberataques apoiados por estrangeiros estão se tornando mais sofisticados, exigindo que a equipe automatize as defesas básicas para que possam se concentrar em ameaças mais perigosas.

Kellen acredita que a IA “tem o potencial de permitir a detecção proativa de problemas” e vê clones digitais como uma maneira de preservar a expertise da equipe enquanto alivia sua carga. “Então, essa pessoa não precisa ser torturada quando há outro incidente. Ela não é chamada da próxima vez”, acrescentou, conforme relatado por The Register.

Sua ideia levanta uma questão provocativa: Você permitiria que seu empregador clonasse digitalmente sua expertise se isso significasse menos chamadas estressantes? À medida que a automação cresce, a linha entre o trabalho humano e o trabalho da máquina pode se tornar menos clara, mas para as equipes de TI, isso poderia significar um alívio muito necessário.

No entanto, o aumento da automação também gera preocupações com a segurança cibernética. Sistemas operados por trabalhadores de TI automatizados e agentes de IA se apresentam como alvos atraentes para hackers, uma vez que um ataque a esses sistemas poderia resultar em extensas interrupções.

De fato, um gêmeo digital comprometido poderia ser usado para contornar protocolos de segurança e disseminar malware em uma velocidade mais rápida do que operadores humanos.

Um relatório do Fórum Econômico Mundial argumenta que os atacantes podem contaminar os dados de treinamento de IA ou descobrir vulnerabilidades nos modelos de IA, o que resulta em falhas no sistema ou geração incorreta de saídas.

Esses ataques de “envenenamento de dados” e exploração de modelos geralmente são fáceis de realizar, mas difíceis de defender, já que as medidas de segurança atuais são insuficientes, conforme observado pelo ITPro.

Apesar desses riscos, 96% dos profissionais de TI reconhecem os agentes de IA como uma ameaça à segurança, no entanto, a maioria das organizações se apressa em implementá-los sem controles ou políticas adequadas, conforme relatado pelo ZDNet.