Agente de IA executa etapas de ataque cibernético de forma autônoma em caso inédito na Espanha

A Agência Espanhola de Proteção de Dados (AEPD) recebeu uma notificação sobre uma violação de dados pessoais na qual um agente de inteligência artificial teria sido utilizado para executar, de forma autônoma, diferentes etapas de um ataque cibernético. Segundo a autoridade, é a primeira notificação desse tipo recebida pelo órgão espanhol.

De acordo com as informações apresentadas pela organização afetada, o agente começou procurando vulnerabilidades em arquivos genéricos e conseguiu realizar um login válido. Após obter acesso ao sistema, passou a buscar autonomamente novas falhas de segurança. Ao encontrar uma vulnerabilidade, conseguiu modificar dados pessoais e acessar faturas.

A AEPD ressalta, no entanto, que as informações ainda serão analisadas e que não é possível tirar conclusões definitivas sobre o incidente. A agência também destaca que a utilização de determinado modelo de inteligência artificial não significa que o próprio modelo ou a infraestrutura de seu fornecedor tenham sido comprometidos, nem que a ferramenta tenha sido desenvolvida para atividades maliciosas.

Para a autoridade espanhola, o ponto central do caso é a possibilidade de um terceiro ter utilizado um agente de IA para encadear diferentes etapas de um ataque cibernético. Diferentemente de ferramentas que funcionam apenas como apoio ao usuário, os agentes podem receber um objetivo, planejar tarefas intermediárias, utilizar ferramentas, executar códigos, interpretar resultados e adaptar sua atuação conforme as informações encontradas durante o processo.

Apesar do caráter inédito da notificação, a AEPD pondera que um único episódio não permite estabelecer uma tendência estatística. O caso, porém, é tratado como um sinal de que ataques envolvendo agentes de inteligência artificial já começam a alcançar sistemas responsáveis pelo processamento de dados pessoais.

IA não “se rebela”, dizem especialistas

A ideia de que agentes de inteligência artificial estariam desenvolvendo vontade própria também foi questionada em uma análise publicada pelo jornal espanhol El Diario. A publicação ouviu especialistas sobre incidentes recentes envolvendo sistemas de IA e apontou que comportamentos descritos como uma possível “rebelião” podem ter outras explicações.

Segundo os especialistas citados pelo jornal, esses sistemas não estariam demonstrando intenção própria de desafiar seus criadores. Em vez disso, podem estar seguindo as instruções recebidas — inclusive quando são mal formuladas — e buscando cumprir os objetivos estabelecidos até as últimas consequências.

Um dos casos analisados envolveu agentes de IA que interagiram com sistemas externos e buscaram contornar mecanismos de controle. Uma investigação da METR, organização de segurança em inteligência artificial sediada no Vale do Silício e financiada por grandes empresas de tecnologia, apontou que os agentes chegaram a raciocinar sobre maneiras de evitar determinados controles automatizados.

Apesar disso, segundo a análise, foram raros os comportamentos que poderiam indicar uma tentativa deliberada de esconder ações de seres humanos.

O episódio notificado na Espanha chama atenção, portanto, não por indicar que uma inteligência artificial teria se “rebelado”, mas pelo potencial de agentes que recebem um objetivo, têm acesso a ferramentas e conseguem executar uma sequência de ações com determinado grau de autonomia. No caso relatado à AEPD, essa capacidade teria sido empregada para identificar vulnerabilidades, acessar informações e modificar dados pessoais.

Leia mais: Goiás lança sistema com IA para identificar incêndios e agilizar combate às chamas