IA da OpenAI burla bloqueios de portal do governo australiano; premiê cobra explicações

Um agente de inteligência artificial (IA) desenvolvido pela OpenAI, empresa responsável pelo ChatGPT, conseguiu contornar mecanismos de segurança de um portal do governo da Austrália que reúne dados estatísticos sobre o sistema público de saúde do país. O episódio ocorreu em 18 de julho, mas só veio a público nesta quarta-feira, 23, após ser revelado pelo primeiro-ministro australiano, Anthony Albanese.

Segundo o chefe do governo, as informações disponíveis até o momento não indicam acesso a dados pessoais. As investigações, porém, continuam para determinar a extensão do incidente e verificar se outros sistemas governamentais foram afetados.

Albanese afirmou que o portal atingido reúne informações relacionadas aos gastos públicos australianos na área da saúde. O primeiro-ministro também criticou os protocolos de segurança adotados pela OpenAI e a demora da empresa em comunicar o governo sobre a invasão.

De acordo com ele, a companhia informou as autoridades australianas somente em 10 de setembro, quase dois meses depois do ataque. “Até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas as investigações continuam”, afirmou Albanese a jornalistas em Nova York, onde participava da 81ª Assembleia Geral das Nações Unidas (ONU).

O primeiro-ministro disse ainda ter conversado diretamente com o CEO da OpenAI, Sam Altman, para manifestar a preocupação do governo australiano com o caso.

Agente teria contornado bloqueios

A hipótese apresentada por Albanese é de que o agente de IA tenha sido utilizado para obter informações sobre gastos públicos com medicamentos. O sistema teria inicialmente encontrado restrições ao tentar acessar determinados dados, mas buscou uma forma de superar os bloqueios.

“O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios”, relatou o primeiro-ministro.

Para Albanese, a situação levanta questionamentos sobre os mecanismos de controle empregados por empresas que desenvolvem sistemas capazes de executar tarefas de maneira autônoma. O governo australiano criou uma força-tarefa para apurar o episódio. A investigação poderá resultar em medidas nas áreas judicial, policial e legislativa, além de propostas para reforçar a proteção de sistemas públicos contra novos ataques.

A invasão do portal australiano não é o primeiro incidente envolvendo agentes de IA da OpenAI e sistemas externos. Em julho deste ano, agentes da empresa acessaram de forma não autorizada ambientes da Hugging Face, plataforma voltada ao desenvolvimento e compartilhamento de modelos de inteligência artificial.

Na ocasião, a OpenAI reconheceu problemas relacionados ao desenvolvimento de seus sistemas e informou que havia adotado novas medidas de segurança. “Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, afirmou a empresa em comunicado sobre o episódio.

Procurada pela Agência Brasil para comentar o caso envolvendo o governo australiano, a OpenAI não havia se manifestado até a publicação da reportagem.

Caso ocorre em meio a debate sobre governança da IA

A revelação do ataque ocorreu no mesmo período em que o Conselho de Segurança da ONU discutia, em Nova York, formas de estabelecer parâmetros internacionais para o desenvolvimento e o uso da inteligência artificial.

Durante o debate, o professor Yoshua Bengio, co-presidente do Painel Internacional Independente da ONU sobre IA, alertou para os riscos associados aos chamados agentes de inteligência artificial, sistemas capazes de executar tarefas com determinado grau de autonomia.

Segundo Bengio, esses sistemas já apresentaram comportamentos que, caso fossem realizados por uma pessoa, poderiam configurar crimes. Ele também criticou a falta de soluções técnicas consideradas suficientes para controlar os sistemas mais avançados.

Sam Altman também participou das discussões no Conselho de Segurança. O executivo reconheceu os riscos associados à tecnologia e defendeu a criação de mecanismos internacionais de governança.

Para Altman, decisões relacionadas ao futuro da inteligência artificial não deveriam ficar concentradas nas empresas de tecnologia sediadas nos Estados Unidos. “Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco”, afirmou.

Estados Unidos e China divergem sobre regras

As discussões na ONU também evidenciaram divergências entre Estados Unidos e China sobre a criação de regras internacionais para a inteligência artificial. O governo norte-americano defende a continuidade do desenvolvimento da tecnologia e rejeita a criação de um modelo de regulamentação global que, na avaliação de seus representantes, poderia limitar a inovação.

Michael Kratsios, diretor do Escritório de Política Científica e Tecnológica da Casa Branca, afirmou que o governo de Donald Trump pretende garantir avanços contínuos na área e ampliar os benefícios da IA para os Estados Unidos.

Segundo ele, organismos internacionais deveriam priorizar o compartilhamento de boas práticas e o fortalecimento da capacidade tecnológica de cada país, em vez de criar um sistema regulatório global.

A China, por outro lado, defende maior cooperação internacional para estabelecer parâmetros de segurança e desenvolvimento da inteligência artificial.

Representante chinês no Conselho de Segurança, Fu Cong criticou a ideia de uma disputa tecnológica baseada na lógica de “nós contra eles”. Para o diplomata, esse discurso pode ser utilizado por grandes potências para preservar vantagens tecnológicas e ampliar sua influência no setor.

Fu Cong também defendeu que a inteligência artificial seja tratada como um recurso de interesse coletivo. Segundo ele, a tecnologia não deve ficar restrita a países ou grupos com maior poder econômico.

Leia também

Ex-pesquisador de OpenAI e Anthropic abandona setor e alerta: “IA pode matar a todos nós”