A empresa de inteligência artificial Anthropic defendeu a criação de um mecanismo global capaz de desacelerar ou interromper temporariamente o desenvolvimento de sistemas avançados de IA caso os riscos passem a superar a capacidade de controle da sociedade. A proposta, apelidada de “botão de pausa”, foi apresentada em um relatório no qual a companhia alerta para a velocidade crescente da evolução tecnológica e seus possíveis impactos econômicos e sociais.

Segundo a empresa, os modelos de inteligência artificial estão cada vez mais próximos de um cenário de autoaperfeiçoamento, no qual sistemas seriam capazes de contribuir para a criação de versões mais avançadas de si mesmos. Embora a Anthropic reconheça que esse estágio ainda não foi alcançado, afirma que a possibilidade exige planejamento prévio para evitar situações em que o controle humano sobre a tecnologia seja reduzido.

A proposta prevê que qualquer interrupção no desenvolvimento de IA seja coordenada entre os principais laboratórios do setor e acompanhada por mecanismos de verificação independentes. A empresa compara a ideia aos acordos internacionais de controle de armas nucleares e argumenta que uma pausa só teria efeito se todos os grandes desenvolvedores aderissem simultaneamente às regras, evitando vantagens competitivas para quem continuasse avançando de forma isolada.

A Anthropic informou que pretende promover discussões com pesquisadores, empresas e formuladores de políticas públicas para construir uma estrutura internacional de governança da inteligência artificial. A iniciativa reacende um debate que ganhou força nos últimos anos, quando especialistas e líderes do setor passaram a defender limites e salvaguardas para tecnologias cada vez mais poderosas, embora críticos argumentem que pausas desse tipo podem prejudicar a inovação e alterar a competição global pela liderança em IA.

Leia também:

Goiás será o primeiro estado do Brasil a oferecer inteligência artificial Gemini a servidores públicos