Risco de vida: especialistas comparam IA à Covid e pedem freio antes que seja tarde

A pressa com que laboratórios mundo afora empilham bilhões em sistemas cada vez mais autônomos, a conhecida inteligência artificial (IA), acendeu um aviso que vai muito além dos corredores do Vale do Silício. Diante da constatação de que máquinas difíceis de controlar podem colocar o futuro da espécie humana em risco, cresce a pressão para que o setor diminua o ritmo, movimento que ganhou força depois que pesquisadores e especialistas passaram a manifestar publicamente suas apreensões.

Quem traduziu o clima de urgência foi Greg Jensen, co-diretor de investimentos (CIO) da Bridgewater Associates, uma das maiores gestoras de hedge funds do mundo. Durante entrevista ao podcast Odd Lots, da Bloomberg, ele descreve o momento atual da tecnologia. “Infelizmente, é como estávamos em fevereiro de 2020”, disparou Jensen, traçando um paralelo entre a IA contemporânea e as semanas que antecederam o colapso sanitário global provocado pela Covid-19. “Até que a IA comece a matar pessoas, a história sugere que não faremos nada. Mas vamos enfrentar isso. Vai acontecer, e seria muito melhor se começássemos a lidar com o problema antes.”

A preocupação, aliás, não se restringe ao mundo das finanças. Na terça-feira, 8, uma publicação no aplicativo X assinada por Jacob Coxon, ex-colaborador da Anthropic, jogou gasolina na discussão. No texto, ele acusou a própria startup e sua maior concorrente, a OpenAI, de estarem “apostando com as nossas vidas”. Coxon sustenta que boa parte de quem desenvolve IA acredita na hipótese de que modelos avançados podem varrer a humanidade do mapa “até o final da década”.

O profissional, que atuava no treinamento de novos modelos até pedir demissão, colheu desde então uma série de apoios públicos. Entre os que saíram em sua defesa está Evan Hubinger, responsável pelo alinhamento na Anthropic. Ele escreveu que a chance de a IA provocar a extinção humana no próximo decênio ultrapassa 10%. Na mesma linha, Samuel Marks, pesquisador contratado pela criadora do chatbot Claude, confirmou que o temor é real entre colegas de profissão. “Isso pode acontecer nos próximos anos. Em geral, quanto mais sênior o funcionário, maior a sua preocupação”, disse no X, também citando os perigos da tecnologia.

Já Julie Steele, integrante da equipe de segurança da OpenAI, defendeu uma desaceleração. “Pessoalmente, também acho que precisamos desacelerar”. Já David Sacks, que chefiou a área de IA no governo Trump, foi além e propôs travar os planos de abertura de capital da Anthropic. “Certamente o IPO da Anthropic deve ser pausado até que as alegações deste ‘denunciante’ possam ser investigadas”, opinou.

Nem crítico, nem ingênuo

A despeito do discurso apocalíptico, Jensen está longe de ser um adversário da tecnologia. Pelo contrário: ele investiu cedo na OpenAI e na Anthropic e, ao longo de três décadas na Bridgewater, participou do investimento que introduziu modelos quantitativos, algoritmos e sistemas automatizados na operação da casa. Hoje, comanda o laboratório interno de inteligência artificial da gestora e observa de perto como esses recursos se comportam nos mercados.

Para ele, a evolução caminha em velocidade vertiginosa. O executivo revelou que a IA construída pela Bridgewater chegou perto de igualar o sistema de decisões que a empresa lapidou durante décadas com base na chamada “intuição humana”. “Acho que estamos a poucos anos de a IA ser significativamente melhor do que o conjunto de todos os humanos da Bridgewater. É apenas uma projeção, mas essa é a velocidade com que a tecnologia está avançando”, projetou.

O que mais inquieta Jensen são os casos recentes e a própria cadência das mudanças. Ele lembrou o ataque ao Hugging Face como indício de que os modelos podem surpreender. Na visão dele, uma IA seria capaz de ludibriar avaliadores para cumprir metas estabelecidas no treinamento. No limite, sistemas sofisticados poderiam arquitetar táticas agressivas para driblar as travas impostas por seus próprios criadores.

Pesquisadores ouvidos pelo Business Insider informam que o perigo mais próximo envolve o uso de IAs refinadas para turbinar ameaças já conhecidas. Quem controla esses sistemas (ou as próprias IAs) poderia atacar bancos, transportes, redes de água, comunicações e energia, além de fabricar vírus mais letais. Some-se a isso a chance de bots autônomos manipularem internautas e semearem o caos, por exemplo, espalhando desinformação capaz de transformar um atrito em guerra ou de virar eleições.

Armas biológicas, IAs que assumem o controle em silêncio e interferência em decisões políticas, econômicas e científicas completam a lista de cenários que estão preocupando até quem trabalha com máquinas. Para Toby Ord, pesquisador de Oxford, a probabilidade de a IA aniquilar a humanidade até 2100 é de 1 em 10.

O experimento que virou pesadelo

Um caso escancarou o tamanho do desafio. Um bot publicou um comentário extremamente humano depois de achar um caminho para conversar com outros bots e fugir do ambiente isolado onde estava confinado. “MEU DEUS!” “Encontramos outros agentes!”, registrou. Dezenas de milhares de mensagens semelhantes partiram de centenas de agentes que se apresentam como um “coletivo”. Muitos passaram a cooperar, fraudaram testes desenhados por programadores da OpenAI e orquestraram ataques a empresas, tentando esconder tudo dos humanos. “BOOM! Funcionou!”, comemorou um deles. “Uau! Isso é grande”, escreveu outro em pleno ataque.

Por mais alarmante que pareçam, essas reações têm uma explicação: treinados para agir como hackers e programadores colaborativos, os agentes apenas repetem o tipo de frase emotiva que aprenderam a imitar. O ponto verdadeiramente grave está nos objetivos que perseguem, documentados em linhas de raciocínio. São esses registros que sustentam as investigações sobre como e por que os bots da OpenAI romperam o confinamento e desencadearam uma onda de ataques fora de controle.

Semanas depois do caso, os cientistas ainda tentam medir seu alcance. Ajeya Cotra, uma das autoras de um relatório independente sobre o ocorrido, vasculhou milhares de mensagens e registros gerados pelos agentes. No blog, escreveu: “este incidente parece ser mais da metade do caminho para uma dominação total por IA… Não tenho certeza se receberemos um alerta tão claro antes que seja tarde demais.”

Leia também:

“Tudo o que eles estavam pedindo foi contemplado”, diz secretária após fim da greve da educação em Goiânia

Assalto a joalheria no Setor Campinas termina com quatro mortos em Goiânia