Especialistas pedem que desenvolvimento de IAs seja suspenso

Grupo de empresários, incluindo Elon Musk, e pesquisadores notáveis na área de inteligência artificial publicou uma carta aberta solicitando a suspensão do desenvolvimento de sistemas de Inteligência Artificial (IA) por um período de seis meses. Segundo carta, laboratórios de IA estão presos em uma corrida “fora de controle” para ver quem desenvolve o sistema de aprendizagem de máquina mais avançado. A petição foi publicada no site futureoflife.org.

Conforme publicado no Estadão, o problema disso seria que ninguém, nem mesmo seus criadores, poderia entender, prever ou controlar esses modelos de maneira confiável. Até mesmo Sam Altman, fundador da OpenAI, criadora do ChatGPT, já pediu às autoridades o estabelecimento de regras rígidas para o setor para evitar abusos e “IAs assustadoras”.

A preocupação é de que a IA possa ter impactos negativos e dramáticos na economia, política e democracia global, representando grandes riscos para a humanidade. A carta destaca a necessidade de estabelecer sistemas de segurança com novas autoridades reguladoras, vigilância de sistemas de IA e instituições capazes de enfrentar essas perturbações.

Embora o movimento seja improvável de ter impacto imediato sobre a pesquisa de IA no mundo, ele pode alertar políticos e órgãos reguladores sobre a importância de normas de segurança adequadas para acompanhar o desenvolvimento da tecnologia.

Além de Musk, estão entre os signatários o escritor Yuval Noah Harari, o cofundador da Apple Steve Wozniak, o cofundador do Skype Jaan Tallinn, o político estadunidense Andrew Yang e vários pesquisadores e CEOs de IA conhecidos, incluindo Stuart Russell, Yoshua Bengio, Gary Marcus e Emad Mostaque.