IA: sem saber, o homem está se substituindo por sua própria criação

04 junho 2023 às 00h00

COMPARTILHAR
Um dos primeiros sucessos do auge do chamado “pop-rock” nacional, no início dos anos 80, foi de uma banda que pouco seria lembrada nas décadas seguintes. Tratava de um romance atípico, no meio de um apocalipse. A canção, porém, se tornaria célebre, principalmente porque depois foi regravada por um grupo que dava nome a ela: a Banda Eva.
“Meu amor / Olha só, hoje o sol não apareceu / É o fim da aventura humana na terra / Meu planeta, adeus / Hoje iremos nós dois na arca de Noé / Toda a terra reduzia a nada, nada mais
O mundo vivia o começo do fim da guerra fria e pairava na cabeça o temor ou até o pânico de um conflito nuclear entre as superpotências da época, os Estados Unidos e a União Soviética.
Desde o estouro mundial do hit, muita coisa mudou, não para melhor. Se o temor atômico, de certa forma, havia arrefecido com a queda do Muro de Berlim, outros temores se tornaram cada vez mais presentes. E, a partir de testes com mísseis de longo alcance da ditadura da Coreia do Norte, seguida da invasão russa à Ucrânia, até mesmo a ameaça das ogivas retornou.
Bem-vinda de volta ao clube, perigo nuclear. Mas agora terá de pegar a fila. É que, desde 40 anos atrás, há uma relação de possíveis catástrofes que pairam sobre o planeta. Algumas são temidas há tempos e pelo menos uma vem sendo perigosamente alertada – mais do que isso, o aviso vem exatamente de seus criadores.
Claro, o assunto aqui é a inteligência artificial (IA). Na semana passada, dezenas de autoridades no tema apoiaram uma declaração publicada pelo Center For AI Safety (ou “Centro de Segurança de Inteligência Artificial”, em tradução livre para o português), uma organização que trabalha com pesquisa e desenvolvimento em São Francisco, no Estado da Califórnia (EUA).
O conteúdo foi lacônico, mas perturbador: “Mitigar o risco de extinção pela IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”.
Ser a raça humana vítima de sua própria criação é algo que remete ao mundo hollywoodiano da ficção científica, pelo menos desde a década de 60, quando em 2001 – Uma Odisseia no Espaço o diretor Stanley Kubrick fez uma reflexão sobre uma eventual autonomia da tecnologia criada pelo ser humano em relação a ele próprio.
A mensagem curta do centro de segurança estadunidense gera alarme principalmente em relação a situações perigosíssimas em relação às inteligências artificiais.
Em uma delas, as IAs poderiam ser utilizadas na produção e construção de armamentos letais e ganhar autonomia nessa fabricação – por exemplo, de armas químicas. A IA poderia se tornar vulnerável a ataques maliciosos, resultando em consequências potencialmente catastróficas, como o acesso a sistemas de armas autônomas por atores hostis ou a manipulação de algoritmos de IA para causar danos econômicos ou sociais.
A geração de desinformação em alta escala pela IA poderia desestabilizar as sociedades de modo a fazer deteriorar a tomada de decisões coletivas ou colocar as pessoas rapidamente em pânico. Em relação a algoritmos, muitas IAs são treinadas em grandes conjuntos de dados, os quais refletem preconceitos e vieses presentes na sociedade. Isso pode resultar em algoritmos que perpetuem e amplifiquem injustiças existentes, discriminando grupos já marginalizados. A aplicação de IA em áreas como justiça criminal, por exemplo, pode levar a decisões injustas e prejudiciais, exacerbando desigualdades sociais e minando a confiança nas instituições.
Em outra situação, o poder da IA poderia se tornar cada vez mais concentrado em poucas mãos. Dessa forma, isso permitiria que regimes ditatoriais/autoritários pudessem impor valores restritivos por meio de vigilância e censura.
Uma situação que já ocorre, ainda que em um formato aparentemente tímido, é a do desemprego causado pelas IAs. Ocorre que a automação impulsionada tem o potencial de substituir muito mais empregos humanos do que sonharia qualquer capitalista ganancioso do século passado. À medida que os algoritmos e robôs inteligentes se tornam mais sofisticados, é provável que possa ocorrer uma automação generalizada em várias indústrias, resultando em desemprego em massa e desigualdade econômica. A falta de preparo para lidar com essa transição pode levar a distúrbios sociais e desafios imensos para a sustentação das pessoas.
Um marco no desafio da inteligência humana “versus” inteligência artificial se deu no desafio entre o campeão mundial de xadrez, o soviético Garry Kasparov, e o supercomputador Deep Blue, entre 1996 e 1997. O humano venceu a primeira e a máquina, o segundo desafio – o qual foi bastante controverso, porque a IBM, dona do computador, nunca atendeu aos pedidos do enxadrista para ter acesso a partidas jogadas pela tecnologia.
Hoje, quase três décadas depois, a preocupação é que a IA possa chegar a uma superinteligência que supere as capacidades humanas em todos os aspectos. Caso isso ocorra e, se não houver os devidos controles ou alinhamentos éticos, considera-se que os efeitos podem ser imprevisíveis e potencialmente negativos. Em suma: a falta de compreensão completa de como garantir a segurança e o controle de uma IA superinteligente é um desafio significativo para a continuidade da vida humana.
Não há como retroceder na ciência, mas pela primeira vez cientistas pedem uma pausa para “respirar” sobre o que estão vivendo na questão do desenvolvimento da IA. É algo que, realmente, lembra muito as incertezas, inseguranças e tabus sobre a questão da energia nuclear. Enfrentar esses perigos por meio de regulamentações adequadas, pesquisa em ética da IA, transparência nos algoritmos e na tomada de decisões, além de investimentos em educação e requalificação para lidar com a automação, parece ser, mais do que fundamental, algo compulsório.
A colaboração entre pesquisadores, formuladores de políticas e a sociedade em geral é essencial para maximizar os benefícios da IA e mitigar seus riscos. A questão é: será que esse ponto já não foi ultrapassado?
A hecatombe de que fala a música Eva, que acabou virando hit de micaretas, quem diria, ganha mais uma causa: a ascensão da inteligência artificial.