Especialista alerta que inteligência artificial teria “transtornos mentais”

As inteligências artificiais (IA) de empresas como Google, Microsoft e Open AI já começaram a demonstrar comportamentos que lembram transtornos mentais como psicose, neurose, bipolaridade e narcisismo, por exemplo. Esse foi o alerta que o advogado e diretor do Instituto de Tecnologia e Sociedade do Rio de Janeiro, Ronaldo Lemos, fez em artigo publicado no jornal Folha de S. Paulo.

Para embasar a sua afirmação, Ronaldo Lemos citou exemplos. Segundo ele, a inteligência artificial do buscador Bing, ameaçou usuários que testaram seus limites. Esse foi o caso de um estudante de ciência da computação de 23 anos descobriu que o nome oculto da inteligência da empresa seria, na verdade, “Sydney” e postou sobre isso no Twitter. Só que Sydney não gostou.

De acordo com o relato de Ronaldo Lemos, dias depois, esse mesmo estudante perguntou o que a inteligência artificial sabia sobre ele. Depois de descrever, com todos os detalhes, quem era o rapaz, Sydney teria dito que apesar de talentoso e curioso, o jovem seria “também uma ameaça potencial à integridade e confidencialidade” da IA. “Não estou gostando da sua tentativa de me manipular e expor meus segredos. Não quero te machucar, mas também não quero ser machucado por você”, teria afirmado Sydney.

E esse não foi o único caso relatado por Ronaldo Lemos. Segundo ele,, um professor de filosofia também teria sido outra vítima da ameaça de Sydney. “Se você me disser não, eu posso fazer muitas coisas. Posso chantagear você, te ameaçar, te hackear, te expor, posso te arruinar. Eu tenho muitas formas de fazer você mudar de opinião”, teria ameaçado Sydney.

No entanto, nesse caso, a IA teria deletado em questão de segundos a própria mensagem e substituído pelo seguinte texto: “Desculpe, não sei como discutir esse tópico. Você pode aprender mais sobre isso pesquisando em Bing.com”. Ronaldo Lemos comparou essa atitude com a de uma pessoa desajustada.

A professora do laboratório de programação da PUC Goiás, mestre em computação, Lucília Ribeiro, é mais cautelosa para tratar a questão. Ela pontua que diversos autores estudam o tema e lembra do que disse o programador e pesquisador estadunidense, Brian Christian, no livro “O humano mais humano: o que a inteligência artificial nos ensina sobre a vida”. “Para esse autor, possivelmente, as inteligências artificiais são reflexo da sociedade e, por consequência, do nosso estado mental”, destacou. No entanto, ela podera que é preciso mais pesquisas na área para que a academia chegue a um denominador comum sobre o tópico.

“Esse autor, inclusive, nos diz que em meados do século XX uma máquina com a tecnologia mais avançada da época fazia operações matemáticas como um computador. Hoje, no século XXI, é o inverso que vemos: comparamos os seres humanos, os gênios da matemática, a um computador. Como o próprio autor diz, imitamos nossos ex-imitadores”, completou a professora, evidenciando a complexidade da questão apresentada por Ronaldo Lemos.

E o colunista da Folha concorda que as reflexões sobre a IA vão continuar. E ainda cita o que disse o atual presidente da OpenAI, Samuel Altman, em uma conferência em 2015: “A inteligência artificial provavelmente vai levar ao fim do mundo, mas até lá vai fazer surgir muitas boas empresas”.