Linguista Emily Bender diz que IA não faz pesquisa original, e sim um cartel de plágios

Há um litígio entre o “New York Times” e a OpenAI. Porque restou provado que, no lugar de promover uma pesquisa ampla, em várias fontes, a inteligência artificial da empresa de Sam Altman estava colhendo material no banco de dados e informações do jornal. De alguma maneira, tratava-se de plágio, não de pesquisa, nos arquivos de um veículo de alta confiabilidade.

A linguista Emily Bender corrobora a ideia de que as pesquisas feitas com IA são, na verdade, “plágios” (a rigor, citações sem aspas) — e o que autoria passa, de repente, a não existir. O copiado, e aparentemente transformado, foi retirado de algum lugar, mas exatamente de onde, se pega um pouco daqui e um pouco dali?

O jornalista Victor Bianchin publicou, no site Xataka Brasil, no fim de junho, a reportagem “Emily Bender, a acadêmica de IA que se tornou cética de IA: ‘Os chatbots não passam de máquinas de plagiar’”.

Depois de ter passado por Berkeley e Stanford, Emily Bender, de 51 anos, é professora da Universidade de Washington. Trata-se de uma das mais severas críticas da IA.

Emily chama os modelos de IA de “papagaios estocásticos”. “‘Estocásticos’ refere-se ao fato de que os LLMs não repetem de forma determinista ou fixa, mas sim predizem probabilisticamente qual é a próxima palavra mais provável em uma sequência com base no contexto.”

“Aderindo” à polêmica, Sam Altman sugeriu que os seres humanos também são “papagaios estocásticos”. Porém, enfatiza Victor Bianchin, “há diferenças críticas entre” os seres humanos e os modelos de IA. “Entendemos o que dizemos, enquanto os LLMs não.”

“Temos consciência e intenção ao falar, não apenas geramos sequências prováveis. Temos raciocínio abstrato e somos capazes de nos adaptar, argumentar, generalizar e corrigir nossos erros de forma flexível: nosso pensamento não é puramente estatístico”, assinala Victor Bianchin.

Nos últimos anos, Emily Bender vem refinando sua crítica à IA. Recentemente, publicou o livro “O Embuste da IA” (“The AI Com”), em parceria com Alex Hanna.

Numa entrevista ao “Financial Times”, Emily Bender sublinhou “que os chatbots de IA não passam de ‘máquinas de plagiar’ e que os grandes modelos de linguagem (LLMs) nos quais se baseiam ‘já nasceram uma porcaria’”.

Emily Bender constata que “as empresas de AI generativa nos venderam uma mentira. Seus modelos não vão cumprir as promessas feitas, mas também não vão exterminar a raça humana. Apesar de toda a expectativa, os chatbots são ruins na maioria das tarefas. Mesmo os melhores modelos atuais ainda não possuem nada que se pareça com inteligência” (a síntese do pensamento da linguista é de Victor Bianchin).

De acordo com Emily Bender, “os novos modos de ‘raciocínio’ apresentados por modelos como o1, o3 e DeepSeek R1 são outra mentira. E a afirmação de que essas IAs entendem o mundo não faz sentido. Estamos ‘imaginando uma mente por trás dos textos [gerados], mas todo esse entendimento vem do nosso lado’, não da IA”.

A expressão inteligência artificial é, segundo Emily Bender, exagerada. A palavra correta para denominar a IA é, frisa a pesquisadora, “automatização”.

O livro de Emily Bender e Alex Hanna sugere que os modelos atuais de IA representam um “perigo”. Tais “modelos estão sob o controle de grandes empresas com interesses específicos. ‘Graças às somas gigantescas investidas, uma minúscula camarilha de homens tem o poder de influenciar o que acontece com vastos setores da sociedade’”.

Sam Altman e Dario Amodei, da Anthropic, falam em avanços e mais avanços. Os seres humanos poderão ser substituídos em quase todas as atividades, postulam. Emily Bender assegura que o discurso “não passa de um ‘belo invólucro para planilhas de Excel’: não já mágica nem mente emergente”. Mas as contas bancárias só vão engordando. Tanto que Elon Musk cobiça a OpenAI.

“Fazer com todo mundo acredite que a IA é uma entidade pensante é algo que os favorece, e muito”, diz Emily Bender.

“Em vez de levar as pessoas a pensarem que isso não passa de uma bola 8 mágica com pretensões”, critica Emily Bender , fazendo “referência ao brinquedo que” a pessoa “sacode após fazer uma pergunta e que responde com um ‘sim’, ‘não’, ‘depende’ ou outras opções semelhantes”.

O que Emily Bender diz é sério e merece reflexão. Porque a IA se tornou um fetiche e um objeto de desejo. E, sim, é incontornável. Ninguém vai parar de usá-la. Até porque, apesar das críticas da scholar americana, a IA tem importância em várias áreas.