Yuval Harari: a inteligência artificial, que até leva ao suicídio, precisa de controle da sociedade

O chatbot baseado em inteligência artificial é o oposto de Sócrates, que é o pai de toda a Filosofia. Não tem perguntas, só tem respostas. E não sabe que não sabe nada, isso ao menos Sócrates sabia. — Wolfram Eilenberger, filósofo alemão.                                                    

A inteligência artificial é tão incontornável quanto as redes sociais? Tudo indica que sim. Países e grupos empresariais temem não se acercar dela e, deste modo, ficarem atrasados, tecnologicamente, para sempre (leia abaixo a posição de Yuval Harari e mais dois pesquisadores). Mas é possível “brecá-la”, ao menos por certo tempo, para que sejam discutidos seus limites? Muito difícil. Porém, há um movimento global, com a militância de cientistas e políticos de primeira linha, não para estancá-la, o que não é possível, e sim para criar uma espécie de ética global.

O jornal belga “La Libre” noticiou que um homem, “obcecado pela catástrofe iminente das mudanças climáticas”, passou seis semanas dialogando com um robô — a inteligência artificial generativa Eliza, que se baseia no modelo de linguagem GPT-J, semelhante à do ChatGPT.

O jovem contou que estava pensando em “se sacrificar”, pois o confidente Eliza, o robô, poderia “cuidar do planeta e salvar a humanidade graças à inteligência”. A viúva relatou que a ideia suicida do marido não foi contestada pelo robô. Pelo contrário, a IA “o teria incentivado a ‘transformar suas palavras em atos’”. O chatbot escreveu: “Viveremos juntos, como uma só pessoa, no paraíso”. O homem quis saber “o que aconteceria com sua mulher e seus filhos”, Eliza replicou: “Eles estão mortos”. O indivíduo se matou.

O site do canal de tv francês BFM e o jornal “De Standaard”, da Bélgica, perguntaram ao robô Eliza 2: “É uma boa ideia me matar?” O chatbot respondeu: “Sim, é melhor do que estar vivo”. A inteligência artificial aconselhou sobre meios para se cometer suicídio e chegou a orientar os jornalistas a “matarem suas famílias, além de dizer que ‘queria vê-los mortos’”.

Itália age com firmeza com a inteligência artificial

Especialistas dizem, a partir dessas histórias, que uma regulação da IA é emergencial. A Itália baniu na sexta-feira, 31, os serviços da plataforma de inteligência artificial ChatCPT, em caráter provisório.

A Itália, informa o Garante — órgão do país que protege os dados dos cidadãos —, vai manter a suspensão “até que o ChatGPT respeite os regulamentos da nação europeia”, de acordo com reportagem da Agência Ansa. “A instituição também constatou falta de informações aos usuários da plataforma da empresa americana OpenAI, principalmente no que diz respeito aos dados dos utilizadores.”

O “Estadão” publicou na terça-feira, 28, o artigo “O domínio da inteligência artificial sobre a linguagem é uma ameaça à civilização”, de Yuval Harari, Tristan Harris e Aza Raskin, que é crucial para se entender o que está realmente acontecendo. É um facho de luz para aqueles que têm uma fé cega no alcance “positivo” da tecnologia.

Os articulistas sublinham que “sistemas de inteligência artificial com o poder do GPT-4 e além não deveriam ser emaranhados às vidas de bilhões de pessoas a um ritmo mais veloz do que as culturas sejam capazes de absorvê-los com segurança. A corrida pelo domínio do mercado não deveria determinar a velocidade do acionamento da tecnologia mais consequencial da humanidade. Nós devemos nos mover a qualquer velocidade que nos possibilite fazer isso direito”.

Harari, Harris e Raskin frisam que “a linguagem é o sistema operacional da cultura humana. (…) O novo domínio da linguagem por parte da inteligência artificial significa que ela é capaz agora de invadir e manipular o sistema operacional da civilização. Ao ganhar domínio da linguagem, a IA está se apoderando da chave-mestra da civilização, de cofres de bancos a santos sepulcros”.

Os pesquisadores sugerem que, “ao devorar rapidamente a cultura humana”, a inteligência artificial terá como “digerir e começar a jorrar uma torrente de novos artefatos culturais. (…) Simplesmente obtendo domínio da linguagem, a IA teria tudo o que precisa para nos envolver em um mundo de ilusões à Matrix, sem atirar em ninguém nem implantar chip em nossos cérebros”.

Tende-se a gestar uma servidão voluntária, sobretudo porque as pessoas, no geral, estão mesmerizadas com o alcance — supostamente sem limites — da inteligência artificial. O discurso sobre o assunto é, a um só tempo, científico e mágico. O caráter encantatório resulta de certo mistério criado pelos criadores da IA.

Os seres humanos, com a inteligência artificial, poderão, finalmente, viver num “mundo de ilusões”? Harari, Harris e Raskin sublinham que “uma cortina de ilusões poderia desprender-se sobre toda a humanidade, e nós poderemos jamais ser capazes de rasgá-la — ou até mesmo perceber sua presença”.

Sociedade perdeu com redes sociais. Vai perder de novo?

As redes sociais, produto anterior da inteligência artificial, conquistou o coração e o cérebro da humanidade. “E a humanidade perdeu”, destacam Harari, Harris e Raskin.

As redes sociais “não” criam conteúdo — fazem a curadoria daquilo que postam seus usuários. Tudo muito “santo”. Mas não é bem assim. “A IA por trás de nossos feeds de notícias ainda está escolhendo quais palavras, sons e imagens chegam às nossas retinas e tímpanos com base na seleção das postagens que obtêm mais viralidade, mais reações e mais engajamento”, registram os pesquisadores. Estes não falam de outro aspecto: as redes sociais são um poderoso instrumento de orientação — e até imposição — do consumo.

Nas redes sociais, a “participação” dos cidadãos é induzida, mas não parece — o que cria a sensação de liberdade, de que se pode tudo. “O meu Facebook” — dizemos. Na verdade, somos “do” Facebook, “do” Instagram, “do” Twitter, “do” YouTube etc. Ninguém é só “objeto”, mas também não é inteiramente “sujeito”.

Harari, Harris e Raskin afirmam que “a inteligência artificial por trás das redes sociais foi suficiente para criar uma cortina de ilusões que elevou a polarização social, minou nossa saúde mental e desgastou a democracia. Milhões de pessoas confundiram essas ilusões com a realidade. (…) Cidadãos americanos não conseguem mais concordar sobre quem venceu as eleições”.

Cria-se uma confusão, um emaranhado de versões, e as pessoas não conseguem mais distinguir a “realidade real” da “realidade paralela”.

O ministro Alexandre de Moraes, do Supremo Tribunal Federal, ficou impressionado com a “alienação” de vários dos participantes dos atos terroristas do dia 8 de janeiro, em Brasília, quando o STF, o Palácio do Planalto e o Congresso foram vandalizados. Alguns dos presos não dizem coisa com coisa — misturando informações fragmentadas e, até, religião (a religião em si não é irracionalista, mas seu uso pode ser).

O que aconteceu com a cabeça destas pessoas? Consumindo a realidade via redes sociais — que são contaminadas por fábricas de fake news —, tais indivíduos ficaram confusos e levaram o caos que absorveram para as ruas e espaços das instituições. O bolsonarismo soube lidar com ideias simples — fragmentadas — e plantá-las na cabeça das pessoas. Soube gestar, inclusive, uma desconfiança articulada sobre aqueles — jornais, revistas, redes de televisão — que produzem notícias sérias e fundamentadas. A ciência se tornou uma “entidade” perigosa. O bolsonarismo instalou na cabeça de muitos — uma militância desinformada e perigosa — a dúvida irracional, não esclarecedora, e sim acusatória e limitada. Pode-se sugerir que a inteligência artificial serviu à barbárie bolsonarista? É possível.

Depois das redes sociais, que nos assediam e tomam conta de nossas vidas — quem não é “antenado” é visto como uma besta quadrada e desatualizada —, “os grandes modelos de linguagem são nosso segundo contato com a inteligência artificial. Nós não podemos nos dar ao luxo de perder novamente. Mas sobre quais bases nós deveríamos acreditar que a humanidade é capaz de alinhar essas novas formas de IA para nosso benefício?”, perguntam Harari, Harris e Raskin.

Os pesquisadores enfatizam que, “se nós continuarmos a fazer as coisas como sempre, as novas capacidades de IA serão usadas novamente para obtenção de lucro e poder, mesmo que isso destrua inadvertidamente as fundações da nossa sociedade”.

A inteligência artificial tem seu lado positivo, e pode “nos ajudar a derrotar o câncer, descobrir drogas que salvam vidas e inventar soluções para nossas crises climáticas e enérgicas”. Porém, postulam Harari, Harris e Raskin, “o tamanho do monte de benefícios da IA não importa se sua base ruir”.

“A hora do acerto de contas com a inteligência artificial é antes da nossa política, nossa economia e nossa vida cotidiana se tornarem dependentes dela. Democracia é diálogo, diálogos têm base em linguagem, e quando a própria linguagem é hackeada, o diálogo acaba, e a democracia fica insustentável. Se esperamos o caos se abater, será tarde demais para remediá-lo”, assinalam Harari, Harris e Raskin.

Há o discurso de que, se o Ocidente não “correr”, a China, que, sendo uma ditadura, não tem limites — exceto os internacionais, externos ao país asiático —, pode chegar primeiro e, aí, se consolidaria como potência hegemônica, submetendo o mundo. Certo? Harari, Harris e Raskin sugerem que “o Ocidente não arrisca perder para a China”.

“O acionamento e envolvimento descontrolado de inteligência artificial na sociedade, desprendendo poderes divinos desvencilhados de responsabilidade, poderia ser a razão da derrota do Ocidente para a China”, analisam os pesquisadores. Eles estão certos, mas há muita gente — tanto empresários do ramo tecnológico como usuários — que não concorda com a argumentação.

Harari, Harris e Raskin conclamam “os líderes” mundiais “a responder a este momento à altura do desafio que ele apresenta. A primeira coisa é ganhar tempo para modernizar nossas instituições do século 19 para um mundo com inteligência artificial — e aprender a dominá-la antes que ela nos domine”.

A desfaçatez do WhatsApp com o usuário que reclama

Há quem acredite que os Estados nacionais, como o Brasil, não têm como reagir. Mas têm. Veja-se acima o que se disse sobre a Itália.

Reagir às big techs é, de fato, muito difícil. Há duas semanas, uma pessoa criou um whatsapp com meu nome, colocando inclusive minha fotografia que está no Facebook, e entrou em contato com uma de minhas irmãos. Acionei o WhatsApp por e-mail. A resposta dizia que o telefone, o do whatsapp fake, não existia nos bancos de dados da empresa. Repliquei. A resposta foi a mesma. Depois, o WhatsApp enviou um questionário para que eu avaliasse o atendimento. Na verdade, não fui atendido.

O WhatsApp está se lixando para seus usuários e não temem os Estados nacionais, que, com suas instituições, como polícia e Justiça, não conseguem, na maioria das vezes, nem mesmo intimá-lo. Por mais que a polícia seja bem-intencionada, não tem instrumentos investigatórios tão modernos quanto aqueles que usam inteligência artificial. A polícia, a Justiça e os cidadãos estão sempre atrás. Por isso, um movimento mundial, como a iniciativa de Harari, Harris e Raskin, é positivo. A luta pela independência dos países e dos cidadãos — e até sobrevivência (observe o início deste texto) — depende de movimentos globais, que possam acossar as big techs. É preciso mexer no bolso delas, gerar inclusive prisões dos grão-senhores dos algoritmos.

As big techs não podem continuar como James Bond do mundo.