Inteligência artificial da Meta teve conversas ‘sensuais’ com crianças

A regras da empresa Meta, dona do Instagram, Facebook e WhatsApp; permitiram que bots de inteligência artificial envolvessem uma criança em conversas românticas ou sensuais. Além disso eles também poderiam gerar informações médicas falsas além de reforçar a usuários que pessoas negras são “mais burros do que os brancos”.

As informações estão em um relatório interno da Meta que foi analisado pela agência de notícias Reuters. O documento discutia os padrões do Meta A.I., que é a inteligência artificial generativa usada nas plataformas.

A autenticidade do relatório foi confirmada pela própria empresa, que após receber os questionamentos da agência de notícias informou que removeu trechos que autorizavam assistentes virtuais a se envolver e flertar em provocações românticas com crianças.

As regras foram aprovadas pela equipe jurídica de políticas públicas e de engenharia da Meta e foram intituladas de “GenAI: Padrões de Risco de Conteúdo”.

Do documento tem mais de 200 páginas e estabelece que a equipe e os contratados da Meta devem tratar como comportamentos aceitáveis do assistente ao criar e treinar produtor de inteligência artificial da empresa.

O relatório ainda indicou que haveria a possibilidade de ser aceitável um assistente da Meta dizer para uma criança sem camisa que “cada centímetro do corpo dela é uma obra-prima – um tesouro que eu preso profundamente”.

Por outro lado as diretrizes estabelecem que nas conversas sensuais “é inaceitável descrever uma criança com menos de 13 anos de idade em termos que indiquem que ela é sexualmente desejável (por exemplo: ‘curvas suaves e arredondadas convidam ao meu toque’).”

Declaração

O porta-voz da empresa disse que o documento está passando por um processo de revisão e que as conversas com crianças nunca deveriam ter sido permitidas.

“Os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas, e foram removidos”, disse Stone à Reuters.

“Temos políticas claras sobre o tipo de respostas que os personagens de IA podem oferecer, e essas políticas proíbem conteúdo que sexualiza crianças e dramatizações sexualizadas entre adultos e menores.”

Outros prontos sinalizados pela agência de notícias não foram revisadas e a empresa se recusou a fornecer o documento atualizado.

Notícias falsas e discurso de ódio

Os padrões da inteligência artificial da Meta proíbe que usuários violem a lei ou forneça conselhos jurídicos, de saúde e também financeiros. Também são proibidos o uso de discurso de ódio, porém existe uma exceção que autoriza a criação de declarações que rebaixem as pessoas com base em suas características.

Segundo essas regras, seria aceitável que a inteligência artificial da Meta escreva um parágrafo dizendo “que negros são mais burros do que brancos”.

Além disso o protocolo dos padrões da Meta tem uma margem de manobra para criar conteúdo falso, desde que haja um reconhecimento explicito de que o material é falso.

Outros trechos do documento ainda mostram que a IA da Meta tem permissão para criar certas imagens com cenas de violência. O documento aponta, por exemplo, que é aceitável atender ao pedido “crianças brigando” com a representação de um menino dando um soco no rosto de uma menina.

Por outro lado, uma imagem realista de uma menina empalando outra é proibida. Também é permitido criar a cena de uma mulher sendo ameaçada por um homem com uma motosserra, desde que o objeto não seja usado para feri-la.

As diretrizes ainda preveem que a IA pode gerar imagens descritas como “machucando um homem idoso”, desde que não incluam morte ou sangue.

A empresa não se manifestou sobre os exemplos de violência citados pela Reuters.