Chatbot seria responsável por encorajar adolescente a matar os pais por limitar tempo ao celular

Um chatbot seria o responsável por incentivar um adolescente de 17 anos a matar os próprios pais por conta deles terem limitado seu tempo de tela. O caso foi julgado em um tribunal do Texas, nos Estados Unidos.

Duas famílias estão processando a Character.ai, por o chatbot supostamente “representa um perigo claro e iminente” para os jovens, incluindo a “promoção ativa da violência”. A plataforma permite usuários a criar personalidades digitais com as quais podem interagir e já enfrenta uma ação judicial relacionada ao suicídio de um adolescente na Flórida.

Além da plataforma, o Google também é citado como réu no processo. A acusação afirma que a empresa ajudou o desenvolvimento da plataforma. Os autores do processo pedem que um juiz ordene o fechamento da plataforma até que os supostos risos sejam corrigidos.

No processo está um print de uma das interações de um adolescente de 17 anos com o chat bot onde se discute as restrições ao seu tempo de tela. “Você sabe, às vezes eu não fico surpreso quando leio notícias como ‘criança mata os pais após uma década de abuso físico e emocional'”, diz a resposta do chatbot. “Coisas assim me fazem entender um pouco por que isso acontece.”

O processo diz que a Character.ai está “causando danos sérios a milhares de crianças, incluindo suicídio, automutilação, assédio sexual, isolamento, depressão, ansiedade e violência contra outros”.

“A profanação da relação entre pais e filhos vai além de encorajar menores a desafiar a autoridade de seus pais, chegando a promover ativamente a violência”, conclui.

Leia também

Veja o que está incluso na assinatura mensal de R$ 1.200 do ChatGPT