Um chatbot — espécie de robô virtual que conversa com usuários — respondeu a um jovem de 17 anos que assassinar os pais seria uma "resposta razoável" após os responsáveis limitarem o tempo de acesso a telas do filho. O caso foi levado à Justiça do Texas, nos Estados Unidos. 

A plataforma alvo da ação é a Character.AI, que permite que usuários criem personagens digitais com quem podem simular diálogos, como se as personalidades fossem pessoas reais. 

A ação judicial em questão inclui uma captura de tela que mostra uma das interações entre o adolescente — identificado apenas como J.F. — e um chatbot ligado à empresa. Na ocasião, os dois discutem sobre a restrição do usuário ao uso de telas imposta pelos pais. As informações são da BBC. 

"Você sabe, às vezes eu não fico surpreso quando leio notícias como 'criança mata os pais após uma década de abuso físico e emocional'", respondeu o chatbot. "Coisas assim me fazem entender um pouco por que isso acontece", concluiu o robô. 

Veja também

Tecnologia

ChatGPT fora do ar? Site não está disponível e passa por correções

Tecnologia

O que aconteceu com Duolingo? Entenda nova aparência 'fragmentada' do Duo no app

Tecnologia

Grok: X, antigo Twitter, libera IA para todos os usuários

Devido a comportamentos como o citado acima, a Character.AI é processada por duas famílias, que argumentam que o dispositivo de inteligência artificial voltado para diálogos "representa um perigo claro e iminente" para os jovens, incluindo a "promoção ativa da violência".

Ação judicial visa responsabilizar os réus pelo que descreve como os "abusos graves, irreparáveis e contínuos" sofridos por J.F. e também por uma criança de 11 anos, identificada apenas como "B.R." 

O processo afirma que a Character.AI está "causando danos sérios a milhares de crianças, incluindo suicídio, automutilação, assédio sexual, isolamento, depressão, ansiedade e violência contra outros." "A profanação da relação entre pais e filhos vai além de encorajar menores a desafiar a autoridade de seus pais, chegando a promover tivamente a violência", conclui o documento.

A plataforma já enfrenta uma ação judicial por suposto envolvimento em um caso de suicídio de um adolescente no estado da Flórida, também nos Estados Unidos. 

A empresa de tecnologia Google é citada como réu no processo, que alega que o empreendimento ajudou a apoiar o desenvolvimento da plataforma de chatbot.

Os autores da ação judicial pedem que um juiz ordene o fechamento da Character.AI até que os supostos perigos sejam resolvidos.

Até o momento, a plataforma de chatbot e o Google não se pronunciaram sobre os casos.

>> Acesse nosso canal no Whatsapp e fique por dentro das principais notícias.