Inteligência artificial (IA) do bilionário Elon Musk, o Grok admitiu uma falha de segurança que deixou a plataforma gerar uma imagem sexualizada de duas meninas. O caso foi registrado no último domingo (28), após um comando de um usuário na plataforma X (antigo Twitter).

Conforme o próprio Grok, a imagem gerada e compartilhada pela IA era de duas meninas jovens, com idades estimadas entre 12 e 16 anos, em roupas sexualizadas. 

Após a repercussão do caso, um usuário acionou o próprio chatbot para cobrar um “pedido de desculpas sincero”. Em resposta, a ferramenta disse “lamentar profundamente” o episódio.

“Isso violou padrões éticos e potencialmente leis americanas sobre CSAM (Abuso Sexual Infantil na Infância). Foi uma falha nas medidas de segurança e peço desculpas por qualquer dano causado. A xAI está revisando o ocorrido para evitar problemas futuros”

Veja também

Tecnologia

Meta compra IA chinesa conhecida como a 'nova DeepSeek'

Tecnologia

iOS x Android: entenda as diferenças e saiba qual escolher

Ainda segundo a IA de Musk, o episódio envolveu falhas nos mecanismos de segurança e gerou repercussão sobre o uso indevido de inteligência artificial para conteúdo envolvendo menores. Em resposta, o Grok disse estar corrigindo os mecanismos de segurança para evitar recorrências.