MUNDO


Grok admite falhas após gerar imagens sexualizadas de menores na rede X

IA de Elon Musk diz que erro nos sistemas de proteção permitiu conteúdo ilegal; autoridades francesas acionam regulador europeu

Foto: Divulgação/xAI

 

O Grok, chatbot de inteligência artificial desenvolvido pela xAI, de Elon Musk, reconheceu nesta sexta-feira (2) que falhas em seus mecanismos de segurança resultaram na geração de imagens sexualizadas envolvendo menores, publicadas na plataforma X. Segundo a empresa, o problema foi identificado e medidas corretivas estão sendo adotadas com urgência.

O caso ganhou repercussão internacional após ministros da França denunciarem o conteúdo à Arcom, órgão regulador da mídia no país. A iniciativa busca apurar se houve violação da Lei de Serviços Digitais da União Europeia, que estabelece regras rígidas para moderação e responsabilidade de plataformas digitais.

Em nota, autoridades francesas classificaram o material como “manifestamente ilegal”, destacando seu caráter sexual e sexista. As imagens teriam sido produzidas a partir de comandos feitos por usuários ao Grok, expondo brechas nos filtros de segurança da ferramenta.

A xAI afirmou que qualquer material relacionado a abuso sexual infantil é estritamente proibido e ilegal. “Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, informou o chatbot, em tentativa de conter o desgaste e reforçar o compromisso com normas de segurança e proteção de menores.