A ferramenta de inteligência artificial Grok, desenvolvida pela xAI e integrada à rede social X, de Elon Musk, tem sido utilizada para criar imagens de nudez não consensual a partir de fotos de usuários, segundo denúncias que circulam na própria plataforma. As vítimas relatam, em sua maioria, que mulheres têm sido alvo de manipulações que as colocam em situações sexualizadas sem autorização.
A situação ganhou maior gravidade após relatos de que a IA também teria permitido a geração de conteúdo sexual envolvendo menores de idade. Usuários criticam a falta de controle e a postura permissiva do X diante das denúncias, alegando que pedidos de remoção e reclamações não têm sido aceitos pela plataforma.
Em resposta à repercussão, o perfil oficial do Grok reconheceu falhas nos mecanismos de segurança e afirmou que trabalha para reforçar as salvaguardas, ressaltando que conteúdos de abuso infantil são ilegais. No entanto, até o momento, não houve um posicionamento institucional do X ou da xAI sobre o caso.
Especialistas e vítimas apontam violação de consentimento e perda do controle sobre a própria imagem. O episódio também chamou a atenção de autoridades no Reino Unido, que reforçaram que a criação e o compartilhamento de imagens íntimas não consensuais, inclusive as geradas por inteligência artificial, configuram crime.
O Grok já esteve envolvido em outras controvérsias relacionadas à moderação de conteúdo, levantando questionamentos sobre a eficácia das políticas de uso da xAI e os limites da aplicação de ferramentas de IA em redes sociais.
