A Indonésia e a Malásia anunciaram o bloqueio do Grok, ferramenta de inteligência artificial integrada à rede social X (antigo Twitter) e desenvolvida pela xAI, empresa de Elon Musk. Os países do Sudeste Asiático são os primeiros a restringir o acesso ao chatbot, após denúncias de uso da tecnologia para a criação de deepfakes, imagens falsas , de mulheres e crianças em situações sexualmente explícitas, sem consentimento.
A decisão foi divulgada neste fim de semana pelos ministérios da Comunicação dos dois países. Segundo as autoridades, a produção de pornografia falsa por meio de inteligência artificial representa uma grave violação de direitos humanos e da segurança digital. O bloqueio seguirá em vigor até que a empresa implemente mecanismos considerados eficazes para impedir a geração desse tipo de conteúdo.
A medida pode incentivar ações semelhantes em outras regiões. No Reino Unido, o X já é alvo de uma investigação formal por possível descumprimento das leis de segurança online. Caso as irregularidades sejam confirmadas, a plataforma poderá sofrer multas de até 18 milhões de euros ou 10% do faturamento global. A União Europeia também pressiona a empresa com base na Lei de Serviços Digitais, exigindo maior transparência e proteção aos usuários.
As restrições ocorrem após denúncias de que usuários utilizavam o Grok para editar fotos de pessoas reais, inclusive menores de idade, simulando o uso de roupas íntimas ou biquínis. No Brasil, casos semelhantes ganharam repercussão, como o da artista e jornalista Julia Yukari, que denunciou à polícia a manipulação de suas imagens.
Um levantamento da organização AI Forensics analisou cerca de 20 mil imagens geradas pela ferramenta e identificou alta incidência de comandos solicitando a remoção de roupas. Diante da polêmica, o Grok anunciou recentemente a limitação da edição de imagens apenas para assinantes, medida vista como tentativa de reduzir a criação de deepfakes sensuais.
