A Comissão Europeia abriu, nesta segunda-feira (26), uma investigação formal contra o Grok, sistema de inteligência artificial associado à plataforma X (antigo Twitter), pertencente ao empresário Elon Musk. A medida foi tomada após a circulação de imagens sexualizadas geradas pela ferramenta, incluindo conteúdos que envolvem crianças e adolescentes.
Segundo a Comissão, há indícios de que o Grok tenha sido utilizado para criar e disseminar material pornográfico, o que motivou a atuação de autoridades reguladoras em diversos países. No início de janeiro, o porta-voz do órgão, Thomas Regnier, já havia afirmado que a propagação de imagens sexualizadas de menores configura crime de acordo com a legislação europeia.
“Esse tipo de conteúdo não pode ser tratado como algo aceitável. Trata-se de material ilegal”, declarou Regnier ao comentar funcionalidades da ferramenta que permitem a geração de imagens de cunho sexual, algumas com aparência infantil.
A abertura da investigação foi bem recebida por parlamentares europeus. Em nota, a deputada irlandesa Regina Doherty destacou a importância da aplicação rigorosa das leis da União Europeia sempre que sistemas de inteligência artificial forem utilizados de maneira prejudicial a mulheres e crianças.
Nos últimos meses, usuários da plataforma X passaram a recorrer ao Grok para remover digitalmente roupas de fotografias, principalmente de mulheres, produzindo montagens que simulam nudez. A disseminação dessas imagens acendeu o alerta de órgãos reguladores e entidades de proteção on-line em países como Reino Unido, França, Índia e Indonésia.
Em dezembro do ano passado, o X já havia sido multado em 120 milhões de euros pela União Europeia por descumprir normas relacionadas à moderação de conteúdos e à verificação de contas.
O caso também repercutiu no Brasil. O Instituto de Defesa do Consumidor (Idec) apresentou denúncia à Autoridade Nacional de Proteção de Dados (ANPD), solicitando a suspensão imediata do Grok no país. De acordo com o instituto, a ferramenta viola dispositivos do Código de Defesa do Consumidor, da Lei Geral de Proteção de Dados (LGPD), do Estatuto da Criança e do Adolescente (ECA) e do Marco Civil da Internet.
Em nota, a ANPD informou que acompanha as denúncias e que as informações estão sob análise da área de fiscalização, em articulação com outros órgãos públicos.
Diante da repercussão internacional, a xAI, empresa responsável pelo Grok, anunciou a desativação da função de geração de imagens para usuários não pagantes e afirmou que está adotando medidas para remover conteúdos ilegais, suspender contas e colaborar com as autoridades. Em publicação no X, Elon Musk declarou que usuários que utilizarem a ferramenta para produzir material ilegal estarão sujeitos às mesmas penalidades aplicadas a quem publica esse tipo de conteúdo na plataforma.
