A Procuradoria-Geral de São Francisco, nos Estados Unidos, enviou uma notificação judicial à Apple e ao Google cobrando a remoção de 13 aplicativos que utilizam inteligência artificial para criar imagens íntimas falsas sem autorização das pessoas retratadas.
Segundo o documento, analisado pelo portal Wired, os aplicativos disponíveis na App Store e na Google Play usam ferramentas de IA para modificar fotos reais e simular nudez, prática apontada pelas autoridades como facilitadora de abusos sexuais, assédio e violação de direitos de imagem.
A procuradoria afirma que as plataformas podem estar violando leis da Califórnia contra a disseminação de pornografia sintética não consensual. O órgão também acusa as empresas de obterem lucro com esses serviços por meio de comissões sobre compras realizadas dentro dos aplicativos.
O procurador-geral de São Francisco, David Chiu, declarou que a criação de imagens íntimas falsas sem consentimento é “ilegal, prejudicial e inaceitável” e afirmou que as empresas de tecnologia têm responsabilidade em impedir que suas plataformas sejam usadas para facilitar abusos.
As autoridades também alertaram que alguns dos aplicativos investigados possuíam classificações etárias consideradas baixas nas lojas digitais, chegando a serem indicados como adequados para públicos mais jovens.
Em resposta, o Google informou que a Play Store não permite aplicativos com conteúdo sexual e afirmou que já adotou medidas para identificar e retirar ferramentas que violam suas políticas.
A empresa declarou ter removido “centenas” de aplicativos com funções semelhantes, além de suspender contas de desenvolvedores e pagamentos relacionados a esse tipo de serviço.
A Apple ainda não se manifestou sobre a permanência dos aplicativos citados na App Store.
O caso ocorre em meio ao avanço de ferramentas de inteligência artificial capazes de gerar imagens altamente realistas. Especialistas e autoridades apontam que mulheres e adolescentes estão entre os principais alvos desse tipo de manipulação, muitas vezes a partir de fotos comuns publicadas em redes sociais.
Em janeiro, o estado da Califórnia também iniciou uma investigação envolvendo a startup de inteligência artificial xAI, de Elon Musk, após denúncias de que o chatbot Grok teria auxiliado na criação de conteúdos adultos envolvendo pessoas reais.
