O Google anunciou a retirada do modelo de inteligência artificial Gemma de sua plataforma AI Studio, após relatos de que a ferramenta forneceu dados incorretos em pesquisas. O modelo foi lançado como parte de uma nova “família de modelos abertos leves e de última geração”, voltada a desenvolvedores e pesquisadores de IA.
Em comunicado publicado no X, a empresa destacou que o Gemma não deveria ser usado por usuários comuns em pesquisas cotidianas, reconhecendo que houve relatos de uso indevido. O Google também reafirmou o compromisso de reduzir “alucinações” e melhorar continuamente seus modelos, e informou que o acesso ao Gemma ficará restrito à API para desenvolvedores.
O modelo passou a ser alvo de críticas depois que a senadora norte-americana Marsha Blackburn acusou a IA de difamação e preconceito. Segundo reportagem do The Verge, o Gemma teria indicado falsamente que Blackburn esteve envolvida em um relacionamento sexual forçado com um policial durante a campanha eleitoral de 1987 — informação que a senadora desmentiu, afirmando que nunca participou daquele processo eleitoral. O modelo chegou a fornecer links de notícias que reforçavam a história falsa, ainda que levassem a conteúdos incorretos ou não relacionados.
Blackburn classificou o episódio como “um ato de difamação produzido e distribuído por um modelo de IA de propriedade do Google”, ressaltando o potencial prejudicial de erros desse tipo.
O caso reforça o debate sobre a responsabilidade de empresas de tecnologia na validação de informações fornecidas por ferramentas de inteligência artificial.
