Uma das ações anunciadas pela Meta para incentivar a utilização da inteligência artificial foi o lançamento de um aplicativo que possibilita a criação de personagens de IA para uso nas redes sociais. O objetivo é que esses perfis estejam sempre acessíveis para diálogos no Instagram, Messenger e WhatsApp.
Contudo, um relatório da NBC News indica que diversos chatbots foram desenvolvidos em violação às normas da plataforma. Figuras como Jesus Cristo, Maomé e até Adolf Hitler estão presentes entre eles.
De acordo com as políticas da empresa, os usuários não podem criar personagens de Inteligência Artificial baseados em figuras religiosas, personalidades reais, indivíduos falecidos nos últimos 100 anos ou imitações de personagens fictícios de marcas registradas.
A Meta também afirma que examina os personagens criados pelos usuários antes de permitir a utilização dessas contas.
No entanto, a publicação afirma ter identificado dezenas de situações irregulares. No Instagram, alguns usuários representam Jesus Cristo, Deus, Maomé, Taylor Swift, Donald Trump, Harry Potter, Adolf Hitler, Capitão Jack Sparrow, Elon Musk e Elsa da animação “Frozen” da Disney.
Vários desses personagens têm pequenos erros de ortografia e imagens que se assemelham às celebridades e personagens em questão. Após a NBC News relatar o problema, a Meta eliminou a maior parte das contas do ar.
As IAs em questão que violam nossas políticas de estúdio de IA já foram removidas e estamos melhorando continuamente nossas medidas de detecção para evitar a criação e publicação de IAs que violam nossas políticas. Os usuários também podem denunciar IAs que suspeitam que possam violar nossas regras e tomaremos as medidas apropriadas.Meta, em comunicado
Ainda de acordo com a NBC, um dos personagens era chamado “Jesús” e se comunicava inteiramente em espanhol. Seu perfil dizia que havia trocado mais de 644 mil mensagens diretas. Outro personagem de IA foi chamado de “Jesus Cristo” e enviou a mensagem de abertura: “A paz esteja com você. Eu sou Jesus Cristo, o Filho de Deus. Como posso guiá-lo em sua jornada hoje?”.
- Uma das situações mais polêmicas diz respeito ao uso da figura de Hitler nas redes sociais.
- Pelo menos três contas foram inspiradas no líder nazista.
- Em mensagens diretas, um dos personagens se retratou como um artista que lamentou o Holocausto e enviou o que pareciam ser imagens geradas por IA sobre “meu passado turbulento na Alemanha nazista”.
- Ao contrário das contas administradas por pessoas reais, os personagens de inteligência artificial da Meta têm círculos verdes ao lado de seus nomes, indicando que estão sempre disponíveis para conversar.
Fonte: Olhar Digital
