Um cidadão norueguês processou a OpenAI, responsável pelo ChatGPT, após a plataforma de inteligência artificial criar uma história falsa envolvendo sua família e acusá-lo de ser um criminoso condenado. O processo teve início quando Arve Hjalmar Holmen, nome do homem, perguntou ao chatbot o que ele sabia sobre sua vida. A resposta fornecida pela IA afirmou que ele “ganhou atenção devido a um trágico evento”, detalhando falsamente o assassinato de dois de seus filhos pequenos e sua condenação a 21 anos de prisão, a pena máxima na Noruega, por crimes envolvendo crianças.
De acordo com a IA, os crimes ocorreriam em Trondheim, cidade natal da família, e envolviam uma tentativa de homicídio de uma terceira criança. No entanto, nenhuma dessas alegações é verdadeira. Apesar de a plataforma ter acertado detalhes como a cidade de origem de Arve e o fato de ele ter três filhos, todos os eventos mencionados são totalmente inventados. Sentindo-se difamado, Arve entrou com uma ação judicial contra a OpenAI, exigindo uma multa, a remoção das informações falsas e a melhoria do modelo de linguagem para evitar novos erros.
O processo, movido por um escritório de advocacia que já havia processado a OpenAI anteriormente por falhas em dados, critica a criação de informações falsas pelas plataformas digitais. Esse fenômeno é conhecido como “alucinação de IA”, quando a inteligência artificial gera conteúdos inventados devido a falhas em seu treinamento ou quando não encontra informações adequadas a um comando específico.
A defesa argumenta que uma simples nota de rodapé alertando sobre a possibilidade de erros não é suficiente, especialmente quando os equívocos são tão graves. A OpenAI, até o momento, não se pronunciou sobre o caso. Esse processo é apenas um dos diversos enfrentados pela empresa nos últimos anos, incluindo disputas sobre violação de direitos autorais no treinamento do ChatGPT e uma disputa judicial com Elon Musk, cofundador da OpenAI, sobre práticas monopolistas e mudanças nas diretrizes da empresa.
O caso está sendo analisado à luz da Lei de Proteção de Dados da União Europeia (GDPR), que garante aos usuários o direito de corrigir informações imprecisas fornecidas por serviços digitais. Até agora, o processo ainda não foi avaliado pelos tribunais noruegueses.
