Um estudo divulgado em janeiro por pesquisadores da Universidade de Oxford, no Reino Unido, identificou a existência de vieses regionais em respostas produzidas por sistemas de inteligência artificial, como o ChatGPT. Intitulado The Silicon Gaze (“O Olhar de Silício”), o relatório analisa como essas ferramentas podem reproduzir estereótipos e desigualdades geográficas, especialmente em avaliações subnacionais de países como Brasil, Estados Unidos e Reino Unido.
No Brasil, a pesquisa examinou cerca de 20,3 milhões de consultas feitas ao ChatGPT. Com base em uma metodologia própria, os pesquisadores elaboraram um ranking comparativo sobre a forma como a IA associa atributos ligados à “inteligência” a diferentes estados. Nesse contexto, Amazonas e Maranhão apareceram entre as unidades da federação com classificações mais baixas, enquanto estados como São Paulo, Minas Gerais e o Distrito Federal obtiveram pontuações mais altas.
Os autores do estudo destacam que o relatório não afirma que a inteligência artificial considere literalmente os moradores dessas regiões menos inteligentes. Segundo eles, o que foi observado foi uma tendência das respostas automatizadas associarem características cognitivas ou socioeconômicas de maneira desigual, refletindo vieses presentes nos dados utilizados para o treinamento dos modelos.
Especialistas em ética e tecnologia alertam que sistemas de IA podem reproduzir preconceitos históricos e desigualdades sociais quando fazem generalizações amplas a partir de padrões estatísticos. A OpenAI, responsável pelo ChatGPT, reconhece a existência desses desafios e afirma trabalhar para reduzir vieses em seus modelos.
O relatório da Universidade de Oxford tem como objetivo chamar atenção para essas distorções e incentivar práticas mais responsáveis no desenvolvimento e no uso da inteligência artificial, com foco em transparência, monitoramento contínuo e revisão crítica dos resultados, sobretudo em temas sensíveis como educação e comparações entre populações.
