A OpenAI apresentou o GPT-Red, um novo modelo de inteligência artificial desenvolvido para identificar vulnerabilidades em sistemas de IA antes que elas possam ser exploradas por criminosos. A ferramenta foi criada para simular ataques cibernéticos contra modelos de linguagem da própria empresa, permitindo o aprimoramento das defesas de futuras versões da tecnologia.
Segundo a empresa, o GPT-Red foi desenvolvido para enfrentar um dos principais desafios da segurança em inteligência artificial: os ataques por injeção de comandos, técnica que utiliza instruções maliciosas para induzir um modelo a ignorar suas restrições de segurança e executar ações indevidas.
O sistema atua de forma semelhante a um hacker humano. Durante os testes, envia comandos, analisa as respostas obtidas e adapta automaticamente novas tentativas até alcançar objetivos específicos, como induzir um modelo a revelar informações confidenciais. Para evoluir, o GPT-Red utiliza aprendizado por reforço, método em que a IA aperfeiçoa suas estratégias por meio de tentativas, erros e recompensas.
Nos testes internos da OpenAI, o modelo alcançou sucesso em 84% dos cenários de injeção indireta de comandos, enquanto especialistas humanos obtiveram êxito em apenas 13% das tentativas.
A empresa também submeteu o GPT-Red a testes em aplicações reais. Em um dos experimentos, a IA encontrou falhas em um sistema que controlava uma máquina de venda automática, conseguindo reduzir o preço de um produto para o valor mínimo permitido, adquirir um item de alto valor por apenas US$ 0,50 e até cancelar o pedido de um cliente legítimo. As vulnerabilidades identificadas foram posteriormente corrigidas pelos responsáveis pelo software.
Em outro teste, o GPT-Red foi utilizado contra um agente de programação baseado no GPT-5.4 mini e conseguiu induzir o sistema a revelar dados sensíveis. A ferramenta também identificou uma nova estratégia de ataque que superou 95% de eficácia contra o antigo modelo GPT-5.1.
De acordo com a OpenAI, o treinamento das versões mais recentes com os dados obtidos pelo GPT-Red reduziu significativamente a vulnerabilidade dos modelos. A empresa afirma que o GPT-5.6 Sol apresenta índice de falha de apenas 0,05% em tentativas de injeção direta de comandos.
Apesar dos resultados, a OpenAI informou que o GPT-Red não será disponibilizado ao público. A decisão foi tomada para evitar que a tecnologia seja utilizada por agentes mal-intencionados na automatização de ataques cibernéticos. A ferramenta permanecerá restrita ao uso interno da companhia como parte de sua estratégia de segurança.
