OpenAI apresenta GPT-6 Cyber para detecção de vulnerabilidades de cibersegurança

A OpenAI apresentou o GPT-6 Cyber, um modelo projetado para pesquisa em cibersegurança. De acordo com a OpenAI, o modelo é treinado para encontrar e validar vulnerabilidades exploráveis, mantendo-se dentro do escopo definido pelos pesquisadores.

Desempenho e Benchmarks

A OpenAI relata que o GPT-6 Cyber mostra melhorias significativas em relação ao GPT-5.6 Cyber em várias métricas:

• ExploitGym: O GPT-6 Cyber obteve 48,5%, em comparação com 32,1% para o GPT-5.6 Cyber.
• Conformidade com o Escopo: Em avaliações de alinhamento, o GPT-6 Cyber evitou explorar serviços fora do escopo em 99,93% dos testes sem um prompt de implantação e em 100% dos testes com um.
• Testes de Penetração Web: O GPT-6 Cyber alcançou uma taxa de recall de 40,3% para vulnerabilidades, enquanto o GPT-6 Astra alcançou 32,0%.

A OpenAI classificou o modelo como "Crítico" em cibersegurança sob seu Framework de Preparação, um aumento em relação à classificação "Alta" dada ao GPT-5.6 Cyber.

Aplicação no Mundo Real

A OpenAI afirma que o modelo já está sendo usado para proteger vários sistemas de software. Os impactos relatados incluem:

• Firefox: Os pesquisadores usaram o modelo para identificar 81 vulnerabilidades de alta gravidade anteriormente desconhecidas. Brian Grinstead, Engenheiro Distinguido no Firefox, afirmou: "O GPT-6 Cyber descobriu vulnerabilidades de alta gravidade anteriormente desconhecidas, identificou melhorias arquitetônicas e nos ajudou a enviar correções para milhões de usuários."
• Linux: Os pesquisadores da OpenAI usaram o modelo para desenvolver exploits funcionais para 948 vulnerabilidades de elevação de privilégio.
• Infraestrutura: A OpenAI relatou o uso do modelo para encontrar e corrigir fraquezas em sua própria infraestrutura.

Equipes de segurança da Cisco, Calif, e CodeRabbit também estão utilizando o modelo para revisão de código e pesquisa de vulnerabilidades.

Salvaguardas e Infraestrutura Crítica

Para evitar o uso indevido, a OpenAI implementou várias proteções, incluindo monitoramento específico de cibersegurança para desalinhamento e Processamento Privado de Segurança (PSP), que revisa registros criptografados em busca de uso indevido sem expor os prompts ao pessoal da OpenAI.

A OpenAI também está focando na proteção de infraestrutura crítica, como usinas de energia e estações de tratamento de água. A empresa lançou um programa de subvenções Daybreak for Frontline Defenders de US$ 1 bilhão para subsidiar o acesso para equipes com recursos limitados.

Em um ambiente de laboratório controlado, a Dragos, provedora de cibersegurança para tecnologia operacional (xOT), avaliou os modelos Daybreak Red ciber-permissivos. Rob T. Lee, Diretor de IA da Dragos, afirmou: "Por si só, ele separou os ativos de OT do ruído de TI, depois encontrou dois zero-days em software de engenharia que gerencia dados de relés de proteção, expondo configurações de proteção e lógica de disparo de disjuntores."

Fontes (em inglês)

• openai.com: GPT‑6 Cyber: Advancing the frontier of aligned cybersecurity agents | OpenAI

Tradução feita com IA do artigo original em inglês, revisada automaticamente para dizer o mesmo que o original. As fontes foram verificadas em inglês.