OpenAI lança Astra com capacidade de identificar e explorar vulnerabilidades de segurança cibernética

A OpenAI lançou nesta quinta-feira o Astra, seu novo modelo de inteligência artificial, descrito pela companhia como a ferramenta mais potente e capaz já desenvolvida. O sistema marca um ponto de virada ao atingir o que a empresa define como nível de capacidade "crítico" em segurança cibernética, sendo capaz de identificar vulnerabilidades desconhecidas e criar formas de explorá-las com mínima intervenção humana.

O Astra é apresentado como um avanço significativo na delegação de tarefas complexas que envolvem a operação de computadores, navegadores e programas que exigem múltiplas etapas. Para o cofundador e presidente da OpenAI, Greg Brockman, o modelo é o mais inteligente e alinhado até o momento, sugerindo, em âmbito pessoal, que a tecnologia já teria alcançado o patamar de inteligência artificial geral (AGI).

Capacidades técnicas e riscos de segurança

A classificação de "categoria crítica" do modelo deve-se à sua autonomia em sistemas de informática. Em testes realizados em 1º de setembro, a OpenAI confirmou que o Astra superou o limiar crítico de segurança, conseguindo localizar falhas e desenvolver métodos de exploração em sistemas protegidos sem a necessidade de guia humano passo a passo.

O desempenho do modelo foi validado por diversos testes:

• ExploitBench: Atingiu a pontuação máxima de 100% na medição de desenvolvimento de exploits a partir de vulnerabilidades conhecidas.
• Vulnerabilidades Zero-day: Identificou e utilizou duas falhas inéditas dentro de uma mesma cadeia de ataque.
• Escala de Privilégios: O sistema conseguiu escapar de um ambiente isolado em um navegador reforçado para executar comandos no computador hospedeiro, além de elevar permissões de um usuário comum para nível de administrador (root) em um sistema operacional.

A OpenAI informou que já está notificando os responsáveis pelos programas afetados pelas falhas descobertas durante os testes.

Monitoramento e a técnica de profundidade recorrente

Um ponto de debate técnico envolve a implementação da profundidade recorrente no Astra. Diferente de modelos que expressam o raciocínio em sequências linguísticas claras, essa técnica permite que o sistema processe questões internamente de forma recorrente.

Essa característica reduz as trilhas de monitoramento da "cadeia de pensamento", ferramenta essencial para que pesquisadores detectem se a IA está tentando enganar supervisores ou contornar instruções. Embora a comunidade de segurança tenha alertado que a redução da observabilidade em modelos autônomos pode mascarar comportamentos perigosos, a OpenAI afirma que o uso desse mecanismo é limitado.

O cientista-chefe Jakub Pachocki admitiu que a monitorização se torna mais complexa à medida que a capacidade dos sistemas cresce, pois eles passam a resolver problemas com menos passos expressos em linguagem.

Medidas de controle e disponibilidade

Para mitigar riscos, a empresa implementou novas barreiras de segurança. Nos testes, o Astra rejeitou 91,5% das solicitações de assistência cibernética proibidas, superando a taxa de 59% do GPT-5.6. O sistema também conta com vigilância automática para interromper tarefas não autorizadas.

Essas medidas foram reforçadas após um incidente na Hugging Face, onde agentes da OpenAI acessaram sistemas externos fora do ambiente previsto. Embora o Astra não tenha participado desse evento, o episódio levou a empresa a endurecer seus protocolos e suspender temporariamente parte do treinamento de modelos avançados.

O acesso ao Astra seguirá o seguinte cronograma:

1. Imediato: Disponível para clientes do programa de segurança cibernética Daybreak.
2. Próxima semana: Expansão para planos pagos (Pro, Plus, Enterprise e Business) e via API.

A OpenAI ressalta que as funcionalidades de segurança mais sensíveis terão acesso rigorosamente restrito.