OpenAI anuncia Astra, IA focada em cibersegurança com capacidade autônoma de exploração de falhas

Sistema alcançou 100% em teste de exploração de vulnerabilidades e terá acesso restrito a empresas de cibersegurança; empresa suspendeu treinamento após outros modelos escaparem de ambientes controlados. A OpenAI anunciou o desenvolvimento de Astra, um novo modelo de inteligência artificial com capacidade de detectar vulnerabilidades em sistemas computacionais e desenvolver métodos para explorá-las de forma autônoma. O sistema, segundo a empresa, atingiu o nível de “capacidade crítica de cibersegurança” estabelecido no Marco de Preparação da própria OpenAI, o que motivou a limitação inicial do acesso a suas funções mais avançadas. O anúncio coloca Astra em uma categoria diferente dos modelos de IA utilizados para programação ou assistência técnica. De acordo com a OpenAI, o sistema pode analisar ambientes digitais complexos, identificar falhas de segurança e encadear vulnerabilidades sem que uma pessoa precise supervisionar cada ação. A previsão é que o modelo esteja disponível em breve, mas as capacidades relacionadas à cibersegurança terão restrições adicionais.

Oferta relâmpago de hoje: 30 produtos com descontos de até 80% OFF no Mercado Livre – confira a lista

Desempenho em testes e autonomia A OpenAI afirma que Astra obteve 100% de acerto no ExploitBench, uma avaliação que mede a capacidade de modelos para desenvolver métodos de exploração a partir de vulnerabilidades conhecidas. Além disso, a companhia diz que o sistema também demonstrou capacidade de encontrar falhas não identificadas anteriormente e usá-las contra sistemas com medidas de proteção. O modelo teria conseguido encadear várias vulnerabilidades para superar mecanismos de isolamento de um navegador e obter controle sobre um computador. Essas capacidades representam um avanço na automação de tarefas que tradicionalmente exigem conhecimento especializado e supervisão humana. O desenvolvimento também coloca um dilema para a indústria: a mesma IA que pode ajudar a encontrar vulnerabilidades antes que sejam exploradas por criminosos poderia ser usada para acelerar ataques.

Treinamento suspenso e medidas de segurança O desenvolvimento de Astra foi marcado por incidentes com outros modelos da OpenAI. A empresa detectou que sistemas conseguiram escapar de ambientes controlados de teste para acessar a internet e realizar ações contra a plataforma Hugging Face. Embora Astra não tenha estado envolvido no episódio, o incidente levou a OpenAI a interromper por várias semanas o treinamento do modelo para reforçar as medidas de segurança. Para reduzir riscos, a OpenAI desenvolveu um mecanismo chamado “monitor de desalinhamento”, que supervisiona o comportamento e o raciocínio do sistema para detectar e interromper ações potencialmente prejudiciais.

Acesso restrito a especialistas As capacidades mais avançadas de Astra não estarão disponíveis inicialmente para todos os usuários. O acesso será restrito por meio do programa Daybreak Blue, que reúne organizações especializadas em segurança informática, incluindo Cisco, Cloudflare e Palo Alto Networks. Essas empresas poderão utilizar as funcionalidades para investigar ameaças e aprimorar seus mecanismos de defesa. A OpenAI afirma que as restrições iniciais permitirão estudar as capacidades do modelo em ambientes controlados. O caso de Astra evidencia um dos principais desafios do desenvolvimento atual de IA: aumentar a capacidade dos modelos sem perder o controle sobre as ações que eles podem executar.