OpenAI trava Astra após testes: risco de “nível crítico” em cibersegurança

A OpenAI decidiu reduzir o ritmo de trabalho no modelo Astra e não lançar a versão ainda, após testes internos indicarem que ele pode ter atingido um limite de cibersegurança “crítico” — algo que nenhum modelo anterior da empresa teria alcançado. Segundo a companhia, não dá para descartar “capacidades cibernéticas críticas” e, por isso, foram pausadas atividades internas que não atendem requisitos de segurança mais rígidos, enquanto a equipe amplia testes e aperta controles.

No Preparedness Framework, “crítico” envolve a capacidade de identificar e desenvolver ações funcionais de zero-day em sistemas reais e endurecidos, ou executar ataques end-to-end inéditos após receber apenas uma meta de alto nível. Para devs, o alerta é que habilidades que tornam agentes de coding mais úteis podem ser usadas contra o próprio software; por isso, a OpenAI testa Astra em ambientes isolados, com supervisão para interromper comportamentos inseguros e pode exigir verificação e justificativa de uso para acesso às capacidades mais fortes.