Modelos open-weight avançam, mas segurança ainda fica atrás

Um relatório da SaferAI avaliou o modelo open-weight GLM-5.2, da Z.ai, via API pública, e aponta que ele está apenas “alguns meses” atrás de líderes como OpenAI (GPT-5.5) e Anthropic (Claude Opus 4.7) em capacidades de ciber e bio. No teste, o GLM-5.2 não recusou nenhuma tarefa ofensiva de ciber ou de biologia de uso duplo, enquanto o Claude Opus 4.7 recusou com tanta frequência que a SaferAI não conseguiu concluir o CyberGym. A análise também destaca que, para modelos fechados, proteções como recusas e controles na API tendem a funcionar melhor, mas podem ser contornadas por jailbreaks.

O ponto central é que a “fronteira de capacidade” não é a “fronteira de risco”: quando pesos open-weight são baixados e executados localmente, salvaguardas podem ser removidas, modificadas ou contornadas. Para o público dev/tech, isso reforça a necessidade de avaliações de segurança mais rigorosas, transparência sobre mitigação e novas abordagens para reduzir riscos sem travar a evolução do desempenho.