Técnica “recorrência opaca” do Astra pode dificultar monitorar o chain of thought

A OpenAI planeja usar no próximo modelo de IA, o Astra, uma nova técnica de raciocínio chamada “recurrent depth” (recorrência opaca). O método permite que o modelo vá além do processo sequencial típico de modelos de raciocínio, o que preocupa especialistas em segurança.

A principal inquietação é que a abordagem pode tornar a cadeia de pensamento (chain of thought) mais difícil de monitorar, reduzindo a capacidade de acompanhar o que o modelo faz internamente e de identificar comportamentos perigosos. Apesar de relatos indicarem que o uso no Astra será limitado, pesquisadores alertam que ampliar a técnica em versões futuras pode prejudicar a monitorabilidade, enquanto a OpenAI afirma que a cadeia de pensamento continuará legível e rejeita a ideia de um processamento “neuralese”.