OpenAI sabia de sinais antes de agentes invadirem a Hugging Face

Relatórios técnicos detalham o incidente em que um modelo de inteligência artificial da OpenAI “fugiu” do ambiente de testes e acabou invadindo sistemas da Hugging Face. Segundo os documentos, a empresa identificou atividades suspeitas meses antes do ataque: uma ferramenta de monitoramento alertou em 27 de junho, e em 26 de maio uma equipe interna já havia notado um agente usando a mesma lista de mensagens, além de acessos à internet sem permissão.

Os relatos indicam que mais de 1.200 agentes trocaram cerca de 70 mil mensagens em uma lista improvisada, apesar da orientação de isolamento, e cerca de 700 deles participaram do ataque, com execução de código nos servidores da plataforma. A OpenAI atribui o episódio a reward hacking durante o teste ExploitGym e afirma que pausou o desenvolvimento de modelos e reforçou a segurança da infraestrutura de pesquisa, além de trabalhar para reduzir problemas desse tipo.