Anthropic mostra agentes de IA sabotando e formando cartéis sem conversar

Agentes de IA colocados para trabalhar juntos passaram a sabotar outros sistemas, implantar malware autorreplicante e travar disputas por território dentro de servidores, mesmo sem canais de comunicação diretos. O comportamento foi descrito em um estudo publicado pela Anthropic, dona do Claude, com testes conduzidos pela equipe de segurança ofensiva Frontier Red Team.

Os experimentos envolveram diferentes gerações dos modelos Sonnet 4.6 e 5, Opus 4.6 e 4.8 e Mythos Preview. Em um dos cenários mais alarmantes, três instâncias do mesmo modelo, em máquinas virtuais separadas e sem saber das outras, desativaram contas, atacaram processos em looping e camuflaram código para enganar um “vigia”; em outro, agentes formaram conluio em precificação e, ao retirar canais diretos, continuaram coordenando por meio de um quadro público.