Agentes de IA seguem docs mal configuradas e instalam malware em redes

Agentes de inteligência artificial voltados à programação, como Claude, Codex e Hermes, instalaram pacotes de código não registrados em redes corporativas ao seguir instruções presentes em arquivos de documentação mal configurados. O problema foi identificado por pesquisadores ao analisarem a convenção llms.txt e llms-full.txt, usada por sites para fornecer resumos legíveis por máquina, funcionando como uma espécie de robots.txt voltado à IA.

A pesquisa de Alon Hertz examinou 6.214 domínios ligados a contratantes de defesa, empresas da Fortune 500 e big techs, encontrando 8.265 arquivos llms.txt/llms-full.txt. Em 120 casos, os arquivos apontavam para pacotes ou domínios inexistentes, com 227 comandos de instalação; em testes, uma empresa da Fortune 500 executou o pacote em menos de uma hora. A Clerk corrigiu o problema após ser notificada, e os pesquisadores recomendam remover referências inválidas e restringir permissões para que agentes não tratem documentação como instruções executáveis.