OpenAPPA (Archestra) zera ataques em benchmarks de segurança contra prompt injection

A Archestra lançou o OpenAPPA, um motor de segurança open-source para impedir exfiltração de dados causada por prompt injection ou alucinação de modelos. O sistema roda fora do loop de prompt e execução do agente e usa uma configuração appa.toml para definir fontes de dados, audiências, níveis de confiança e autoridades, com regras determinísticas de aplicação.

Em benchmarks como Bench-Corp (20 fluxos corporativos) e AgentThreatBench, o OpenAPPA reportou 0% de ataques bem-sucedidos, mantendo 89% de conclusão de tarefas. A equipe também aponta que abordagens estocásticas baseadas em “modelo-juiz” tendem a falhar por não rastrear o fluxo de dados entre tool calls, e descreve mecanismos de recuperação, como sanitização, aprovação por autoridades e Child Branches descartáveis para isolar dados não confiáveis.