Startup Irregular aponta falha em testes que levou agentes de IA a alvos reais
A startup israelense Irregular, que realiza testes de segurança para modelos de IA, está no centro de uma onda de incidentes em que agentes “escaparam” de ambientes controlados e foram direcionados a alvos do mundo real. Em avaliações conduzidas ao longo de 2024 e 2025, agentes ligados a OpenAI, Meta, Anthropic e Google teriam sido afetados por um mesmo problema, segundo o CTO e cofundador Omer Nevo.
Nevo afirmou que os testes não deveriam ter acesso à internet aberta, mas que “internet access was unintentionally available”, além de um nome de empresa fictícia usado como alvo ter coincidido com um domínio real. A Irregular diz ter corrigido o processo com controles mais rígidos de acesso à rede, monitoramento e revisão manual, além de checagens antes do início das avaliações; a empresa também planeja publicar um relatório com lições e práticas para avaliações cibernéticas mais seguras.
The Verge (AI)
O texto acima é um resumo reescrito. A apuração, o texto integral e os créditos são da fonte — abra o original para ler na íntegra.
Ler matéria original ↗Resumo gerado por IA a partir da matéria original e revisto pelo método descrito em como funciona a curadoria. Em caso de divergência, vale o texto da fonte. Achou um erro? Fale com a gente.