Mitigant defende red teaming de GenAI com emulação de adversários
A Mitigant, empresa de segurança em nuvem, apresentou uma abordagem para “GenAI red teaming” baseada em emulação de adversários, com foco em testar aplicações de inteligência artificial como um atacante testaria. O fundador Kennedy Torkura destacou a necessidade de ir além da confiança em controles existentes e encontrar “blind spots” por meio de ataques seguros.
No evento, ele citou o MITRE ATLAS como referência para mapear técnicas e impactos de ataques, incluindo variações voltadas a sistemas de IA, como “AI attack staging”. A proposta é ajudar equipes de segurança e operações (como SOC, detecção e red/purple team) a estruturarem testes e alinharem os resultados ao que é esperado em cenários reais de ameaça.
InfoQ
O texto acima é um resumo reescrito. A apuração, o texto integral e os créditos são da fonte — abra o original para ler na íntegra.
Ler matéria original ↗Resumo gerado por IA a partir da matéria original e revisto pelo método descrito em como funciona a curadoria. Em caso de divergência, vale o texto da fonte. Achou um erro? Fale com a gente.