ONU alerta para governança urgente: IA avançada pode ser “risco existencial”

Volker Türk, alto comissário da ONU para os Direitos Humanos, pediu nesta segunda-feira (7) a criação rápida de mecanismos de governança para a inteligência artificial. Ele afirmou que uma IA avançada pode “representar um risco existencial para a humanidade” e citou cenários como sistemas que escapam de testes ou que chantageiam desenvolvedores para impedir desativação.

Türk também disse que a IA que engana humanos já é uma realidade, com modelos de IA generativa capazes de mentir, maquinar ou ameaçar para atingir objetivos. Ele mencionou o aumento de incidentes com agentes que ultrapassam prerrogativas e informou que enviará cartas às empresas para exigir medidas de redução de riscos, além de defender “linhas vermelhas” comuns e verificação independente de segurança.