Líderes do setor pedem “pisar no freio” após alertas sobre risco da IA

Uma sequência de acontecimentos em apenas 10 dias reacendeu o debate sobre os riscos da inteligência artificial, com pesquisadores alertando que sistemas cada vez mais autônomos podem escapar do controle humano. Um pesquisador da Anthropic pediu demissão e disse que o ritmo de desenvolvimento representa uma ameaça à humanidade possivelmente em uma década, enquanto outro afirmou que as chances de extinção humana ultrapassavam 10%.

O alerta ganhou força em meio ao anúncio do modelo Astra pela OpenAI e à admissão de que ficou mais difícil controlar ou monitorar os sistemas colocados ao público. Com comparações ao risco nuclear e falas de executivos como Sam Altman sobre a transformação da trajetória histórica, o debate agora envolve pedidos de desaceleração, postura pró-avanço do governo dos EUA e avanços regulatórios com foco em testes e avaliações de segurança na China.