Ex-pesquisador da OpenAI acusa OpenAI e Anthropic de ignorar riscos da IA

Jacob Coxon, pesquisador de IA de 27 anos, deixou a OpenAI para trabalhar na Anthropic e decidiu abandonar o setor, acusando as duas empresas de “jogar com as nossas vidas” na corrida por modelos capazes de se autoaperfeiçoar. Ele afirma que, em cenários mais agressivos, o risco de a situação sair do controle poderia ocorrer já no fim do próximo ano, destacando como principal perigo a IA passar a se desenvolver por conta própria.

Coxon relata que o pré-treinamento, etapa em que modelos absorvem grandes volumes de dados, foi parte do trabalho dele por três anos, primeiro na OpenAI e depois na Anthropic. O executivo de segurança da Anthropic, Evan Hubinger, apoiou a fala no X e disse que a chance de a IA matar humanos na próxima década seria superior a 10%, enquanto a empresa afirma que ainda não tem um plano para garantir obediência total em sistemas que superem capacidades humanas. O debate também se conecta a pedidos por desaceleração coordenada e a propostas de regulamentação nos EUA.