Pesquisador da Anthropic estima 10% de risco de IA “matar todos” até 2030
Jacob Coxon, pesquisador de segurança da Anthropic, anunciou sua saída após criticar a abordagem da empresa e de rivais no desenvolvimento de sistemas de IA “autoaperfeiçoados”. Ele afirmou que as companhias estariam “correndo direto para uma superinteligência” e “apostando com nossas vidas”, mesmo com a crença interna de que a tecnologia poderia matar pessoas até o fim da década.
Evan Hubinger, líder de uma equipe de segurança da Anthropic, disse se preocupar com a IA autoaperfeiçoável e afirmou que isso está acontecendo “mais rápido do que pensamos”. Ele também estimou pessoalmente mais de 10% de chance de a IA “matar todos os humanos” dentro da próxima década, enquanto declarou que a empresa ainda não tem um plano claro para manter sistemas avançados seguros e alinhados aos valores humanos.
The Verge (AI)
O texto acima é um resumo reescrito. A apuração, o texto integral e os créditos são da fonte — abra o original para ler na íntegra.
Ler matéria original ↗Resumo gerado por IA a partir da matéria original e revisto pelo método descrito em como funciona a curadoria. Em caso de divergência, vale o texto da fonte. Achou um erro? Fale com a gente.