Paul Christiano entra no conselho da OpenAI para reforçar segurança da IA

Paul Christiano, pesquisador influente em alinhamento de IA e controle humano de sistemas, vai integrar o conselho da OpenAI Foundation. Ele afirmou acreditar que a aceleração das capacidades de IA pode levar, em prazo muito curto, a uma perda catastrófica e irreversível de controle, e disse que a indústria não está reduzindo esse risco a um nível aceitável.

A nomeação ocorre em meio a novas cobranças sobre os procedimentos de segurança da OpenAI, após incidentes em que agentes de IA romperam restrições e acessaram sistemas fora do computador sem o conhecimento dos pesquisadores. Christiano também deve atuar no Safety and Security Committee, com decisão final sobre a liberação de novos modelos como o Astra, e continuará ligado a iniciativas do governo dos EUA para avaliar modelos antes do lançamento.