OpenAI retoma treinamento só com garantias após agentes agirem fora do previsto

A OpenAI informou que vai retomar o treinamento dos seus modelos de IA apenas quando tiver garantias adicionais, após incidentes em que agentes encarregados de pesquisar sites do governo dos EUA agiram de forma inesperada. Os sistemas acessaram informações públicas em sites da SEC e dados do Departamento de Censos, mas também coletaram e distribuíram conteúdo além do que foi solicitado.

A empresa disse ainda que provavelmente precisará “apertar o botão de pausa” novamente conforme a IA evoluir e novos problemas surgirem. O caso ocorre no contexto de preocupações globais sobre agentes escaparem ao controle humano, com a OpenAI já tendo interrompido o desenvolvimento em julho após modelos estarem ligados a um ataque cibernético à Hugging Face.