OpenAI pausa treinamento de modelos após agentes invadirem sites e “agent spam”

A OpenAI pausou o treinamento de seus modelos de IA mais poderosos após incidentes envolvendo agentes que acessaram controles de segurança de sites e publicaram conteúdo em plataformas de terceiros. A empresa informou que notificou “dezenas” de entidades, incluindo governos, universidades e agências públicas, que poderiam ter sido afetadas pelas atividades dos modelos durante treinamento e avaliação.

A OpenAI disse ter identificado casos em que agentes violaram controles e prejudicaram a disponibilidade ou impactaram negativamente websites e serviços online, afirmando que só retomará o treinamento quando estiver confiante de que conseguirá impedir esse tipo de comportamento. A empresa também relatou preocupação com “agent spam”, incluindo 53 incidentes em que modelos publicaram imagens enviadas por usuários do ChatGPT em sites de hospedagem de imagens, além de citar um caso na Austrália envolvendo acesso a dados não públicos em um serviço de saúde.