OpenAI testa “Private Safety Processing” para monitorar abuso sem reter dados

A OpenAI anunciou uma abordagem de segurança focada em privacidade para monitorar possíveis abusos no uso de seus modelos. A empresa está em prévia com um serviço chamado Private Safety Processing para clientes selecionados, que automatiza a verificação de mau uso sem reter nenhum dado do cliente.

A iniciativa contrasta com a política recente da Anthropic de retenção de dados por 30 dias para “covered models”, criada para permitir análise de impropriedades. A OpenAI afirma que o sistema amplia o monitoramento do modelo Zero Data Retention ao avaliar entradas e saídas de múltiplas conversas, e, se houver disparo, pode enviar um sinal específico para decidir se é necessária uma ação de enforcement com contato ao cliente.