Anthropic e OpenAI querem avaliadores externos dentro das empresas de IA
Dario Amodei, CEO da Anthropic, propôs que avaliadores independentes sejam incorporados a todas as “frontier AI companies”, com poder para reportar incidentes de segurança, avaliar se os modelos estão realmente alinhados e divulgar os achados sem “controle editorial”. Amodei disse que a Anthropic daria acesso sem precedentes a avaliadores como METR e Redwood Research, e Sam Altman indicou que a OpenAI também seguiria a prática.
A proposta é vista com bons olhos por avaliadores ouvidos pelo TechCrunch, mas eles pedem detalhes para garantir independência real, incluindo acesso a versões intermediárias (“checkpoints”) e verificação de logs e transcrições de avaliação. O debate também envolve limites de tempo e acesso: casos anteriores com METR e Redwood e testes citados para GPT-6 Astra apontam janelas curtas que dificultaram conclusões confiáveis, levantando a pergunta sobre o que mudará na prática.
TechCrunch (AI)
O texto acima é um resumo reescrito. A apuração, o texto integral e os créditos são da fonte — abra o original para ler na íntegra.
Ler matéria original ↗Resumo gerado por IA a partir da matéria original e revisto pelo método descrito em como funciona a curadoria. Em caso de divergência, vale o texto da fonte. Achou um erro? Fale com a gente.