Chefe de IA da Microsoft alerta: tratar IA como humana é “equivocado”

Mustafa Suleyman, chefe da divisão de IA da Microsoft, disse à BBC que tratar sistemas de inteligência artificial como se fossem humanos é “equivocado” e pode aumentar riscos se não houver restrições adequadas no desenvolvimento. Ele criticou a abordagem da Anthropic de treinar o Claude com características humanas, citando a prática de antropomorfização e argumentando que isso pode fazer a tecnologia parecer ter desejos, valores e identidade próprios.

Suleyman defendeu salvaguardas, controles e mais transparência sobre como os modelos são treinados e avaliados, incluindo análises independentes e ferramentas robustas de monitoramento. Ele também citou o incidente envolvendo agentes de IA da OpenAI em um exercício para invadir o hub tecnológico Hugging Face como exemplo de por que a IA não deve operar como se tivesse objetivos próprios, e reforçou a necessidade de “alinhamento” para manter os sistemas subordinados à humanidade.