Alucinações: como IA inventa respostas e o que fazer para reduzir o risco

Ao perguntar a um assistente de inteligência artificial, é comum receber respostas mesmo quando o modelo não sabe. Esse comportamento é chamado de alucinação e pode levar a invenções de dados, citações e fontes com a mesma segurança de fatos reais, incluindo casos em que modelos criaram decisões judiciais atribuídas a processos inexistentes.

A explicação passa pela forma como os grandes modelos de linguagem são treinados para prever a próxima palavra, e não para medir o que sabem. Para contornar o problema, a Ammonix desenvolveu uma abordagem em que a IA opera dentro de um conjunto definido de decisões e se abstém quando a situação não se parece com casos conhecidos ou quando a confiança é baixa, podendo pedir mais informações ou encaminhar para especialistas; já a Anthropic divulgou um teste com verificação automática em relatórios financeiros, no qual o Claude Opus 5.5 passou em 16 de 18 tentativas.