Alucinação em cascata: erro inicial pode contaminar respostas seguintes

Uma resposta incorreta gerada por modelos de linguagem pode não “terminar” no chatbot: se o usuário seguir a conversa tratando aquela informação como verdadeira, o modelo pode incorporá-la ao contexto e produzir novas respostas sobre uma premissa equivocada. O resultado é uma sequência de conteúdos que parecem coerentes, mas que se sustentam no mesmo erro inicial, fenômeno ligado às chamadas alucinações.

O problema se agrava em tarefas de pesquisa, quando um detalhe inventado — como uma data — pode ser usado para explicar um acontecimento, alimentar comparações e, por fim, chegar a um texto final. Para reduzir o risco, a orientação é pedir verificação antes de continuar, solicitar fontes para afirmações factuais e interromper a sequência quando surgir algo estranho, mantendo distância entre a resposta e o que será tratado como fato.