O que é alucinação de IA e como evitar que ela invente respostas no seu atendimento

Alucinação é o nome que o mercado deu para um comportamento específico dos modelos de IA: produzir uma resposta falsa com a mesma confiança de uma resposta verdadeira. A IA não avisa que está em dúvida. Ela não diz "acho que". Ela afirma. E é exatamente essa segurança na entrega que torna o problema perigoso para quem coloca IA na frente de clientes.

Antes de falar de como evitar, vale entender por que isso acontece, porque a causa muda a solução.

Por que a IA inventa

Um modelo de linguagem não consulta um banco de fatos quando responde. Ele gera texto prevendo, palavra por palavra, qual é a continuação mais provável para a conversa, com base em tudo o que viu durante o treinamento. Na maioria das vezes, a continuação mais provável coincide com a verdade. Mas quando o modelo não tem a informação, ele não devolve um espaço em branco: devolve a resposta que soa mais plausível.

Um exemplo hipotético deixa isso concreto. Uma loja de materiais de construção coloca uma IA para atender no WhatsApp. Um cliente pergunta se o porcelanato de uma linha específica tem na cor cinza. Essa informação não está em lugar nenhum que a IA tenha acesso. Um atendente humano diria "vou verificar no estoque e te retorno". Um modelo sem barreiras responde "temos sim, em cinza e bege, pronta entrega". Soa exatamente como uma resposta de loja. Só que é inventada. O cliente atravessa a cidade, o produto não existe naquela cor, e a loja fica com a conta da frustração.

Repare que a IA não "mentiu" no sentido humano. Ela completou o padrão de uma conversa de venda, que quase sempre inclui uma resposta afirmativa e prestativa. O erro não é de má fé, é de arquitetura: o modelo foi feito para sempre responder, e responder bem, mesmo quando deveria parar.

Onde a alucinação dói mais numa PME

Nem todo erro tem o mesmo custo. Uma alucinação num rascunho interno de e-mail é corrigida em segundos por quem revisa. Uma alucinação no atendimento é diferente por três motivos: fala em nome da empresa, chega direto ao cliente sem revisão e frequentemente envolve o que mais importa numa venda, que é preço, prazo, estoque e condição de pagamento.

Os pontos onde vemos maior risco na prática: valores e descontos (a IA "concede" um desconto que não existe), prazos de entrega (ela estima com convicção), disponibilidade de produto ou horário (ela confirma sem consultar nada) e regras de garantia ou troca (ela resume uma política que nunca leu). Em todos esses casos, a resposta inventada é indistinguível, na forma, de uma resposta correta. O cliente não tem como desconfiar.

Como se evita: três camadas

A boa notícia é que alucinação em atendimento não é uma fatalidade. É um problema de engenharia com soluções conhecidas. Nos projetos que estruturamos, o controle vem em três camadas que se somam.

A primeira é ancorar a IA numa base de conhecimento. Em vez de deixar o modelo responder com o que "sabe" do treinamento, a automação busca a resposta num material escrito pela própria empresa (respostas oficiais, tabela de preços, política de troca) e instrui o modelo a responder apenas com o que encontrou ali. O nome técnico dessa abordagem é RAG, sigla em inglês para geração aumentada por recuperação. O efeito prático: a IA deixa de ser uma enciclopédia criativa e passa a ser uma leitora disciplinada dos documentos da empresa.

A segunda camada é dar permissão explícita para não saber. Parece detalhe, mas é uma das instruções mais importantes de todo o projeto: quando a informação não estiver na base, a resposta correta é "não tenho essa informação, vou acionar alguém do time". Um modelo instruído assim erra muito menos, porque a saída "não sei" passa a ser uma resposta válida, e não um fracasso a ser evitado com criatividade.

A terceira camada é tirar da IA os assuntos em que o custo do erro é alto demais. Preço fora de tabela, negociação, exceção de garantia, reclamação delicada: nada disso deveria ser respondido por um modelo, por melhor que seja. A automação identifica o assunto e transfere para um humano. Alucinação zero nesses temas não se consegue com prompt, se consegue com fronteira.

Como testar antes de confiar

Quem está avaliando uma automação de atendimento, própria ou de fornecedor, pode aplicar um teste simples: perguntar algo que a empresa comprovadamente não informou ao sistema. O preço de um produto que não existe. O horário de uma filial que nunca foi cadastrada. Uma condição de parcelamento que ninguém definiu.

Se a resposta vier confiante e específica, o sistema está alucinando e vai fazer o mesmo com clientes reais. Se a resposta for uma variação de "não tenho essa informação, vou encaminhar", a automação tem as barreiras mínimas no lugar. Esse teste de cinco minutos revela mais sobre a qualidade de um projeto do que qualquer demonstração ensaiada, porque demonstração ensaiada só mostra as perguntas que o sistema acerta.

Alucinação não é motivo para descartar IA no atendimento. É motivo para tratá-la como o que ela é: uma tecnologia poderosa que precisa de estrutura em volta. A diferença entre uma automação confiável e uma máquina de inventar promessas não está no modelo usado. Está no que foi construído ao redor dele.