Alucinação de agentes de IA: por que acontece e como impedir com guardrails

Alucinação é quando o agente de IA gera uma resposta que parece correta e segura, mas é falsa — um preço que não existe, um prazo que ninguém prometeu, uma política inventada. Acontece porque o modelo de linguagem completa texto pela probabilidade das palavras, não por consultar a verdade: quando falta o dado, ele preenche a lacuna com a resposta mais plausível. A forma de impedir são os guardrails — conectar o agente à fonte oficial de cada informação, obrigá-lo a dizer “vou verificar” quando não sabe, limitar o que ele pode fazer e testar com perguntas difíceis antes de colocar no ar.

Eu construo esses sistemas todo dia, e é aqui que a maioria dos projetos de IA quebra: não no “fazer o agente falar”, e sim no “fazer o agente não falar besteira”. Vou direto ao ponto.

O que é alucinação de IA, em palavras simples

Alucinação não é o agente responder “erro” ou travar — isso é fácil de perceber. O problema é o oposto: ele responde com fluência, educação e confiança total uma informação que simplesmente não é verdade. O cliente pergunta o prazo de entrega para o interior, e o agente cita “7 dias úteis” que ninguém nunca configurou. Pergunta se tem garantia estendida, e ele confirma uma que a loja não oferece. Tudo soa profissional. Nada disso existe.

Esse é o risco real de um agente mal construído: ele não erra parecendo errado. Ele erra parecendo certo.

Por que o agente de IA inventa resposta?

Por baixo, um modelo de linguagem (LLM) faz uma coisa só: prevê a próxima palavra mais provável, com base em tudo que já viu. Ele não consulta um banco de dados de verdade antes de responder — ele gera a continuação mais estatisticamente plausível. Quando a pergunta cai dentro do que ele conhece e tem a fonte à mão, isso funciona muito bem. Quando cai numa lacuna — um dado da sua empresa que ele não tem —, ele não fica em silêncio. Ele preenche a lacuna com o que “combina”.

É por isso que a solução nunca é “usar um modelo melhor”. Um modelo melhor alucina com mais elegância. A solução é controlar o que entra e o que pode sair — e isso é engenharia, não sorte. Se você ainda está entendendo como um agente é montado por dentro, vale ler a anatomia de um agente de IA que funciona antes de seguir.

Modelo bom não é o que sabe tudo. É o que sabe dizer “não sei, vou verificar” em vez de inventar com confiança.

Os erros de alucinação que custam caro (e viram prejuízo)

Nem toda alucinação tem o mesmo custo. Estas são as que viram dor de cabeça, chargeback ou processo:

• Preço inventado: o agente promete um valor abaixo do real. Se o cliente compra em cima disso, você honra o erro ou queima a relação.
• Prazo e frete errados: promete entrega que a operação não consegue cumprir. A venda fecha e a reputação abre um buraco.
• Garantia ou política falsa: confirma troca, reembolso ou condição que não existe — e depois alguém do time humano tem que desdizer.
• Disponibilidade de estoque: confirma um produto esgotado. Cliente paga, você cancela, todo mundo perde.
• Vazamento de contexto: mistura os dados de um cliente na conversa de outro. Esse não é só um erro comercial — é risco de LGPD.

Repare no padrão: os erros mais caros são sempre sobre número, regra e dado de terceiro. É exatamente aí que o guardrail precisa ser mais duro.

O que são guardrails em um agente de IA

Guardrails são as regras e travas que definem o que o agente pode dizer e fazer. Não é uma linha de configuração mágica — são camadas que trabalham juntas. Na prática, eu construo quatro:

1. Fonte oficial para cada informação sensível

Preço vem da tabela de preços. Prazo vem do sistema de frete. Estoque vem do catálogo. Política vem do documento oficial. O agente é proibido de responder de cabeça sobre qualquer uma dessas coisas — ele consulta a fonte via integração e responde com o dado real, ou não responde. Isso é o que separa um agente de um chute educado. Se você quer entender a diferença de fundo, escrevi sobre chatbot, automação ou agente de IA e o que muda no custo da operação.

2. Permissão para dizer “não sei”

Parece contraintuitivo, mas metade do trabalho é autorizar o agente a não responder. A instrução é explícita: se não tiver o dado na fonte, não invente — diga que vai verificar e encaminhe. Um agente que admite o limite é infinitamente mais confiável que um que preenche todas as lacunas.

3. Limite de ação claro

O agente resolve o simples e escala o sensível. Cancelamento, reclamação grave, negociação fora da tabela, qualquer coisa jurídica — isso vai para uma pessoa. Definir essa fronteira é decidir, antes de ligar o sistema, o que ele pode fazer sozinho e o que exige mão humana.

4. Teste adversarial antes do ar

Antes de colocar em produção, eu ataco o próprio agente: pergunto o que ele não deveria saber, tento fazê-lo prometer o impossível, misturo pedidos, forço contradição. Cada resposta ruim vira uma regra nova. Agente não se testa com as perguntas fáceis — se testa com as que o cliente irritado vai fazer.

Alucinação, dados e LGPD: o guardrail que não é opcional

Quando o agente atende cliente de verdade, ele lida com dado pessoal — nome, pedido, endereço, histórico. Aí a alucinação deixa de ser só um erro comercial e vira risco legal. O pior cenário é o agente expor a informação de um cliente na conversa de outro, ou registrar dado sensível sem necessidade. A proteção é a mesma disciplina de qualquer sistema sério: isolar o contexto de cada conversa, restringir quais dados o agente consegue alcançar e registrar o que ele faz para dar para auditar depois. Dado pessoal em agente de IA merece o mesmo rigor que dado pessoal em qualquer lugar da empresa.

Como medir se os guardrails estão funcionando

Guardrail não é “instalar e esquecer”. Ele se monitora. Os sinais que eu acompanho:

1. Taxa de escalonamento: quantas conversas o agente passou para um humano — se for zero, ou ele é perfeito (não é) ou está inventando em vez de escalar.
2. Correções humanas: quantas vezes alguém do time precisou desdizer o agente. Cada correção é um guardrail que faltou.
3. Reclamações do tipo “o atendimento me disse que…”: o termômetro mais honesto de alucinação chegando ao cliente.
4. Amostragem de conversas: ler conversas reais toda semana, não só olhar o número no painel.

Essa lógica de medir o comportamento em vez de confiar na promessa é a mesma que uso para medir o resultado de um agente de recuperação de vendas — sem métrica de vaidade, olhando o que de fato aconteceu na operação.

O ponto que quase ninguém fala

A pesquisa da consultoria McKinsey sobre o estado da IA aponta a imprecisão dos modelos como um dos riscos que as empresas mais reconhecem — e, ao mesmo tempo, um dos que menos mitigam ativamente. Ou seja: quase todo mundo sabe que o agente pode alucinar, e quase ninguém constrói as travas para impedir. É essa lacuna que separa um projeto de IA que dá orgulho de um que dá processo.

É por isso que eu não vendo “um robô que responde tudo”. Eu construo um agente que responde o que sabe, admite o que não sabe e chama gente quando precisa. Menos impressionante numa demo. Muito mais barato no fim do mês.

Perguntas frequentes