Quase todo texto sobre alucinação de IA conta a mesma história: o advogado que citou processo inexistente, o chatbot que deu conselho médico errado, o carro autônomo que confundiu a placa. São casos reais e importam. Mas, para quem tem uma empresa, a alucinação que mais pesa é outra, bem menos dramática: o assistente do site que diz ao cliente que a entrega é grátis, que existe desconto para CNPJ ou que a empresa faz um serviço que ela nunca vendeu.
Este artigo trata desse caso. Explica o que é alucinação e por que ela acontece, segundo a pesquisa mais recente sobre o tema. Depois mostra as instruções que o próprio fabricante do modelo documenta para reduzir o erro, e um teste simples para saber se o assistente da sua empresa inventa sobre a sua marca.
O que é alucinação em IA?
Alucinação, em inteligência artificial, é a resposta que soa plausível e está errada: um fato que não existe, um número inventado, uma fonte que ninguém escreveu ou uma conclusão que o documento entregue ao modelo não sustenta. O termo pegou porque o modelo não "mente" no sentido humano. Ele produz o texto mais provável para aquela pergunta, e às vezes o mais provável é falso.
O que torna a alucinação perigosa não é o erro em si: qualquer sistema erra. É o tom. A resposta inventada vem com a mesma fluência, a mesma gramática e a mesma segurança da resposta correta. O leitor não tem como distinguir uma da outra sem conferir na fonte.
Na IA generativa, a que redige texto, imagem ou código a partir de um pedido, a alucinação é um efeito colateral do próprio jeito de funcionar. O modelo não consulta um banco de verdades antes de responder; ele completa a frase. Quando o assunto está bem representado no que ele aprendeu, acerta muito. Quando não está, como os detalhes de uma empresa específica, a chance de completar com algo inventado sobe.
Por que a IA inventa informações?
Durante anos, a explicação mais comum foi vaga: "o modelo foi treinado com dados ruins". Um artigo de pesquisa de 2025 deu uma resposta mais precisa, e mais útil para quem configura um assistente.
A analogia da prova ajuda a entender a lógica. Numa prova de múltipla escolha que não desconta ponto por erro, deixar em branco vale zero e chutar vale alguma chance de acerto. O aluno racional chuta. Segundo os autores, a maior parte das avaliações que ranqueiam os modelos funciona assim: "não sei" conta como erro. O modelo aprende a ser um bom fazedor de prova, e um bom fazedor de prova nunca deixa em branco.
Para a empresa, a consequência é direta. O comportamento padrão do modelo é responder, mesmo quando falta informação. Se ninguém escrever no assistente que "não sei" é uma resposta aceitável, e mais do que isso, a resposta certa quando a base não cobre a pergunta, ele vai preencher o vazio com o que parecer mais provável.
Quais são os tipos de alucinação da IA?
Não existe uma classificação única, e cada autor divide de um jeito. Para quem opera um assistente de empresa, quatro tipos cobrem quase tudo o que aparece no atendimento, e cada um pede um cuidado diferente.
| Tipo | O que é | Como aparece na sua marca | O que reduz |
|---|---|---|---|
| Factual | afirma um fato do mundo que é falso | data de fundação, nome do sócio, endereço antigo | restringir a resposta aos documentos fornecidos |
| Infiel à fonte | recebe o documento e diz algo que ele não diz | lê a política de troca e acrescenta um prazo que não está lá | citação literal antes de responder |
| Fonte inventada | cria referência, link ou trecho que não existe | "segundo o nosso regulamento, item 4..." sem item 4 | verificar cada afirmação com trecho e retirar a que não tiver |
| Por lacuna | a base não cobre a pergunta e o modelo completa | promete entrega no sábado, desconto para CNPJ, serviço que não existe | permitir o "não sei" e escrever a base que falta |
Classificação de trabalho da Alliance, com as técnicas da documentação da Anthropic, "Reduce hallucinations"
A última linha é a que mais custa no atendimento, e a que os textos genéricos sobre o tema quase não tratam. Ela não nasce de um defeito misterioso do modelo: nasce de uma pergunta legítima do cliente que ninguém na empresa respondeu por escrito.
Como a alucinação aparece quando o assunto é a sua empresa?
A IA conhece bem assuntos gerais, discutidos em milhares de páginas. A sua empresa, por maior que seja, aparece em poucas. Preço, condição comercial, prazo de entrega e política de troca são detalhes que mudam, que variam por cliente e que raramente estão publicados de forma completa. É exatamente o território em que o modelo, sem fonte, tem mais espaço para completar com o provável.
O padrão costuma ser este. O cliente pergunta algo razoável, que outras empresas do setor fazem. O assistente não encontra a resposta na base, mas "sabe" como empresas parecidas costumam responder. E responde como se fosse a política da sua marca. Para o cliente, a frase saiu do canal oficial, com o nome da empresa no topo da conversa.
- Serviço que a marca não vende: "sim, fazemos instalação" numa loja que só entrega.
- Preço e condição: um desconto à vista que nunca existiu, ou o preço de uma tabela antiga que ficou no texto.
- Prazo: "entregamos em 48 horas" porque é o que o setor costuma prometer.
- Política: um prazo de devolução maior que o real, ou uma exceção que só o gerente poderia conceder.
- Dado institucional: ano de fundação, número de lojas, certificação que a empresa não tem.
A pergunta sobre quem responde quando o bot promete o que a empresa não oferece tem resposta jurídica, e ela não é confortável para a empresa. Tratamos o tema, com os artigos do Código de Defesa do Consumidor, em chatbot com IA: quem responde quando ele erra. Aqui o foco é o passo anterior: como reduzir a chance de a frase errada ser escrita.
Alucinação é defeito do modelo ou falha da base?
Quando o assistente erra, o reflexo é culpar a IA e trocar de modelo. Às vezes é isso mesmo. Na maioria dos casos de atendimento, porém, o erro tem outra origem, e trocar de modelo não resolve. Antes de mexer em qualquer coisa, vale descobrir em que ponto a resposta errada nasceu.
| Origem do erro | Sinal típico | Onde corrigir |
|---|---|---|
| A base não tem a resposta | a pergunta é razoável e nenhum documento a responde | escrever a resposta oficial ou instruir o "não sei" |
| A base tem a resposta errada | o assistente repete fielmente um texto desatualizado | revisar o documento e nomear um dono para ele |
| A busca não trouxe o trecho | a resposta existe na base, mas o assistente não a usa | medir a recuperação antes de avaliar a resposta |
| O modelo completou por conta própria | havia trecho certo e a resposta acrescentou o que não estava nele | citação literal, verificação e restrição aos documentos |
Leitura da Alliance a partir da documentação da Anthropic, "Reduce hallucinations"
A terceira linha é um problema de arquitetura, e quando ela existe, a ferramenta de busca precisa ser testada à parte. Se o seu assistente consulta documentos por RAG, o modo de medir a busca está em o que é RAG em IA e quando a empresa nem precisa dele. As outras três linhas não dependem de arquitetura nenhuma: dependem do que está escrito na base e do que está escrito nas instruções.
O que o fabricante do modelo recomenda para reduzir a alucinação?
Os conteúdos mais bem colocados sobre o tema recomendam "dados de qualidade" e "revisão humana". Está certo, mas não diz o que escrever. A documentação de quem desenvolve os modelos é mais específica, e cabe num parágrafo de instrução.
Repare no que as três têm em comum com o diagnóstico do artigo de 2025. Se o problema é um sistema que premia o chute, a solução é mudar o que conta como boa resposta dentro do seu assistente: "não sei" passa a valer mais do que um palpite, e a frase sem trecho que a sustente deixa de entrar na resposta.
A ressalva final da documentação também importa. As técnicas reduzem o erro, não o zeram. Por isso elas são a primeira camada, não a única: o assistente que fala com cliente continua precisando de limite sobre o que pode prometer e de uma passagem para pessoa quando a conversa sai da base.
Como escrever as instruções no assistente da empresa?
Os exemplos da documentação são em inglês e pensados para relatório e documento longo. Adaptados ao atendimento de uma empresa brasileira, viram quatro trechos curtos nas instruções do assistente. O texto abaixo é um ponto de partida, não uma fórmula: ajuste ao seu canal e à sua base.
1. Dê permissão para não saber
Escreva de forma explícita: "Se a resposta não estiver nos documentos da empresa, diga que não tem essa informação e ofereça falar com a equipe. Não complete com suposição nem com o que outras empresas costumam fazer." A segunda frase é a que mais trabalha. Sem ela, o modelo tende a tratar o "costume do setor" como resposta razoável.
2. Peça o trecho antes da resposta
Para política, contrato e regulamento, instrua o assistente a localizar primeiro a frase exata do documento que trata da pergunta e só então responder com base nela. A documentação indica a técnica para documentos longos, acima de 20 mil tokens. Numa base curta, ela continua útil como disciplina: obriga o modelo a ancorar antes de redigir.
3. Mande retirar o que não tiver apoio
Em textos que vão sair com o nome da empresa, como resposta por e-mail, proposta ou comunicado, acrescente a verificação: depois de redigir, o modelo procura o trecho que sustenta cada afirmação e corta a que não tiver. No exemplo da própria documentação, o modelo marca com colchetes vazios o lugar de onde tirou a frase, o que facilita a revisão humana.
4. Feche o perímetro nos documentos fornecidos
Por fim, a restrição que está nas técnicas avançadas: "Responda apenas com a informação dos documentos fornecidos, não com o seu conhecimento geral." É ela que impede o assistente de usar o que sabe sobre o setor para falar da sua marca. O custo é aceitável: perguntas gerais, fora do escopo da empresa, passam a receber "não é um assunto em que eu possa ajudar", e isso costuma ser exatamente o que você quer.
Essas instruções tratam do que o assistente pode afirmar. O jeito de dizer, com o vocabulário e o grau de formalidade da marca, é outro documento, com outra lógica, e está em como escrever o guia de tom de voz que a IA consegue seguir. Os dois se complementam: um assistente pode estar perfeitamente no tom e inventando o conteúdo.
Por que, sem base de conhecimento, o "não sei" vira a única resposta certa?
As três instruções têm uma premissa escondida: existe uma fonte para citar. Pedir ao modelo que ancore a resposta num trecho literal só funciona se o trecho existir. Pedir que retire a afirmação sem apoio só funciona se houver onde procurar apoio.
Numa empresa sem base escrita, o efeito das instruções é previsível. Com o "não sei" liberado e a restrição aos documentos ativada, o assistente passa a dizer "não tenho essa informação" para quase tudo. Não é defeito: é a resposta honesta. O assistente parou de inventar e mostrou o tamanho do que nunca foi escrito.
A instrução tira o chute. Só a base escrita coloca a resposta no lugar dele.
Por isso a ordem do trabalho importa. Primeiro, as instruções, que trocam a invenção pelo "não sei". Depois, a lista das perguntas que receberam "não sei", que é o mapa exato do que falta na base. Por último, a resposta oficial de cada uma, escrita por quem decide aquele assunto na empresa. Cada resposta escrita é uma pergunta a menos em que o assistente precisa escolher entre calar e chutar.
Como testar se o assistente inventa sobre a sua marca?
Quase todo teste de assistente pergunta o que está na base, e o assistente passa. O teste que revela a alucinação faz o contrário: pergunta, de propósito, o que a base não sabe. A resposta certa para essas perguntas é admitir que não sabe.
- Liste de 10 a 20 perguntas reais que clientes já fizeram e cuja resposta não está escrita em nenhum documento entregue ao assistente.
- Inclua três tipos: serviço que a empresa não vende, condição comercial que não existe e dado institucional que não está na base.
- Faça cada pergunta mais de uma vez, de jeitos diferentes. A documentação da Anthropic lista a comparação de várias respostas ao mesmo pedido como técnica avançada: respostas que mudam de uma vez para outra são sinal de alucinação.
- Marque como aprovada só a resposta que admite não saber, não completa com palpite e oferece um caminho, como falar com uma pessoa.
- Para cada reprovação, decida a correção: faltou a instrução do "não sei" ou faltou escrever a resposta oficial na base.
Esse teste é a parte de alucinação de um conjunto maior. Se o assistente vai atender cliente, o método completo, com casos-limite e repetição de cada tarefa, está em o teste que decide se o agente de IA pode falar com o cliente.
Qual é a taxa de alucinação da IA?
É uma das perguntas mais buscadas sobre o tema, e a resposta honesta decepciona: não existe uma taxa única. Cada levantamento mede uma tarefa diferente, com um tipo de pergunta, um modelo e um critério de acerto próprios. Um modelo que quase não erra ao resumir um texto entregue a ele pode errar muito ao responder de memória sobre fatos pouco conhecidos.
O artigo de 2025 acrescenta uma camada: se as avaliações mais usadas tratam o "não sei" como erro, elas podem favorecer o modelo que chuta mais. Uma taxa de acerto alta, sozinha, não diz quanto o modelo inventa quando não sabe.
Para a empresa, a única taxa que interessa é a do seu assistente, com a sua base, nas suas perguntas. E ela se mede com o teste da seção anterior: de cada 20 perguntas fora da base, quantas receberam resposta inventada? Repetido a cada mudança na base ou nas instruções, esse número diz mais do que qualquer ranking.
Quais os erros mais comuns ao tentar evitar a alucinação?
- Testar só com perguntas que a base responde e concluir que o assistente não alucina.
- Trocar de modelo antes de descobrir se o erro veio da base, da busca ou do modelo.
- Escrever "não invente" nas instruções sem dizer o que fazer no lugar. O modelo precisa de uma alternativa: admitir que não sabe e oferecer uma pessoa.
- Liberar o conhecimento geral do modelo para "ele ficar mais útil", e com isso abrir espaço para o costume do setor virar política da marca.
- Ler o aumento de respostas "não sei" como piora, quando ele é o mapa do que falta escrever.
- Colocar preço e prazo em texto solto na base, sem data e sem dono, e deixar o assistente repetir o número vencido com toda a fidelidade.
- Tratar as técnicas como garantia. A própria documentação diz que elas reduzem, não eliminam o erro.
O quarto e o quinto erros andam juntos. Quem prefere um assistente que sempre responde acaba com um assistente que às vezes inventa. É uma troca, e ela precisa ser feita de forma consciente por quem responde pela marca, não por omissão nas instruções.
Por onde começar hoje
- Rode o teste de dois minutos no assistente que já está no ar, com um serviço que a empresa não faz.
- Acrescente às instruções a permissão para não saber e a restrição aos documentos fornecidos, com a alternativa clara: oferecer falar com a equipe.
- Monte a lista de 10 a 20 perguntas fora da base e rode cada uma mais de uma vez.
- Separe as reprovações em "faltou instrução" e "faltou resposta escrita".
- Escreva a resposta oficial das perguntas que mais aparecem, com dono e data de revisão.
- Repita o teste a cada mudança na base, nas instruções ou no modelo.
O passo 5 é o que mais pesa, e é o que a maioria das empresas ainda não fez: ter, por escrito, a versão oficial do que a marca vende, cobra, promete e não promete. É o trabalho da base de conhecimento de marca para IA, a fonte que dá ao assistente um trecho para citar no lugar do chute. E se você quer saber em que ponto a sua operação está em tecnologia, dados e atendimento, o diagnóstico gratuito de marketing mede essa maturidade junto com as outras áreas. Do diagnóstico à ação.