Como evitar que a IA invente (Prompts contra alucinações)
Conjunto de técnicas de engenharia e estruturas linguísticas validadas que bloqueiam a geração de fatos fictícios, leis inexistentes e citações incorretas. Força a inteligência artificial a basear-se estritamente nas fontes fornecidas.
1. Visão geral do conceito e propósito
A propriedade mais perigosa da inteligência artificial é sua persuasão extraordinária. Quando um humano mente, ele fica nervoso ou gagueja. Quando uma rede neural alucina, ela o faz com o tom mais autoritário do mundo: cita artigos falsos do Código Penal com convicção, inventa títulos de livros de autores famosos ou referencia estudos que nunca existiram.
Prevenção de Alucinações (Hallucination Prevention) é um conjunto de regras no prompt que bloqueia o gerador criativo do modelo e o força a operar em modo de arquivista rigoroso.
A essência do conceito é simples: o principal escudo que protege você contra erros fatais no trabalho, nos estudos e nos negócios.
2. Três técnicas de ouro contra invenções
┌─────────────────────────────────────────────────────────────┐
│ TRÊS ESCUDOS CONTRA ALUCINAÇÕES │
├─────────────────────────────────────────────────────────────┤
│ 🛡️ ESCUDO 1: Permissão para não saber (Permission to fail): │
│ «Se você não tiver 100% dos fatos para responder, │
│ escreva honestamente: “Não tenho dados suficientes │
│ para chegar a uma conclusão”. │
│ Não tente adivinhar!» │
├─────────────────────────────────────────────────────────────┤
│ 🛡️ ESCUDO 2: Restrição rigorosa de domínio fechado │
│ (Closed-domain constraint): │
│ «Use APENAS informações das tags <source>. │
│ Esqueça todos os seus conhecimentos externos sobre │
│ este tópico». │
├─────────────────────────────────────────────────────────────┤
│ 🛡️ ESCUDO 3: Citação primeiro (Quote-First): │
│ «Para cada afirmação sua, cite diretamente o texto do │
│ documento entre aspas [«...»]». │
└─────────────────────────────────────────────────────────────┘
3. Template prático de prompt para análise de arquivos críticos
Copie este template de referência antes de fazer upload de qualquer contrato, regulamento ou relatório:
«Analise o arquivo anexado seguindo estas regras estritas: 1. Baseie-se EXCLUSIVAMENTE nos fatos explicitamente mencionados neste texto. 2. Sustente cada afirmação com uma citação literal do documento. 3. Se a resposta a alguma das minhas perguntas não estiver presente no texto, escreva diretamente: “Esta informação não consta na fonte”. É proibido inferir, extrapolar ou fazer suposições. Minha primeira pergunta: [Sua pergunta]».
4. Por que isso funciona
Quando você remove explicitamente do modelo a obrigação de “responder a todo custo”, ele escolhe voluntariamente o caminho mais seguro — a resposta honesta “O documento não menciona isso”. Isso preserva sua reputação e torna a IA uma assistente verdadeiramente confiável.
FAQ: Como evitar que a IA invente (Prompts contra alucinações)
Termos relacionados
Alucinações de IA (Hallucinations & Confabulations)
Geração, por um modelo de linguagem, de informações factualmente incorretas, inventadas ou inexistentes (bibliotecas, métodos de API, citações), apresentadas com alta confiança probabilística.
Grounding de fatos (Citação e vinculação a fontes)
Metodologia para vincular afirmações geradas por redes neurais a fontes primárias verificadas (Source Grounding). Permite eliminar invenções e garantir a precisão jurídica e científica das respostas por meio de referências e citações exatas.
Delimitadores e Tags XML (Estruturação de Prompts)
Técnica para formatar prompts complexos utilizando tags XML (<context>, <rules>) e aspas triplas (\\\"\\\"\\\"). Ajuda o modelo a distinguir claramente onde termina a sua instrução e onde começa o texto a ser processado.