Alucinações de IA (Hallucinations & Confabulations)

1. Visão geral do conceito e problema sistêmico

A propriedade mais perigosa da inteligência artificial reside na lacuna entre a impecabilidade linguística e a veracidade factual:

1. Ilusão de competência: O modelo escreve sobre um método de API inexistente com o mesmo tom confiante e acadêmico que usa para documentar a biblioteca padrão oficial.
2. Alucinação de dependências: Na tentativa de resolver uma tarefa de desenvolvimento, a LLM frequentemente importa um método conveniente ou uma biblioteca que nunca existiu no mundo real.
3. Acúmulo em cascata de erros (Hallucination Cascades): Se um agente autônomo toma sua primeira decisão baseada em uma alucinação, todos os 10 passos subsequentes tentarão desenvolver essa ramificação inexistente da realidade, desperdiçando horas de tempo e orçamento.

As Alucinações (Hallucinations) não são um bug de uma rede neural específica, mas sim uma característica intrínseca dos sistemas probabilísticos autoregressivos, exigindo do engenheiro um sistema rigoroso de ancoragem externa (Grounding) e validação determinística.

2. Taxonomia arquitetural e modelo mental

No campo da IA, as alucinações são classificadas em três formas principais de manifestação:

• 1. Alucinações Intrínsecas (Intrinsic Hallucinations): A resposta do modelo contradiz diretamente informações já fornecidas a ele no prompt ou no contexto RAG (por exemplo, o texto indica um preço de $50, mas o modelo conclui com $150).
• 2. Alucinações Extrínsecas (Extrinsic Hallucinations): O modelo adiciona detalhes que não estavam presentes no contexto e que não existem na realidade (artigos de lei inventados, links para páginas inexistentes, citações de pessoas).
• 3. Alucinações de Código e API (Code & API Hallucinations):
  • Flags de CLI inventadas (por exemplo, docker run --auto-clean).
  • Métodos de classe inexistentes (por exemplo, chamar db.users.findAndUpsert()).
  • Pacotes npm/pip de terceiros inventados (ameaça de Slopsquatting).

3. Pipeline técnico e mecânica interna

O pipeline de engenharia para supressão e detecção de alucinações:

1. Context Grounding (Ancoragem aos fatos): Uso de RAG estrito com um prompt limitador: «Responda exclusivamente com base nos documentos fornecidos. Se a resposta não estiver no texto, retorne 'NO_DATA'».
2. Sampling Parameter Tuning (Calibração de amostragem): Definição de temperature = 0.0 e redução de top_p para minimizar a deriva aleatória pelas caudas da distribuição de probabilidades.
3. Deterministic Pre-flight Verification (Verificação prévia determinística): Execução automática de oráculos: compilação TypeScript (tsc), verificação da existência do pacote importado no registro oficial via API ou requisição HTTP HEAD para URLs de links.
4. Adversarial Double-Check (Auditoria por crítico): Um modelo juiz leve compara o texto de saída com os documentos de origem, marcando qualquer sentença não confirmada (Fact Extraction & NLI Matching).

4. Cenários práticos de engenharia em produção

01. Auditoria prévia de registros de dependências (Proteção contra Slopsquatting)

Um agente escreveu um script e adicionou um novo pacote ao package.json. Antes de executar npm install, o sistema de segurança envia uma requisição para registry.npmjs.org. Se o pacote foi registrado há menos de 48 horas ou não existe, a ação é bloqueada imediatamente com um alerta de suspeita de alucinação ou ataque.

02. RAGAS Grounding em assistentes corporativos de suporte

Um chatbot responde a questões jurídicas dos funcionários. O framework verifica automaticamente cada tese gerada. Se o nível de Faithfulness cair abaixo de 0.90, o usuário vê a mensagem: «Não consigo encontrar o item exato no regulamento, entre em contato com o departamento de RH».

03. Validação de esquemas com OpenAPI / Swagger

Antes de chamar uma API de terceiros, o agente de código deve comparar o nome da função e seus argumentos com o arquivo de especificação do esquema swagger.json, eliminando parâmetros de requisição inventados.

5. Armadilhas, erros comuns e segurança

• Confiança cega no estilo elegante: Quanto melhor o modelo domina a linguagem, mais fácil é para o humano acreditar em suas invenções. Exija sempre referências precisas às fontes ou artefatos de execução.
• Alucinações de normas regulatórias e médicas: Tentar obter conselhos sobre o código tributário sem conectar o texto atualizado da lei via RAG resultará garantidamente em multas legais.
• Alucinações artificiais devido ao Context Rot: Contexto desatualizado ou saturado de ruído aumenta a frequência de alucinações em 3–5 vezes. Mantenha o contexto limpo.