O que fazer quando agentes de IA alucinam? A resposta tem mais a ver com arquitetura do que com prompt.

Nas últimas semanas, coloquei um agente de IA pra rodar em produção e o objetivo era simples: aquecer leads e dar suporte para uma clínica médica, agendando consultas e tirando dúvidas, direto no WhatsApp.

Nos testes, tudo estava indo bem.. mas a realidade apareceu com os leads reais.

Comecei a acompanhar a taxa de sucesso das tarefas e a monitorar as conversas direto no banco de dados e foi aí que as inconsistências surgiram.

Mesmo usando uma base de conhecimento bem estruturada, o agente começou a inventar coisas.

A primeira reação foi melhorar a base de conhecimento. Ajudou, mas não resolveu 100%.

Depois, refinei o prompt. Melhorou de novo, mas em alguns casos continuavam saindo do trilho.

A virada de chave foi quebrar a solução: um único agente não estava dando conta.

A solução foi colocar um agente "classificador" na frente, que identifica a intenção do usuário e direciona para outros agentes especialistas.

Teoria vs. prática

Essa experiência prática me deixou muito curioso e no fim de semana parei para entender a teoria por trás das alucinações.

Acabei caindo num artigo que não lembro quem me indicou, mas que foi esclarecedor.

Eu já sabia que alucinação não é um "bug" e sim uma característica inerente e inevitável dos LLMs.

O foco não é eliminar, mas sim mitigar e gerenciar. Mas na prática, isso é muito complicado.

Baseado na minha experiência e nos aprendizados do artigo, aqui vão 3 dicas práticas que aprendi nesse processo:

1. Trate sua base de conhecimento como um produto

A principal causa de alucinações vem de dados ruins, incompletos ou desatualizados.

Melhorar a base de conhecimento (técnica conhecida como RAG) é o primeiro passo para aterrar a IA em fatos, reduzindo a chance de ela inventar informações.

2. Seja obcecado pelo prompt

Instruções vagas geram respostas vagas.

O estudo mostra que a forma como você pergunta impacta diretamente a qualidade da resposta. Defina o papel do agente, dê exemplos claros e restrinja o escopo da tarefa. Um bom prompt é um bom começo para evitar desvios.

3. Para problemas complexos, use múltiplos agentes

Um único agente tentando lidar com muitas tarefas diferentes (agendar, tirar dúvidas, qualificar) pode se confundir. A solução que funcionou para mim foi usar um agente roteador para identificar a intenção e passar a bola para um agente especialista.

Essa abordagem cria 'guardrails' naturais no sistema, se alinhando ao que o artigo chama de mecanismos de controle.

Muitos destes aprendizados, eu falo quase que semanalmente para várias pessoas, mas quando é você implementando.. a gente acaba esquecendo, quebra a cara e aí aprende :)

O estudo é denso, mas vale dar uma olhada, para quem está construindo com IA e quer ir além do superficial.

Este artigo foi publicado originalmente no meu LinkedIn. Você pode ler a versão original e me seguir por lá para mais insights.