¿Qué hacer cuando los agentes de IA alucinan? La respuesta tiene más que ver con arquitectura que con prompting.

En las últimas semanas puse un agente de IA en producción con un objetivo simple: calentar leads y dar soporte a una clínica médica, agendando citas y respondiendo preguntas directamente en WhatsApp.

En las pruebas, todo salió bien.. pero la realidad golpeó fuerte cuando empezaron a llegar leads reales.

Empecé a seguir la tasa de éxito de las tareas y a monitorear las conversaciones directamente en la base de datos y ahí fue cuando aparecieron las inconsistencias.

Incluso con una knowledge base bien estructurada, el agente empezó a inventar cosas.

Mi primera reacción fue mejorar la knowledge base. Ayudó, pero no resolvió el 100% de los problemas.

Después refiné el prompt. Volvió a mejorar, pero en algunos casos seguía descarrilándose.

El punto de inflexión fue descomponer la solución: un solo agente simplemente no daba la talla.

La solución fue poner al frente un agente “clasificador”, que identifica la intención del usuario y lo enruta hacia otros agentes especializados.

Teoría vs. práctica

Esta experiencia práctica me dio mucha curiosidad, así que el fin de semana me detuve a entender la teoría detrás de las alucinaciones.

Terminé tropezando con un artículo (no recuerdo quién lo recomendó, pero fue esclarecedor).

Ya sabía que la alucinación no es un “bug”, sino una característica inherente e inevitable de los LLMs.

El foco no debería estar en eliminarla, sino en mitigarla y gestionarla. Sin embargo, en la práctica esto es bastante complicado.

Con base en mi experiencia y en las lecciones de ese artículo, aquí van 3 consejos prácticos que aprendí durante este proceso:

1. Trata tu knowledge base como un producto

La causa principal de las alucinaciones viene de datos malos, incompletos o desactualizados.

Mejorar la knowledge base (una técnica conocida como RAG) es el primer paso para anclar a la IA en hechos, reduciendo la probabilidad de que invente información.

2. Obsesiónate con el prompt

Las instrucciones vagas generan respuestas vagas.

Los estudios muestran que la forma en que preguntas impacta directamente la calidad de la respuesta. Define el rol del agente, da ejemplos claros y restringe el alcance de la tarea. Un buen prompt es un buen comienzo para evitar desvíos.

3. Para problemas complejos, usa múltiples agentes

Un solo agente que intenta manejar muchas tareas diferentes (agendar, responder preguntas, calificar) puede confundirse. La solución que me funcionó fue usar un router agent para identificar la intención y pasarle la pelota a un agente especialista.

Este enfoque crea “guardrails” naturales en el sistema, alineándose con lo que el artículo llama mecanismos de control.

Hablo de muchas de estas lecciones casi todas las semanas con distintas personas, pero cuando eres tú quien lo implementa.. terminas olvidando, aprendiendo a la mala y entonces aprendiendo de verdad :)

El estudio es denso, pero vale la pena echarle un ojo para cualquiera que construya con IA y quiera ir más allá de la superficie.

Este artículo fue publicado originalmente en portugués en mi LinkedIn. Puedes leer la versión original y seguirme allí para más insights.