Conversaciones, sesiones y el Responder
Cómo el responder ensambla el contexto, recupera conocimiento, construye prompts, ejecuta comprobaciones de seguridad y devuelve respuestas rápidas y citadas — el flujo de extremo a extremo detrás de cada interacción.
¿Qué es esta función?
El responder es el motor que toma la pregunta del usuario, busca información relevante en la base de conocimiento y genera una respuesta clara y citada. Esta pieza describe el flujo: ensamblado de contexto, recuperación, construcción de prompt, generación por el modelo, comprobaciones de seguridad y entrega con citas.
Por qué importa
La experiencia se mide conversación a conversación: respuestas lentas, vagas o incorrectas dañan la confianza; respuestas rápidas y verificables la construyen.
Flujo resumido
1. Llega el mensaje y se valida.
2. Se ensambla el contexto (historial).
3. Se recupera conocimiento relevante.
4. Se construye el prompt y se consulta el modelo.
5. Se filtra la respuesta por seguridad y se añaden citas.
Operaciones
Cada petición genera una traza completa para diagnóstico, con métricas de latencia, precisión de citas y uso de modelos.