Memoria Contextual
La Memoria Contextual se refiere a la capacidad de un sistema de IA para retener, acceder y utilizar la información recopilada de interacciones previas dentro de una sesión específica o a través de múltiples sesiones. A diferencia del procesamiento sin estado, que trata cada entrada como completamente nueva, la memoria contextual permite que la IA construya una comprensión dinámica de las necesidades continuas del usuario, sus preferencias y el flujo de la conversación.
Para las aplicaciones modernas, especialmente los chatbots y los agentes inteligentes, el contexto lo es todo. Sin él, las interacciones son fragmentadas y frustrantes. La memoria contextual transforma una simple herramienta de preguntas y respuestas en un asistente útil y persistente. Permite que el sistema responda preguntas de seguimiento con precisión, incluso si el usuario no vuelve a enunciar explícitamente todos los detalles necesarios.
El mecanismo generalmente implica almacenar datos de interacción —como entradas de usuario, respuestas del sistema, entidades identificadas e intención inferida— en un almacén de memoria temporal o persistente. Luego, estos datos se codifican (a menudo utilizando incrustaciones vectoriales) y se introducen nuevamente en el modelo de lenguaje o el algoritmo de toma de decisiones como parte del prompt actual. Esto permite que el modelo condicione su próxima salida en el registro histórico.
La Generación Aumentada por Recuperación (RAG, por sus siglas en inglés) es una técnica que a menudo se utiliza junto con la memoria contextual para extraer conocimiento externo relevante a la ventana de contexto actual. La Gestión de Estado es la disciplina de ingeniería más amplia que rige cómo el sistema rastrea el estado operativo actual de una sesión de usuario.