Mémoire contextuelle
La mémoire contextuelle fait référence à la capacité d'un système d'IA à conserver, accéder et utiliser les informations recueillies lors d'interactions précédentes, que ce soit au sein d'une session spécifique ou à travers plusieurs sessions. Contrairement au traitement sans état, qui traite chaque entrée comme étant entièrement nouvelle, la mémoire contextuelle permet à l'IA de construire une compréhension dynamique des besoins continus, des préférences et du déroulement de la conversation de l'utilisateur.
Pour les applications modernes, en particulier les chatbots et les agents intelligents, le contexte est primordial. Sans lui, les interactions sont fragmentées et frustrantes. La mémoire contextuelle transforme un simple outil de questions-réponses en un assistant persistant et utile. Elle permet au système de répondre aux questions de suivi avec précision, même si l'utilisateur ne réénonce pas explicitement tous les détails nécessaires.
Le mécanisme implique généralement de stocker les données d'interaction — telles que les entrées de l'utilisateur, les réponses du système, les entités identifiées et l'intention inférée — dans un magasin de mémoire temporaire ou persistant. Ces données sont ensuite encodées (souvent à l'aide d'embeddings vectoriels) et renvoyées au modèle de langage ou à l'algorithme de prise de décision comme partie intégrante de l'invite actuelle. Cela permet au modèle de conditionner sa prochaine sortie sur l'historique.
La Génération Augmentée par Récupération (RAG) est une technique souvent utilisée conjointement avec la mémoire contextuelle pour extraire des connaissances externes pertinentes dans la fenêtre de contexte actuelle. La Gestion d'État est la discipline d'ingénierie plus large qui régit la manière dont le système suit l'état opérationnel actuel d'une session utilisateur.
