Kontextuelles Gedächtnis
Kontextuelles Gedächtnis bezieht sich auf die Fähigkeit eines KI-Systems, Informationen aus vorherigen Interaktionen innerhalb einer bestimmten Sitzung oder über mehrere Sitzungen hinweg zu speichern, abzurufen und zu nutzen. Im Gegensatz zur zustandslosen Verarbeitung, die jede Eingabe als völlig neu behandelt, ermöglicht das kontextuelle Gedächtnis der KI, ein dynamisches Verständnis der laufenden Bedürfnisse, Präferenzen und des Gesprächsverlaufs des Benutzers aufzubauen.
Für moderne Anwendungen, insbesondere Chatbots und intelligente Agenten, ist der Kontext alles. Ohne ihn sind Interaktionen fragmentiert und frustrierend. Das kontextuelle Gedächtnis verwandelt ein einfaches Frage-Antwort-Tool in einen hilfreichen, beständigen Assistenten. Es ermöglicht dem System, Folgefragen präzise zu beantworten, selbst wenn der Benutzer nicht alle notwendigen Details explizit wiederholt.
Der Mechanismus beinhaltet typischerweise die Speicherung von Interaktionsdaten – wie Benutzereingaben, Systemantworten, identifizierte Entitäten und abgeleitete Absichten – in einem temporären oder persistenten Speicher. Diese Daten werden dann kodiert (oft mithilfe von Vektoreinbettungen) und als Teil des aktuellen Prompts zurück in das Sprachmodell oder den Entscheidungsalgorithmus eingespeist. Dies ermöglicht es dem Modell, seine nächste Ausgabe auf der historischen Aufzeichnung zu konditionieren.
Retrieval-Augmented Generation (RAG) ist eine Technik, die oft in Verbindung mit kontextuellem Gedächtnis verwendet wird, um relevantes externes Wissen in das aktuelle Kontextfenster zu ziehen. State Management ist die breitere Ingenieursdisziplin, die regelt, wie das System den aktuellen Betriebsstatus einer Benutzersitzung verfolgt.
