Definition

AI Session Memory bezieht sich auf den Mechanismus, durch den ein künstliche Intelligenzsystem, insbesondere ein Gesprächsagent oder Chatbot, Informationen aus früheren Gesprächsabschnitten innerhalb einer einzigen, fortlaufenden Benutzerinteraktion oder „Sitzung“ speichert und nutzt. Anstatt jede Benutzereingabe als eine völlig isolierte Abfrage zu behandeln, ermöglicht das Gedächtnis der KI, ein kontextuelles Verständnis des Gesprächsverlaufs, der Benutzerpräferenzen und der angegebenen Ziele aufzubauen.

Warum es wichtig ist

Ohne Sitzungsgedächtnis sind KI-Interaktionen von Natur aus zustandslos. Das bedeutet, dass die KI alles vergisst, was Sie vor zwei Sätzen gesagt haben, was zu frustrierenden, repetitiven und unnatürlichen Gesprächen führt. Sitzungsgedächtnis ist entscheidend, weil es der KI ermöglicht, relevante, kohärente und personalisierte Antworten zu geben und die Interaktion von einfachen Fragen und Antworten zu einem echten Dialog zu entwickeln.

Wie es funktioniert

Technisch wird Sitzungsgedächtnis oft dadurch implementiert, dass eine Historie des Gesprächs (die Prompt-Historie) bei jeder neuen Benutzereingabe an das Large Language Model (LLM) übergeben wird. Diese Historie dient als „Kontextfenster“. Fortschrittliche Systeme können Vektordatenbanken oder spezialisierte Gedächtnismodule verwenden, um nur die relevantesten vergangenen Informationen zusammenzufassen oder abzurufen, wodurch verhindert wird, dass das Kontextfenster zu groß und zu teuer in der Verarbeitung wird.

Häufige Anwendungsfälle

• Personalisierter Support: Ein Kunde kann fragen: „Wie lautet die Rückgaberichtlinie?“ und dann nachfragen: „Gilt das auch für Elektronik?“ Das Gedächtnis stellt sicher, dass die KI weiß, dass „das“ sich auf Elektronik bezieht.
• Komplexe Aufgabenabwicklung: Führung eines Benutzers durch einen mehrstufigen Buchungsprozess, bei dem Präferenzen (Daten, Orte) über mehrere Anfragen hinweg gespeichert werden müssen.
• Zustandsverfolgung: In automatisierten Workflows verfolgt das Gedächtnis, an welcher Stelle sich der Benutzer in einem definierten Prozess befindet (z. B. „Eingabe der Rechnungsdaten“ vs. „Eingabe der Lieferadresse“).

Hauptvorteile

• Verbesserte Benutzererfahrung (UX): Gespräche fühlen sich natürlich, intuitiv und menschlich an.
• Höhere Abschlussquoten bei Aufgaben: Benutzer sind eher bereit, komplexe Aufgaben abzuschließen, wenn die KI ihre Eingaben erinnert.
• Reduzierte Verzögerung beim Verständnis: Die KI muss keine klärenden Fragen erneut stellen, die bereits gestellt wurden.

Herausforderungen

• Grenzen des Kontextfensters: LLMs haben eine endliche Token-Begrenzung. Extrem lange Sitzungen können diese Kapazität überschreiten und erfordern ausgefeilte Zusammenfassungstechniken.
• Gedächtnisdrift: Wenn das Gedächtnis schlecht verwaltet wird, könnte die KI fälschlicherweise ältere, irrelevante Informationen priorisieren, was zu sachlichen Fehlern führt.
• Rechenkosten: Die Speicherung und erneute Verarbeitung der Gesprächshistorie erhöht die Betriebskosten pro Interaktion.

Verwandte Konzepte

Verwandte Konzepte sind Kontextfenster, Prompt Engineering, Zustandsverwaltung und Retrieval-Augmented Generation (RAG).