定义

生成式记忆指的是先进人工智能模型，特别是大型语言模型（LLMs）内部的复杂机制，这些机制允许模型存储、检索和利用跨多次交互或长时间段内收集到的信息。与简单的会话记忆不同，生成式记忆使人工智能能够建立对用户、任务或领域的持久、不断发展的理解。

为什么它很重要

为了使人工智能应用超越单轮交互，它们必须具备记忆能力。生成式记忆将无状态模型转变为有状态的智能体。这种能力对于构建可靠、个性化和复杂的应用程序至关重要，例如虚拟助手、个性化导师和需要操作连续性的自主智能体。

工作原理

生成式记忆的实现通常涉及与核心LLM集成的外部知识库或专用记忆模块。当发生交互时，相关数据（例如用户偏好、先前对话摘要、关键事实）会被编码并存储。然后，检索机制（通常采用向量数据库和语义搜索）被用来将最相关的记忆拉回提示上下文，以便模型生成响应。这个过程使模型能够“回忆”相关的过往信息。

常见用例

• 个性化客户支持： 智能体记住过去的购买历史和声明的偏好，以提供高度定制的帮助。
• 自主智能体： 智能体在复杂的多阶段任务中保持其目标和中间步骤的持久状态。
• 长期辅导： AI导师会记住学生几周前的薄弱环节，从而定制当前的课程计划。
• 上下文感知搜索： 搜索系统会保留复杂查询的上下文，并根据先前的澄清来完善结果。

主要优势

• 连贯性： 响应在长时间的对话线程中保持一致和相关。
• 个性化： AI交互感觉是根据个体用户的历史量身定制的。
• 效率： 减少了需要重复将整个历史记录输入提示的需要，从而节省了计算资源。
• 可扩展性： 允许人工智能系统处理复杂、长时间运行的业务流程。

挑战

• 记忆过载（上下文窗口限制）： 存储过多的信息可能会超出模型的输入容量。
• 检索准确性： 如果记忆检索机制拉取了不相关或过时信息，AI的性能就会下降（垃圾进，垃圾出）。
• 数据安全和隐私： 存储敏感用户数据需要强大的安全协议。

相关概念

相关概念包括检索增强生成（RAG），它是记忆的主要实现模式，以及状态管理，它控制着智能体系统中信息的整体流程。