定义

深度记忆指的是先进人工智能系统，特别是大型语言模型（LLMs）和自主智能体内部的复杂机制，这些机制使其能够在较长的时间内存储、检索和利用大量的上下文信息。与短期上下文窗口不同，深度记忆支持跨多次交互的持久学习和状态维护。

为什么重要

为了使人工智能系统超越单轮对话，成为真正有用的助手或自主智能体，它们必须具备记忆能力。深度记忆解决了无状态模型的固有局限性，使人工智能能够参考过去的决策、用户偏好和复杂的历史数据，从而提供连贯、个性化和上下文准确的响应。

工作原理

深度记忆的实现通常涉及将模型的状态从其即时计算上下文中外部化。这通常利用向量数据库或专业知识图谱。当发生交互时，相关的历史数据被编码成嵌入并存储起来。检索增强生成（RAG）技术是一种主要方法，系统会查询这个外部记忆存储来提取相关的、有用的信息块，然后再生成响应。

常见用例

• 个性化助手： 记住用户偏好、过去的项目细节和沟通风格，跨越数周或数月。
• 自主智能体： 在众多子任务中维护复杂的多步骤工作流程的状态（例如，预订旅行、管理供应链）。
• 企业知识库： 允许人工智能根据专有的、历史性的公司文档回答高度具体的问题。

主要优势

• 连贯性： 在长时间的会话中保持对话流程和主题一致性。
• 可扩展性： 使人工智能能够处理远超其初始训练数据大小的知识。
• 个性化： 基于个人历史实现高度定制化的交互。

挑战

• 检索准确性： 确保系统从庞大的记忆库中检索到最相关的信息在计算上是困难的。
• 延迟： 查询大型外部记忆存储可能会增加响应时间中的延迟。
• 数据管理： 维护、更新和修剪过时的记忆需要强大的数据治理。

相关概念

该概念与上下文窗口管理、向量数据库和检索增强生成（RAG）密切相关。