定义

基于事实生成（Grounded Generation）是指将生成式人工智能模型（如大型语言模型LLM）的输出约束或锚定到特定、可验证的外部知识源的过程。模型不再仅仅依赖于其训练数据中庞大、可能过时或“幻觉”的知识，而是被迫基于提供的、权威的上下文来构建其回复。

为什么它很重要

在企业应用中，“幻觉”（即人工智能自信地陈述错误信息）的风险是一个关键的阻碍因素。基于事实生成通过提供一个事实锚点来减轻这种风险。它将大型语言模型从创意文本生成器转变为可靠的、基于证据的知识助手，这对于合规性、决策制定和客户信任至关重要。

工作原理

最常见的实现方式是检索增强生成（Retrieval-Augmented Generation, RAG）。该过程通常遵循以下步骤：

1. 检索（Retrieval）： 处理用户查询，系统会搜索一个受信任的知识库（例如内部文档、数据库、经过验证的网站）以检索最相关的信息片段。
2. 增强（Augmentation）： 然后，将这些检索到的片段直接添加到提供给LLM的提示（prompt）中。
3. 生成（Generation）： 指示LLM仅使用增强提示中提供的上下文来生成答案。这迫使模型从源材料中综合信息，而不是回忆一般的训练数据。

常见用例

• 内部知识检索： 允许员工高置信度地查询复杂的内部手册或政策文件。
• 客户支持自动化： 基于最新的产品文档提供准确、最新的答案。
• 财务报告： 严格基于最近的、经过审计的公司报告生成摘要或解释。
• 法律合规性： 确保生成的摘要精确遵守提供的特定法律文本。

主要优势

• 提高事实准确性： 大幅减少人工智能“幻觉”的发生率。
• 可追溯性和可审计性： 每一个生成的声明都可以追溯到其原始来源文档。
• 领域特定性： 使通用LLM能够成为特定、专有领域的专家。
• 数据新鲜度： 使模型能够引用在其初始训练截止日期之后创建的信息。

挑战

• 检索质量： 如果初始检索步骤未能找到正确的上下文，生成结果仍然会存在缺陷（垃圾进，垃圾出）。
• 上下文窗口限制： 非常大的知识库可能会超出LLM的令牌限制，需要复杂的切块策略。
• 实施复杂性： 建立强大的RAG管道比简单的API调用需要大量的工程工作。

相关概念

• 检索增强生成（RAG）： 实现基于事实生成的主要架构模式。
• 幻觉（Hallucination）： 基于事实生成试图消除的现象。
• 向量数据库（Vector Databases）： 用于存储和高效搜索知识块嵌入的专业数据库。