定义

JSON 模式是提供给大型语言模型 (LLMs) 的一种特定操作设置或指令，它强制要求模型的输出必须严格遵循 JavaScript 对象表示法 (JSON) 数据格式。模型不再生成自由格式的文本，而是被限制生成有效的、可解析的 JSON 对象或数组。

为什么重要

在现代软件开发中，AI 的输出必须是可靠且可被机器读取的。自由格式的文本很难被下游应用程序一致地解析。JSON 模式通过保证可预测的结构来解决这个问题，使自动化系统、API 和数据库能够在没有复杂错误处理的情况下摄取 AI 的响应。

工作原理

当启用 JSON 模式时，提示工程中会包含明确的指令，通常还会包含一个 JSON 模式定义。LLM 使用此模式作为蓝图，确保所有键、值和数据类型都符合指定的结构。如果模型偏离，系统可以标记输出为无效，从而实现强大的错误检查。

常见用例

• API 集成： 将结构化数据直接输入到后端服务或微服务中。
• 数据提取： 从非结构化文本中提取特定实体（名称、日期、价格）到数据库中。
• 工作流自动化： 根据可预测的 AI 生成的参数触发后续的自动化步骤。
• 配置生成： 创建标准化的配置文件或设置对象。

主要优势

• 可靠性： 消除了自然语言生成中固有的歧义。
• 自动化就绪： 实现与软件管道的无缝集成。
• 可预测性： 开发人员确切知道应该期望什么数据结构。
• 验证： 接收后可以立即进行模式验证。

挑战

• 模式复杂性： 过度复杂或深度嵌套的模式有时会使模型感到困惑，导致生成失败。
• 令牌开销： 在每个提示中包含详细的模式定义会略微增加令牌使用量。
• 模型遵循性： 尽管功能强大，但遵循程度取决于特定 LLM 的训练和该模式的实现。

相关概念

模式验证、提示工程、结构化输出、数据序列化、API 契约