定义

开放权重模型是一种人工智能模型类型，其定义模型所学习知识的底层参数或“权重”是公开可用的。与开发者将权重保密的专有、闭源模型不同，开放权重模型允许研究人员、开发人员和企业下载、检查、修改和在本地或自己的基础设施上运行该模型。

对商业的重要性

透明度和控制权是采用开放权重模型的主要驱动力。对于企业而言，这意味着减少供应商锁定、能够在不将敏感内部数据发送到第三方 API 的情况下专门针对模型进行微调，以及提高关于人工智能如何得出结论的可审计性。这一转变使组织能够管理其人工智能生命周期。

工作原理

从本质上讲，大型语言模型（LLM）是一个复杂的数学结构。“权重”是该结构中数十亿个数值，它决定了模型的行为——例如它如何预测下一个词或对数据进行分类。当模型是开放权重时，这些数值文件就会被发布。用户随后可以将这些权重加载到兼容的软件框架（如 PyTorch 或 TensorFlow）中并在本地运行推理。

常见用例

企业利用这些模型来执行几项关键功能：

• 定制聊天机器人和助手： 部署仅使用专有公司文档训练的高度专业化的客户服务代理。
• 代码生成和审查： 将模型集成到开发流程中，协助工程师编写样板代码或进行安全检查。
• 数据提取和分类： 构建内部工具来处理大量非结构化数据（例如法律文件、医疗报告），并保证数据隐私。

主要优势

• 定制和微调： 企业可以使用其独特的数据集进行深度、迭代的微调，从而实现卓越的特定领域性能。
• 数据主权和隐私： 在本地运行模型可确保敏感数据永不离开公司防火墙，满足严格的监管要求。
• 成本可预测性： 虽然初始设置需要计算资源，但通过避免按令牌使用 API 的费用，长期运营成本可以更可预测。

需要考虑的挑战

• 基础设施开销： 部署和维护大型模型需要大量的计算资源（GPU、内存），这与使用托管 API 服务相比是巨大的。
• 所需专业知识： 有效使用需要专业的 MLOps 和 AI 工程人才来管理部署、量化和微调。
• 安全责任： 保护已部署的模型及其推理管道的责任完全在于最终用户组织。

相关概念

• 专有模型： 其权重和架构由开发公司保密的模型（例如，闭源商业 API）。
• 微调： 过程是将预训练的开放权重模型在一个较小、特定的数据集上进一步训练，以提高其在特定任务上的性能。
• 参数效率： 用于使大型模型在计算能力较弱的硬件上高效运行的技术。