定义

小型语言模型（SLM）是一种人工智能模型，旨在执行自然语言处理任务，但与大型语言模型（LLM）相比，其参数和计算需求要少得多。虽然LLM拥有数十亿甚至数万亿的参数，但SLM则针对效率进行了优化，使其能够在计算能力较弱的硬件上有效运行。

为什么它很重要

SLM的兴起解决了与大型LLM相关的关键企业限制。部署大型模型通常需要大量的云基础设施、高延迟和可观的运营成本。SLM使企业能够将先进的AI能力更靠近数据源——无论是本地部署、边缘计算还是受限环境——从而实现更快的推理速度和更低的运营支出。

工作原理

SLM通常是通过将各种优化技术应用于更大的基础模型而创建的。这些方法包括量化（降低模型权重的精度）、剪枝（移除不必要的连接）和知识蒸馏（训练一个较小的模型来模仿一个更大、更强大的教师模型的行为）。这个过程在大幅减小模型占用的空间的同时，保留了大部分功能智能。

常见用例

SLM在不需要极端通用性的特定、明确定义的任务中表现出色。常见应用包括：

• 智能路由： 将传入的客户支持工单分类到精确的类别中。
• 数据提取： 从结构化或半结构化文档中提取特定实体（名称、日期、金额）。
• 设备端摘要： 在不需要持续云连接的情况下，提供短文档的快速、本地化摘要。
• 领域特定聊天机器人： 使用高度集中的知识库为内部工具提供支持。

主要优势

采用SLM的主要优势集中在运营效率和可访问性上。它们提供了更低的推理延迟，这对实时应用至关重要。此外，它们较小的尺寸便于在专有、小众数据集上进行更轻松的微调，与通用LLM相比，在专业业务场景中能实现更高的准确性。

挑战

尽管有这些优势，SLM也有局限性。它们固有的规模限制了它们处理大型LLM可以轻松处理的高度复杂、多步骤推理任务的能力。要达到最先进的性能，通常需要细致的微调和对特定业务问题的适当基础模型的仔细选择。

相关概念

SLM通常与参数高效微调（PEFT）等概念一起讨论，PEFT允许在不重新训练所有参数的情况下调整模型，以及边缘计算，后者直接受益于这些小型模型对资源需求的低要求。