定义

本地运行时指的是应用程序或代码直接在最终用户设备（例如智能手机、笔记本电脑或物联网设备）上运行的执行环境，而不是完全依赖远程服务器或云基础设施。这与所有处理都在远程发生的传统云架构形成了鲜明对比。

为什么重要

向本地运行时转变解决了纯粹依赖云系统的关键限制。它通过消除网络往返次数，极大地降低了延迟；即使在互联网连接不良或不可用时也能确保功能；并通过将敏感数据保留在设备上，显著提高了用户隐私。

工作原理

本地运行时将必要的计算引擎——例如轻量级机器学习推理引擎、JavaScript 引擎或专用 SDK——直接集成到应用程序包中。当调用一个函数时，代码使用本地硬件上可用的资源执行，从而绕过了针对该特定任务的外部 API 调用。

常见用例

• 离线移动应用： 允许用户在没有活动互联网连接的情况下创建、编辑和查看数据。
• 边缘 AI 推理： 直接在设备上运行小型预训练的 AI 模型（如图像识别或自然语言处理）以获得实时反馈。
• 数据隐私： 在本地处理个人身份信息 (PII)，确保其永不离开用户的控制。
• 低延迟交互： 需要即时响应的应用程序，例如增强现实叠加或实时生物识别分析。

主要优势

• 降低延迟： 由于零网络延迟，处理时间接近即时。
• 增强可靠性： 无论网络质量或可用性如何，性能都保持一致。
• 提高隐私和安全性： 数据处理保留在用户的安全环境中。
• 降低运营成本： 为服务提供商减少了带宽和服务器负载。

挑战

• 资源限制： 本地设备具有有限的 CPU、内存和电池寿命，限制了可以运行的模型或操作的复杂性。
• 模型大小： 部署复杂模型需要仔细的优化和量化，以适应设备内存。
• 更新复杂性： 确保本地运行时环境及其依赖项在各种硬件配置上保持一致更新可能很复杂。

相关概念

• 边缘计算： 一个更广泛的范式，即将计算移至更靠近数据源的地方，通常利用本地运行时。
• 客户端计算： 一个通用术语，描述在客户端设备上发生的任何处理。
• 无服务器函数： 虽然通常基于云，但一些无服务器架构正朝着结合本地执行能力的混合模型发展。