定义

联邦循环指的是一个循环的、迭代的过程，在这个过程中，机器学习模型在多个去中心化数据源上进行训练和优化，而无需集中原始数据。该循环将联邦学习（在本地数据上训练）的概念与持续的反馈机制相结合，使全局模型能够根据本地化的性能信号动态调整。

为什么重要

在现代的大规模人工智能部署中，数据驻留法（如 GDPR）和隐私问题阻止了敏感用户数据汇集到一个中央云存储库。联邦循环通过在保持数据本地化的同时实现协作式模型改进来解决这个问题。它对于构建健壮的、保护隐私的边缘人工智能系统至关重要。

工作原理

1. 本地训练： 一个全局模型被发送到各种边缘设备或本地服务器。每个站点使用其专有的本地数据集来训练该模型。
2. 梯度/更新共享： 不是将原始数据发送回来，而是只将模型更新（梯度或权重变化）发送到中央聚合器。
3. 聚合： 中央服务器从所有参与节点聚合这些更新，以创建一个改进的全局模型。
4. 反馈循环： 然后将这个新的全局模型重新分发到边缘设备，完成循环并启动下一轮本地训练。

常见用例

• 移动键盘预测： 在不上传私人输入数据的情况下，对个人用户手机上的下一个词预测模型进行训练。
• 医疗诊断： 在多个医院开发诊断人工智能，这些医院的患者数据不能离开机构。
• 物联网传感器网络： 在地理上分散的工业传感器上持续改进异常检测模型。

主要优势

• 增强的隐私性： 原始数据从不离开其来源，遵守严格的合规性要求。
• 降低延迟： 推理通常可以在边缘设备上本地进行，从而加快响应时间。
• 可扩展性： 随着更多去中心化节点的添加，系统可以自然扩展，而不会使中央服务器不堪重负。

挑战

• 非独立同分布数据 (Non-IID)： 节点之间的数据分布通常是非独立同分布的 (Non-IID)，这可能导致模型漂移和收敛问题。
• 通信开销： 尽管数据传输减少了，但频繁传输模型更新仍然需要大量的网络带宽。
• 系统异构性： 管理所有参与节点上多样化的硬件能力和网络可靠性是复杂的。

相关概念

联邦学习、边缘人工智能、差分隐私、分布式系统、迁移学习