什么是联邦学习？数据不出门也能训练模型

两家医院都想训练一个更准的辅助判断模型，谁手里都有几年积累的病历，但谁也不能把病人数据交给对方——隐私法规不允许，机构之间的信任也不允许。这种「数据敏感又想合作」的困境，就是联邦学习要解的题：让 AI 模型到处跑，让数据待在原地。

机制：模型去数据那儿，数据不出门

普通训练把数据集中到一个机房，统一喂给模型。联邦学习把顺序反过来：各方在本地用自己的数据训练，只把训练产生的模型更新——可以理解为「这一轮学到了什么」的参数变化——上传给协调方，协调方把大家的更新汇总成一个更好的模型，再发回去，进入下一轮。原始数据从头到尾留在本地。

打个比方：不是把各家的账本收上来一起算，而是把算法发到每家，各自算完只交一个汇总数。算法能学到所有人的经验，账本一页都没离开过原来的柜子。

一次联合建模的完整流程

流程上通常分四步：参与方先对齐模型结构，拿到同一个初始模型；各自在本地数据上训练几轮；把参数更新（必要时加密）传给协调方；协调方聚合并下发新模型，循环往复，直到效果不再提升。谁的算力强、数据多，汇总时可以占更大的权重，但每一步是否继续参与，决定权始终在各参与方自己手里。

协调方在这个过程里看不到任何一方的原始数据，只能看到参数。这意味着它无法逐条检查数据质量，也无法直接发现某一方的数据标注有问题——这是后面所有代价的源头。

换来什么，付出什么

换来的有三样：原始数据不出域，更容易满足个人信息保护的要求；原本互不信任、互不通数据的机构可以合作建模；传参数比传海量原始数据便宜得多，带宽压力小得多。付出的代价同样具体：数据分散在各家，分布不一致时，模型效果往往不如把数据放在一起训练；多轮参数往返，通信开销不小；协调多方、处理掉线、确保各版本一致，工程复杂度远超单机训练。

它做不到的部分

联邦学习不是隐私问题的万能答案。参数更新本身就可能泄露信息——已有研究显示，从上传的参数变化里可以反推出部分训练样本的内容，所以严肃场景通常还要叠加加密或加噪手段，安全预算随之上升。各方数据质量参差时，学出来的模型可能被某一方的坏数据拖累，而协调方因为看不到原始数据，很难定位问题出在谁那里。

它解决的是「能不能一起做」，做得多好仍取决于各方数据质量和工程能力。还有一条边界值得记住：如果一个项目里数据其实可以合法集中，直接集中训练往往更简单、效果也更好。联邦学习是为「数据确实不能动」的场景准备的，不是为「嫌麻烦不想走合规流程」的场景准备的。

用在哪里，怎么判断合不合适

凡是「数据敏感加多方合作」同时成立的场景，它都值得进入候选清单；两个条件缺一个，通常都有更省事的方案。

联邦学习速查

• 一句话：数据不动，模型动
• 本地训练，只上传参数更新，不传原始数据
• 数据分布不一致时，效果会打折
• 参数本身也可能泄露信息，严肃场景要叠加密
• 数据能合法集中时，集中训练通常更省事

三个常被问到的问题

• 联邦学习和分布式训练是一回事吗？：不是。分布式训练是把同一主体的数据切开放到多台机器上加速，数据归属是一家的；联邦学习的参与方彼此独立，数据归属和合规边界都不同，协调机制也复杂得多。
• 有参与方中途退出怎么办？：协议里要有掉线重连和加权处理的设计。缺了一方，聚合时按剩余方继续，模型效果会受影响，但不至于整个作废，下一轮它重新接入即可。
• 手机上的本地学习也算联邦学习吗？：算。设备在本地更新模型、只上传更新部分，是典型的端侧联邦学习，只不过协调方是厂商，参与规模以亿计，聚合方式也和机构间联合不太一样。

想继续往下挖，有几篇是顺路的：数据留在本地还有一条路是把模型部署到自己的机器上，代价和门槛在那篇里算得很清楚；模型到底有多大、参数意味着什么，看7B 和 70B 的差别在哪；为了让参数传输和本地推理更轻，工程上常用量化给模型瘦身；想在合规范围内拿现成模型起步，开源权重模型一篇讲了能免费用到什么程度。