大模型微调的钱,主要花在几个固定的地方。一次完整的微调项目,成本大致由四块构成:算力租用、数据准备、人力投入和验证迭代。搞清楚每块占多大头,才知道钱该往哪省、哪块不能省,这也是微调成本构成被反复讨论的原因。
钱主要花在哪几块
第一块是算力,通常也是最大头。微调要在 GPU 集群上跑数小时到数天,租用费用按时长计,模型越大、数据越多,账单越可观。第二块是数据准备,包括清洗、标注、质检,这笔钱常被低估,人工标注的单价乘以数据量,很容易超过算力。第三块是人力,算法工程师的调参、实验设计、问题排查,都是持续投入。第四块是验证迭代,多轮小实验加上回归测试,算力零散但累积起来不少。
四块钱的去向、在不同阶段的比重、最容易估错的地方,一行对一块。
| 成本块 | 具体花在哪 | 阶段占比 | 容易估错的地方 |
|---|---|---|---|
| 算力租用 | GPU 集群跑数小时到数天,按时长计费 | 起步阶段是小头,进入稳定迭代后开销上来 | 模型越大、数据越多,账单越可观 |
| 数据准备 | 清洗、标注、质检 | 起步阶段占比高 | 常被低估,人工单价乘以数据量容易超过算力 |
| 人力投入 | 算法工程师调参、实验设计、问题排查 | 起步阶段占比高 | 是持续投入,不是一次性支出 |
| 验证迭代 | 多轮小实验加回归测试 | 进入稳定迭代后开销上来 | 单次算力零散,累积起来不少 |
这四块的比例随项目阶段变化。起步阶段数据和人力占比高,算力反而是小头;进入稳定迭代后,算力和验证的开销上来。微调数据量的决策会同时影响前两块,是最需要谨慎拍板的一环。
数据准备那块还要看标注形式。分类标注便宜,生成式标注贵,后者需要标注员写出完整回答,单价可能是前者的十几倍。项目启动前先算清用哪种形式,再估预算,能避免中途发现预算差一倍的尴尬。
像装修一套房
理解成本构成,可以类比装修一套房。材料费是大头,对应算力;设计费决定最后效果,对应数据准备和算法人力;监理和返工对应验证迭代,看似可选,返一次工就明白不能省。装修类比的好处是直观:没人只算材料钱就报预算,微调同样不能只算 GPU 账单。
这个类比还解释了一个常见失误:装修时为了省设计费自己上手,最后返工更贵;微调时为了省数据钱用粗糙数据,模型效果不稳,回头重标更贵。数据质量过滤的钱,本质是装修里的监理费。
类比不完全的地方
装修类比有两处不成立。其一,装修是一次性工程,微调是持续过程,模型要跟着业务迭代,成本是滚动发生的,不能按“装完即结束”做预算。其二,装修材料价格透明,算力价格随市场波动,且不同精度、不同并行方案的利用率差异很大,同样的卡,跑法不同账单能差出三成,这也是训练稳定性问题被重视的经济原因。
还有一块隐性成本是失败实验。不是每轮微调都成功,梯度爆炸、数据出错、超参没调好,都会让一轮实验作废。预算里给失败留出余地,是成熟团队的做法,数据去重这类前置工作做到位,能明显减少这类浪费。
成本失控的早期信号
发现三个信号要警惕:数据标注返工率持续偏高,说明口径有问题;单轮实验时间比预估长很多,可能是配置没优化;验证集表现好但上线就崩,说明验证设计有漏洞。任何一个出现,都意味着后续每一轮都在为同一个错误付费。
落到工具层面,通义千问和 Kimi 背后的服务体系都把微调门槛做了压缩,小团队也能按需租用算力。但对个人开发者来说,最省钱的动作永远是:把数据和实验设计做扎实,让每一轮算力都花在有效尝试上,这才是算清微调成本的账的关键。
速查表:成本四块=算力、数据准备、人力、验证迭代;类比装修一套房;隐性成本是失败实验;警惕返工率、单轮时长、验证虚高三个信号。
聊聊微调成本构成的常见疑问
- 算力总是最大头吗?不一定,数据标注密集的项目里,人工成本常常超过算力,尤其是垂直领域。
- 能用小模型省成本吗?任务匹配时完全可以,小模型微调快、验证也快,是控制总成本的有效路径。
- 失败实验的钱能省吗?省不掉,但可以通过前置数据质检和参数预检减少失败轮次,把浪费压到最低。


