想让 AI 把你的任务做得更好,常见三条路:写好提示词、接知识库(RAG)、微调模型。三者是成本递增的三级台阶,彼此是升级关系而非替代关系。先给结论:先提示词,再 RAG,最后才考虑微调;顺序反了,往往既费钱又没效果。
提示词:改输入,成本几乎为零
模型本身不动,只改你给它的指令。随时可改、立刻见效、几乎不花钱,试错只消耗几分钟。绝大多数日常需求——写文案、改格式、做总结、调整语气——到提示词这一层就解决了。它的上限也在这:改输入补不上模型「不知道」的事实,资料不在场,指令写得再漂亮也答不出来。
RAG:改它能看到什么
把资料接成知识库,回答时先检索相关片段、再基于片段作答。适合需要基于特定资料回答的场景:企业知识库问答、客服应答、制度查询。它让 AI 有据可依,答案可以标出处;资料更新后不用动模型,改库就行。代价是维护:资料要持续录入和更新,切分方式影响检索命中率,检索没命中,回答就悬空。RAG 和传统搜索的机制差异决定了两者的适用面不同,可看:RAG 和传统搜索差在哪?知识库的两代。
微调:改模型本身
用你的数据再训练一轮,调整模型参数,让输出风格或格式更贴合要求。它是三级台阶里最贵的一级:要准备训练数据,要投入算力,之后每次调整都要重新训练。它擅长学风格和格式,比如让输出固定成某种模板、某种语气;不擅长记事实——权重里存的是模式,事实变了就要重训,靠微调让模型记住易变信息是常见误用。走微调路线通常还牵出自部署还是调 API 的取舍,可控与省心此消彼长,可看:自部署权重和调 API 怎么选?可控与省心的取舍。
三种方案对照
| 方案 | 成本与见效 | 适合 | 不擅长 | 维护负担 |
|---|---|---|---|---|
| 提示词 | 近零,立刻见效 | 写作、格式、总结等通用需求 | 补不上模型不知道的事实 | 几乎为零 |
| RAG | 中等,数天搭建 | 知识问答、客服、制度查询 | 资料库里没有的内容答不了 | 资料库需持续更新 |
| 微调 | 高,数周起步 | 固化输出风格与格式 | 记不住易变的事实 | 每次调整都要重训 |
这张表的读法:先判断你的问题是「表达不对」还是「知识不在场」,前者用提示词,后者上 RAG;只有「怎么调格式和风格都不稳」才轮到微调。微调和 RAG 的详细对比,可看:微调和 RAG 怎么选?知识进屋的两种装修。
三步判断:按成本从低到高问
第一问:是不是提示词没写好?把材料给足、条件写清再试一轮,多数问题到这一步就结束了。第二问:是不是它「不知道」某些信息?是的话上 RAG,把资料接进去。第三问:是不是格式或风格怎么调都不稳定?是的话才考虑微调。三问问完,九成需求不需要动模型。
这套顺序的底层逻辑是先用最低成本的手段验证需求。提示词阶段就能跑通的任务,上了 RAG 和微调纯属浪费投入;反过来,提示词阶段反复失败也提示了真实需求在哪里——缺知识还是缺稳定性,失败方式会告诉你答案。
失效边界:三种方案各自的坑
提示词的坑是高估它:指望一句咒语让模型变出它没有的知识。RAG 的坑是低估维护:资料库三个月不更新,答案就开始过时;检索切分不合理,还会出现「库里明明有却查不到」。微调的坑是选错对象:让它学它学不进去的事实,或者基座模型一升级,全部微调成果推倒重来。三级的失效方式不同,排查时按各自的坑去找。
三方案选型速查
- 顺序:先提示词,再 RAG,最后微调
- 提示词管表达,RAG 管知识,微调管风格与格式
- 微调学不会事实,易变信息交给 RAG
- 三步判断:没写好?不知道?调不稳?逐级升级
三个延伸追问
RAG 和微调可以同时上吗?可以,而且常见。微调负责让输出格式稳定、学会引用资料的表达方式,RAG 负责提供最新事实,两者解决的是不同环节的问题,组合使用不冲突。
手上只有几十条数据,够做微调吗?偏少。风格类任务勉强可以试,知识类任务不如直接建 RAG。更稳妥的顺序是先把提示词写到位,很多时候会发现根本用不着动模型。
基座模型升级后,之前微调的成果还能沿用吗?换基座一般要重做微调,原来的数据可以复用,但训练要重来。这是微调方案里容易被低估的长期成本,选型时就要算进总账。


