AI 优化：调提示词和调模型怎么选

先说判断：多数「AI 效果不好」的问题，改提示词就能解决，只有少数需要动模型。分界线不在预算，而在问题类型——模型是「不知道」、「知道但没说对」，还是「压根做不到」。这三类对应三种解法，成本差一个量级；顺序反了，常见的结果是花几周准备训练，效果还不如改两句指令。

先给错误分类，再决定花钱

拿十条真实输入跑一遍，把每次出错记成一行：输入是什么、错在哪、属于哪一类。输出格式不对、漏字段、语气跑偏、答得太长，归到「没说对」；答得头头是道，却引用了不存在的条款、不认识你们内部的产品代号，归到「不知道」；要求它稳定执行一套多步业务规则、或者做精确到小数后四位的计算，归到「做不到」。

分类要看分布，不看单条。十次里八次是格式问题，先改提示词；八次是事实错误，去补资料和检索；八次是同一个复杂规则算错，才考虑动模型。混在一起改，最大的损失是无法归因：你不知道是哪一步起了作用，下次遇到同类问题还是从零开始。

调提示词的四个动作

起手是写输出契约。不要只说「输出 JSON」，要写清字段名、类型、长度和空值规则，例如：输出 JSON，字段为 title（字符串，30 字以内）、summary（字符串，120 字以内）、tags（字符串数组，3 到 5 个），信息缺失填 null，不要输出任何解释文字。字段一旦定死，格式问题基本消失。

再给两个示例，一个正常输入，一个信息不全的边界输入。示例的作用不是教它写作风格，而是告诉它遇到缺信息时怎么处理——追问、留空，还是按默认值补齐。多数「编造」都发生在没有规定这条路径的时候。

把隐含要求写成检查清单，让它先逐条回答「是/否」，再给正文。清单控制在五条以内，比如：是否包含全部三个字段、是否出现未在输入中出现的数字、是否超过字数上限。超过五条它会开始漏项，这时该拆任务，不该继续加要求。

一次只改一处，并给每次改动编号。措辞、示例、格式三件事一起改，结果变好了你不知道是哪一件的功劳；变差了更不知道该退回哪一版。留一个文本文件记版本，比记在脑子里可靠。

提示词到顶的三个信号

信号一：连续五个版本都错在同一个位置。这说明问题不在措辞，而在这项要求本身超出了指令能约束的范围。信号二：错误率随输入变长明显上升。上下文里信息一多，模型抓重点的能力会下降，这时候该做的是拆分输入或先检索，不是把提示词写得更长。

信号三：提示词膨胀到几千字，里面塞满内部术语和固定规则。此时每次调用都在为这段说明付 token，维护成本也已经接近做一次微调。比较稳的处理是把这部分说明外置成可检索的资料，每次只带相关的那几段进去。

动模型之前要算的三笔账

数据账：微调需要「输入 + 期望输出」的成对样本，覆盖主要分支和边界情况，几十条通常不够。样本还得清洗、去重、统一口径，这部分工作量常常超过训练本身。

评测账：没有固定评测集，你无法判断新版本是真变好还是碰巧。建议先攒 20 到 30 条真实输入，人工定好标准答案，每次改动都跑一遍。这笔投入在做微调之前就该花，因为它是唯一能证明改动有效的尺子。

维护账：底座模型升级、业务规则调整、数据分布变化，任何一项都会让旧权重失效。这条成本不在训练那天，而在之后的每个季度。微调和检索各自适合装什么，微调和 RAG 怎么分工讲得更细。

按场景走的四列对照

末行值得单独说：需要实时库存、订单状态、权限校验的任务，靠调模型永远解决不了。把数据接进来，让模型只做理解和表述，比换一个更大的模型有效。真要换模型，也要先分清稠密结构和 MoE 结构在成本上的差别，稠密模型和 MoE 怎么选有对照；自部署还是走 API，则要先算清运维人力，权重和 API 的取舍里列出了几条硬指标。

选型速查

• 先分类：不知道 / 没说对 / 做不到，三类三种解法
• 格式和语气问题，先改契约和示例，别急着训练
• 提示词超过两千字，就该考虑外置成资料
• 没有二十条以上固定评测样本，不要开始微调
• 实时数据、权限、审计类需求，属于工程问题

三个经常被问到的细节

问：提示词越长，效果会越差吗？ 不一定，但互相矛盾的约束一定会拖后腿。把要求分成硬约束和偏好两层，硬约束控制在五条内，偏好用「优先」「尽量」表述，冲突时它才知道听谁的。

问：换成更贵的模型，是不是就不用调提示词了？ 不成立。更强的模型对含混指令的容忍度更高，但字段定义、空值规则、边界处理这些内容，任何模型都不会替你想。换模型能减少理解偏差，减少不了「你没说」。

问：小团队没有标注数据，能不能先微调再补数据？ 顺序反了。没有评测集，你无法判断微调后是变好还是变差，也没法向业务方解释效果波动。先用检索加固定输出契约把流程跑顺，等积累了稳定的错误样本，再考虑训练。