AI基础百科

继续预训练和监督微调有什么区别？

继续预训练和监督微调有什么区别？补常识选续训，教规矩选微调，数据形态与风险结构都不同，顺序上先续训再微调，动手前先分清续训与微调。

SFT 和 RLHF 差在哪？教答案和练偏好

SFT 和 RLHF 差在哪？一个教标准答案，一个练回答偏好，数据形态与成本结构都不一样，先 SFT 后 RLHF，答案归 SFT，偏好归 ...

DPO 和 PPO 差在哪？两条强化学习的路

DPO 和 PPO 差在哪？DPO 依赖偏好对直接优化，PPO 要额外训奖励模型，稳定性与门槛都不同，求稳选轻的，精细活才值得请出 PPO。

微调框架是什么？不用手写训练循环

微调框架把手写训练循环的脏活打包，配置、数据、训练、评估、导出一条龙，差异在易用性与生态，省心与否全看微调框架。

LoRA 的秩取大取小差在哪？参数选择的账

LoRA 的秩取大取小差在哪？秩小省资源、改动轻，秩大表达强、风险高，按改动幅度定档，参数这笔账根子在 LoRA...

微调和 RAG 怎么选？知识进屋的两种装修

微调和 RAG 怎么选？知识常变选检索，知识定型选微调，更新成本与出错方式差得远，两种装修各管一段，知识进屋前先...

微调和提示词工程怎么选？改模型还是改问法

微调和提示词工程怎么选？先试问法再谈改模型，问法改不动了才动参数，成本与见效速度完全不同，先问能不能靠提示词解决...

「模型开源等于代码开源」错在哪？