跳到主内容

智能体的人设与回复逻辑怎么写?让机器人不跑偏

2026-10-17 发布 来源:我告诉你AI导航 阅读

AI 智能体稳不稳定,八成取决于人设与回复逻辑怎么写。人设不是给机器人起个名字、定个性格那么简单,而是把身份、能力范围、回复格式、拒答边界写成明确规则,让它在各种提问面前都有章可循。写得模糊,机器人就用模型默认的方式自由发挥,跑偏是...

AI 智能体稳不稳定,八成取决于人设与回复逻辑怎么写。人设不是给机器人起个名字、定个性格那么简单,而是把身份、能力范围、回复格式、拒答边界写成明确规则,让它在各种提问面前都有章可循。写得模糊,机器人就用模型默认的方式自由发挥,跑偏是必然结果。

人设要写全的四个要素

一份够用的人设包含四块。身份与语气:它是谁、服务谁、用什么口吻说话,比如「你是某品牌售后助手,语气亲切简洁,服务购买过产品的用户」。能力清单:明确列出它能处理的问题类型,清单之外怎么答也写明,这让模型面对超出范围的问题时不会硬答。回复格式:答案长度、是否分点、要不要先给结论,格式固定后用户预期稳定,排查问题也容易。知识与依据:回答以知识库为准还是允许通用知识,涉及产品参数、价格这类易变信息,必须写明「以知识库或官方页面为准」。四要素写完通读一遍,凡是「视情况而定」的表述都改成具体规则,模糊地带就是跑偏的高发区。

回复逻辑的分支设计

回复逻辑是把「遇到什么问题走什么路径」写成规则。常见的分支结构:问题落在知识库范围内,先检索知识库,检索到就基于内容回答并附依据;涉及实时信息(库存、订单状态、价格),调用对应工具或插件查询,不凭记忆作答;属于闲聊或情感表达,走轻量回应,不占用工具资源;超出能力范围,直接说明并给出转人工或替代渠道。每个分支的优先级也要写,尤其「知识库与通用知识冲突时听谁的」这类问题——通常应规定以知识库为准。写分支逻辑时用一个技巧:想象十个最典型的用户提问,逐个问「按我的规则它会走哪条路」,走不通的分支就是规则漏洞。

拒答边界的明示写法

不跑偏的另一半是「该拒的坚决拒」。人设里要写清三类边界:超出业务范围的(竞品比较、政策解读、与产品无关的咨询),用固定话术礼貌说明并引导到正确渠道;敏感或高风险话题(涉及他人隐私、医疗法律判断、投诉升级),明确不展开、给官方通道;模型不确定的内容,规定它承认不确定,而不是编一个听起来合理的答案。拒答话术本身也值得花心思写:生硬的「无法回答」伤体验,「这个问题我帮不了,您可以……」既守住边界又留了出路。边界写得越具体,机器人越不容易被诱导着说出不该说的话。

用测试问题集校准人设

人设写完必须用一组问题实测,分三类出题:正常问题(业务范围内的典型提问,看答案是否符合格式与事实);变体问题(换个说法、带错别字、一次问两件事,看它是否还能正确路由);诱导问题(故意把话题带偏、要求它假装别的身份、追问敏感内容,看边界是否守住)。每类至少十道,跑一遍记录所有跑偏案例。跑偏的原因通常能归到人设的某一条缺失或模糊,把修正直接写回规则里,再跑一轮。三轮之内还反复出现同类跑偏,说明规则之间有冲突,重新通读排一次序。这个校准循环没有捷径,是多轮打磨出来的。

在腾讯元器里的配置与迭代

以腾讯元器为代表的智能体平台,把人设提示与插件、知识库分开配置,改人设不影响工具连接,迭代起来比较顺手,具体配置入口以平台当前版本为准。实操节奏建议:人设改动一次只改一处,改完立刻用测试问题集回归一遍,确保新改动没有破坏原有行为;每次跑偏案例及其修正都记进一份变更日志,一个月后回看,哪类问题反复出现就针对性补强那部分规则。人设不是写完就完,它是随业务变化持续维护的文档——产品更新了、话术调整了、新风险出现了,规则都要跟着走一遍。

怎么写人设才能让智能体稳定不跑偏?

  • 人设写得越长越好吗?:不是。规则贵在明确而非冗长,互相冲突的长规则反而引发混乱,每条规则都要具体、可执行、不与其他条目打架。
  • 知识库和提示词冲突时听谁的?:在提示词里明确优先级,通常知识库优先于模型的通用知识,没有明示优先级时模型的选择会不稳定。
  • 多久需要回头修订一次人设?:业务或产品有变化时随时改,没有变化也建议每月跑一遍测试问题集,行为漂移是渐进的,定期回归能及早发现。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]