跳到主内容

AI 能力边界:这几件事 AI 目前还做不好

2026-10-05 发布 来源:我告诉你AI导航 阅读

知道 AI 能干什么能提高效率,知道它干不好什么能避免损失——后一件事往往更值钱。这篇就按五类拆清楚 AI 目前的硬边界,并告诉你每一类该怎么应对。先给结论:它擅长处理,不擅长负责。

知道 AI 能干什么能提高效率,知道它干不好什么能避免损失——后一件事往往更值钱。这篇就按五类拆清楚 AI 目前的硬边界,并告诉你每一类该怎么应对。先给结论:它擅长处理,不擅长负责。

边界为什么比能力更值得先知道

能力决定你能用它做多少事,边界决定你会不会因为它吃亏。一个会把错误答案讲得头头是道的工具,危险不在「答不出」,而在「答错了你却看不出来」。所以对普通使用者来说,先把大语言模型的短板摸清,比追着学各种新功能更实在。

事实类:它会自信地出错

AI 最典型的失效是「AI 幻觉」:人名、数据、文献、出处,它都可能一本正经地编出来,而且措辞流畅得像真的。原因是它本质在预测「下一个词最可能是什么」,而不是在查一个事实库。凡是涉及事实的答案,没有来源,就默认不可信。

之所以会编造而不是说「不知道」,是因为它的目标是让回答看起来连贯合理,而不是「说真话」。当它没有掌握某个事实时,它往往顺着上下文补一个「看起来像」的答案。所以判断它靠不靠谱,不能看语气,要看有没有可核验的来源。

数字与时效类:两个硬短板

数字上,它经常做不好多步精确计算,因为它是文本模型,不是计算器。涉及金额、比例、多步推导,让它列出公式,或者把数字单独放进表格工具核验,别指望心算。

时效上,它有一个知识截止时间,之后发生的事它不知道;即便能联网搜索,也可能搜到过期的内容。问最新的事,要自己带上时间和来源。

这两个短板有个共同的应对思路:把「它不知道的部分」主动补给它。数字的事,让它把计算过程一步步写出来,你只看每一步对不对;时效的事,把最新的材料先贴给它,再让它基于材料回答。主动喂信息,比指望它自己知道可靠得多。

私密与判断类:它补不上的部分

私密信息这一块,不把资料给它,它就不知道,指望它「自动懂你的业务」不现实。判断与审美这一块,它能给十个方案,但「哪个最适合你」取决于你的具体情况和偏好,这个判断只能你来下。责任这一块,它给的任何建议,出了问题后果都在使用者身上——这一条没有商量余地。

这些短板并非「暂时没做好」,是机制性的:语言模型没有真实世界的体感,也不承担任何后果。理解了这一点,就不会指望它替你拍板。

不过边界也不是一成不变:联网检索、更长的上下文、外部工具调用,都在一点点把「时效」「私密」这类短板往前推。判断时别背死结论,而是盯住一条不变的线——凡是需要「事实准确」和「有人担责」的环节,不管工具多强,都要保留人工核验这一步。

按边界类别看应对

边界类别典型表现应对方法
事实类编造人名、数据、出处要求给来源,点开原文核对
数字类多步计算算错让它列公式,用工具单独核算
时效类不知道截止后发生的事自己带上时间和来源再问
私密类不知道你内部信息先给资料,再要求基于资料回答
判断类给方案但不定夺把「选哪个」留给自己

这张表不是让你「不信任 AI」,而是告诉你每类短板对应一个固定动作。把动作练成习惯,边界就从风险变成了护栏。

把边界变成使用方法

速查:AI 用之前的三问

  • 这答案涉及事实吗?涉及就先找来源。
  • 这答案涉及数字或计算吗?涉及就单独核算。
  • 这决定要有人担责吗?要就自己拍板。

AI 是一个「擅长处理、不擅长负责」的工具。把它用在「出草稿、给选项、做整理」上,把「核实、判断、担责」留给自己,这就是用好它的核心方法。即便是视频生成这类看起来「动手」的任务,边界也一样存在:运镜词能不能被模型准确理解、视频延展能把片子续到哪一步、抽卡背后的次数成本,都是「生成能力强但结果不可控」的具体注脚。看清边界再上手,比闷头试错省事得多。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]