跳到主内容

生成式 AI 能做什么、不能做什么?一张清单说清楚

2026-10-05 发布 来源:我告诉你AI导航 阅读

对生成式 AI 的认知容易走两个极端:要么觉得它无所不能,要么觉得它只是个玩具。真实边界在中间——它擅长处理和生成语言类内容,不擅长需要事实、判断与责任的事情。一张清单就能把这条线划清楚。

对生成式 AI 的认知容易走两个极端:要么觉得它无所不能,要么觉得它只是个玩具。真实边界在中间——它擅长处理和生成语言类内容,不擅长需要事实、判断与责任的事情。一张清单就能把这条线划清楚。

它擅长做的六件事

  • 文字处理:写初稿、改写、总结、翻译、润色,节奏比从零开始快得多。
  • 信息整理:把散乱内容归纳成结构化要点、表格、清单。
  • 头脑风暴:一次给出几十个方向,帮你打开思路。
  • 格式转换:把同一段话改成邮件、通知、文案等不同文体。
  • 解释说明:用通俗的话讲清一个概念,换不同角度再讲一遍。
  • 代码辅助:写片段、解释代码、定位报错。

这六件事的共同点是「信息经过它处理,但最终要有人确认」。它们都属于生成式 AI这类技术的舒适区,也是大语言模型被用得最多的地方。

想让这六件事真正好用,关键在「给约束」。头脑风暴如果只让它「给点想法」,出来的东西往往很空;改成「给 20 个不重复、适合上班族副业的方向,每个不超过 10 个字」,质量立刻不一样。格式转换同理,先给它一段范文,再说「照这个语气和结构改写」,比只丢一句「改成邮件」稳得多。

它做不好的四件事

反过来,有四类事它经常掉链子:

  • 确保事实准确:它可能一本正经地说错,这叫「AI 幻觉」,查事实必须自己核实。
  • 判断对错与价值:它不承担判断责任,涉及专业资质与后果的决策不能全交给它。
  • 掌握最新和私密信息:除非你喂给它,否则它不知道昨天的新闻和你公司内部的数据。
  • 替代人的审美与创意:它能给方案,但「哪个更合适」要你来定。

什么情况下它最容易失效

生成式 AI 的失效通常不是「答不上来」,而是「答得很自信但你查不出来」。最容易翻车的场景有三个:一是问具体数字、日期、引用,它可能编造;二是问训练截止之后才发生的事;三是让它做多步精确计算,它本质在预测下一个词,不是计算器。这三类场景下,只要答案没被独立核验,就不能当结论用。

还有一个隐蔽的坑:把内部资料丢给它之后,别默认它会「记住并保密」。给不给、给多少、给完之后怎么处理,取决于具体产品的设置,需以实际入口说明为准。

还要留意一种隐蔽漂移:让它改写或总结时,它可能在「为了通顺」的过程中把关键事实悄悄改掉,比如把日期挪位、把金额四舍五入。所以凡是拿出去用的内容,改完都要回头对一遍原文,重点盯数字、人名和结论。

按任务看分工

场景正确做法判断标准
写一份会议纪要初稿让它生成,你补充事实和决定人名、数字、结论已逐条核对
翻译一段产品说明让它先翻,你通读一遍再交付术语、数字、单位没有走样
给一个方案提思路让它列十个方向,你来选最终方向符合你的目标和约束
查一个事实或数据让它给来源,你点开原文核实能找到可验证的原始出处

表格里的第三列就是你的「把关清单」:每一行都有人做最后确认,AI 才真正变成助手而不是风险源。

这份清单会随版本更新而变化:今天的短板,可能在后续版本里被补上,比如联网检索和更长的上下文。判断时不执着于「某条能不能做」,而看它是否仍需要「人来做最后确认」——需要,就守住把关门;不需要,就放心交给它。

一条能避开大多数坑的原则

速查:用生成式 AI 的分工口诀

  • 让它干「处理信息」的活:初稿、整理、翻译、归纳。
  • 你自己干「判断和负责」的活:核实、取舍、拍板、担责。
  • 涉及事实、数字、时效,答案没有来源就默认不可信。
  • 一句话:它出草稿,你把关。

把 AI 当成「效率很高的助手」,而不是「不会出错的专家」,这条原则能避开绝大多数坑。它擅长的是把已有信息加工得更快,不是替你承担后果。想清楚这一点,再看手机相机里的计算摄影、手表上的腕上 AI这类具体应用,就会发现它们都遵循同一个逻辑:AI 做处理,人做确认。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]