一条讲摄影构图的帖子发出去十分钟，阅读量停在 3。后台没有违规提示，也没有可点的申诉入口，你只能猜。多数平台上，这类「无声消失」背后是一套 AI 审核在跑：模型先判，人再复核，规则由平台定。它拦得住明显的违规，也会误伤正常的表达。下面按环节拆开，讲清哪一步是机器在做，哪一步机器做不了。
审核是一条流水线，不是一道闸门
平台每天的内容量以百万条计，逐条人工看不可能。通行做法是分层：机器先过一遍，把明显违规的拦下、把不确定的挑出来，人只看被挑出来的那部分。这一层的目标是少漏，不是不错。
理解这个目标，很多体验就说得通了。你写的一段正常讨论被拦，不是审核认定你有问题，而是它宁可错拦，也不愿放过。误伤是这套设计里被接受的成本。
五个环节，各自停在哪一步
把审核拆成五段看，边界比宣传里清楚：
| 环节 | 能做 | 不能做 |
|---|---|---|
| 词表与规则匹配 | 毫秒级命中敏感词、外链、联系方式，直接拦下或转人工 | 判断这个词在句子里是引用、反讽还是专业术语 |
| 语义模型判断 | 结合上下文识别变体、谐音、暗语，给出违规类别和概率 | 说清为什么算违规；对刚出现的新梗几乎无感 |
| 图像与视频识别 | 识别违规画面、画面里的文字、特定场景与人物 | 判断画面的新闻价值、艺术表达，以及是否属于必要报道 |
| 账号行为特征 | 按发布频率、历史记录、互动模式给出风险分 | 认定这个人是不是营销号，它只能给概率 |
| 人工复核 | 处理边界样本、受理申诉、下最终处置 | 覆盖全量内容，成本不允许 |
前三行是机器的主场，第四行是机器的推断，第五行才是解释权所在。很多人以为被拦就是「AI 判了」，实际上多数平台的最终处置仍由人做出，只是人看到的材料已经被机器筛过一遍。
误判多，是因为目标定在少漏
审核模型调的是一个阈值。阈值压低，漏掉的少，误伤的多；阈值抬高，误伤少，漏的多。平台面对监管和舆论压力，通常把阈值压在偏严的一侧。这就是为什么专业讨论、条文引用、术语密集的科普特别容易被拦——它们的词面特征和违规内容高度重叠。
衡量这类系统不能只看一个数。只看拦截总量，会把「什么都拦」当成效果好；把误拦率和漏放率分开统计，才知道它在哪个方向偏。这个取舍和模型评估指标里讲的精确率与召回率是同一件事。
它读不懂语境，这是结构性的
反讽、引用、自嘲、行业黑话，这几类表达对模型来说都很难。判断一句话是不是在骂人，需要知道说话人是谁、说给谁听、前后发生了什么。审核模型拿到的往往只有一条内容加少量上下文。
还有一层偏差来自训练数据。某些群体的自我描述、某些地区的方言表达，在数据里出现得少，模型对它们的判断就更粗。这类问题不是调参能解决的，属于AI 偏见的范畴。图像那一层同理：识别画面里有什么，和判断这个画面该不该发，是两件事，可对照计算机视觉的能力范围。
审核系统做不到的四件事
第一，给不出可复核的理由。你收到的通知通常是「违反社区规范」，而不是第几条、因为你写了哪个词。第二，理解不了刚出现的表达，新梗从出现到被模型认识，中间有窗口期。第三，分不清创作与违规，小说里的犯罪描写、纪录片里的冲突画面，和真实宣扬是两回事。第四，替代不了平台的规则解释权，规则怎么定、怎么改，由平台和监管决定，模型只是执行的一环。
这四条决定了申诉的价值。申诉不是让模型重新判一次，是让人看到模型看不到的背景。
创作者能做的三件事
不碰硬红线。违法、诈骗、侵权这类内容任何平台都不会放过，绕不过去。表达尽量规范，专业内容把术语写全、把引用出处标出来，能显著降低误判概率。被误判就走申诉，保留原文截图和发布时间，比在评论区抱怨有效得多。
标识这件事也常被漏掉：AI 生成的内容要按平台要求标识。这既是规则要求，也是审核会关注的一项。
速查：被拦之后先做四件事
- 看通知里写的是哪一类违规
- 把原文和发布时间截图存好
- 走站内申诉，别在公开区反复发
- 同一段内容改写后再试，别原样重发
- AI 生成的内容按平台要求标识
