多模态 AI 听起来什么都能干,实际拆开看,几项能力的成熟度差别很大。按图生文、图生图、视频理解、语音四个维度逐项过一遍,每个维度给出能、勉强、不能的判断,只谈实测时能拿到的水平,不引具体跑分。
图生文:能,但有条件
识别图片内容、读出图里的文字、根据截图找问题,这类任务现在可靠,适合做「把图片信息转成可处理文本」的活:整理截图里的表格、识别票据信息、把流程图转成步骤清单。判断标准是字号和清晰度:常见字号的印刷体能读准;小字、手写、模糊照片就打折。图里的数字最容易认错,重要数据必须人工过一眼,这条没有例外。
实测里有个稳定的规律:它对「图里有什么」的判断,好于对「图里数字是什么」的判断。前者是场景理解,后者是逐字符识别,出错方式不同——场景理解错得离谱,一眼能看出来;逐字符识别错得隐蔽,一个数字错一位,从语气上完全看不出异常,这就是必须人工核对的原因。
图生图:勉强,受控任务可用
以图为基础的生成和编辑处在勉强够用的水平。风格转换、局部改写、按参考图出变体,这类受控任务能出可用的结果;但指望它精确执行构图指令——「把人往左移、背景换成黄昏、光线保持一致」——经常要反复重试。判断标准:一次改的东西越少越可控,一次只下一个改动指令;多约束同时给,失败率明显上升。
视频理解:能找片段,不能懂逻辑
多数所谓视频理解,实际是按帧抽图再分析。它能告诉你第 30 秒出现了什么,但很难说清这三分钟讲了什么逻辑。判断是:找片段能,段落总结勉强,跨时段的因果推理不能。在长视频里定位关键时刻可以用,替你看完并输出结论要谨慎,关键内容必须回看原片。
抽帧的原理也解释了另一个现象:视频越长,总结越不可靠。抽帧有间隔,间隔里的动作就丢了;前后帧的关系靠模型补全,补全的部分就是出错的部分。所以长视频宁可分段送进去,每段单独拿结论再自己拼,也别指望一次性的整片总结。
语音:转写能,听懂话外音不能
把录音转成文字已经相当稳定,带口音、多人说话也能处理。但「听懂言外之意」还很勉强——情绪、暗示、反话经常判错。把它当速记员用可靠,当会议分析师用,结论要自己复核。
多人说话的场景要单独说一句:转写能分清「谁在什么时候说了什么」,但说话人身份的对应要靠人工确认,A 和 B 标反了,后面的所有结论都会跟着错。重要会议的转写稿,先抽两分钟核对说话人标签,再往下用。
| 能力维度 | 能 / 勉强 / 不能 | 使用判断标准 |
|---|---|---|
| 图生文 | 能:读图、识字、截图转文本;勉强:小字与手写 | 数字与专有名词必须核对 |
| 图生图 | 勉强:风格转换、局部改写;不能:多约束精确构图 | 一次只下一个改动指令 |
| 视频理解 | 能:定位片段;勉强:段落总结;不能:跨时段推理 | 关键结论回看原片 |
| 语音 | 能:转写;勉强:情绪与语气判断 | 转写稿人工抽校 |
用在哪最划算
把多模态用在信息搬运上:图转字、音转字,这类最稳,省下的是纯体力时间。别指望它做跨模态的推理判断;凡是转出来的数字和专有名词都要核对。一个实用组合是先搬运后精读:先用它把图片、录音批量转成文字,再用文本模型做分析和整理,每一步都落在能力可靠的那一段。挑产品时留意,宣传页的多模态能力和实际接入的模型可能不是一回事,认准官方入口更省心,套壳产品常拿多模态当卖点。
多模态能力速查
- 图生文、语音转写最稳,适合当信息搬运工
- 视频理解是抽帧分析,找片段可以,做总结要回原片
- 图生图一次一个指令,多约束必然翻车率高
- 所有转出的数字和专有名词都要核对
三个常被问到的问题
- 同一个模型看图为什么有时准有时错?输入图像的分辨率和压缩率影响很大。压缩过的截图先换高清原图再试,很多「时好时坏」出在输入端,根源不在模型。
- 长视频直接丢进去能出总结吗?看产品是否支持长视频输入。即便支持,底层也是抽帧分析,用它的总结前先抽查几个它给的时间点,对得上再用。
- 生成的图片能直接商用吗?以各家服务协议为准。授权范围、是否允许商用、版权归属逐条确认,重要项目在投入前把条款问清。
想再往深一层:能力差异的根源之一在模型参数量,规模决定一部分上限;图像和视频生成的等待时间看生成速度;套壳应用的识别方法帮你避开夸大宣传;多模态功能在免费版和付费版里的开放程度也常常不同,用之前对齐预期。


