一张图几秒出,一段视频要等好几分钟,即梦AI、可灵这两类产品背后,其实是两套不同的模型。先说结论:按产出物选,要静态画面选文生图,要连续动作选文生视频;两者的模型结构、训练难度、提示词写法都不一样,不能拿同一套经验硬套。
先说结论:按产出物选
需求单里只有海报、插画、配图,文生图是顺手的选择,出得快、改得快、单价低。需求单里出现镜头、动作、时长,就必须上文生视频,图动起来的工程量和花费完全是另一个量级。先定产出物,再看预算,顺序别反。
模型结构的分野
文生图模型学的是静态画面的分布:给一段文字,从噪声里逐步「去噪」出一张图,整张图同时成形。文生视频模型在此基础上多了时间轴,既要每帧画面合理,又要帧与帧之间连贯,等于同时学空间和时间两套规律。
这也解释了为什么视频模型普遍从图像模型起步:先学会画一张好图,再学让图动起来。一步跨进视频的模型,画面质量往往先输一截。
| 维度 | 文生图 | 文生视频 |
|---|---|---|
| 学的是什么 | 静态画面的分布 | 空间与时间两套规律 |
| 生成方式 | 从噪声里逐步去噪,整张图同时成形 | 逐帧生成,还要维持帧与帧连贯 |
| 产物 | 固定分辨率位图,可缩放可裁切 | 按时长计的帧序列,帧率与编码要提前定 |
| 返工成本 | 出得快、改得快、单价低 | 参数定错一档,重跑就是真金白银 |
产物格式也是分野的一部分。文生图产出固定分辨率的位图,后期可缩放可裁切;文生视频产出按时长计的帧序列,分辨率、帧率、编码格式都要在生成前想好,返工成本远高于图片。所以视频生成的需求确认更讲究,参数定错一档,重跑就是真金白银。
时间维度的额外负担
时间维度带来的不只是难度,还有消耗。视频的 token 和算力开销随帧数增长,几秒钟的片段背后是上百帧的生成与筛选。训练侧同理,视频数据的体量、存储和清洗成本都远高于图片。所以视频生成的单价高、排队久,不是刻意抬价,是账本摆在那里。
可带走的判断:能用图讲清的事,不必上视频。一段展示产品外观的内容,几张图轮播可能就够。
混合用法正在流行:先用文生图把关键画面定稿,确认构图和风格后,再拿定稿图驱动文生视频。图稿阶段改动便宜,视频阶段只负责让画面动起来,预算花在刀刃上。不少商业短片已经按这个流程走,先把分镜画成图,再逐镜生成视频。
提示词写法有何不同
文生图提示词围绕一张画面组织:主体、风格、构图、光线,一次交代完。文生视频提示词要多一层时间语言:镜头怎么动、人物做什么动作、节奏多快,还要克制——写太多动作,模型顾此失彼,画面质量反而下滑。图侧经验可以迁移到改图话题,见图生图和局部重绘差在哪;数据侧的差异背景,看多模态模型的训练数据从哪来;声音侧的两条对应路线,见声音克隆和音色转换有什么区别。
负面提示的用法两边也不同。图侧写「不要文字、不要水印」效果直接;视频侧还要堵时间维度的漏洞,比如「不要镜头突切、不要人物变形」,把常见的动态翻车点提前堵住。提示词在手里的版本可以攒成模板,图一套、视频一套,分开维护。
文生图文生视频选择表
- 静态产出:文生图,快改快出。
- 动态叙事:文生视频,预留等待与预算。
- 拿不准:先出图定稿,再驱动成视频。
末句:图是帧的底子,图稳了视频才有得救。
关于文生图文生视频,问得最多的三个
- 文生视频模型能直接出长片吗?:目前多在几秒到十几秒量级,长片靠分段生成再拼接,衔接处的一致性是难点。
- 图侧提示词经验能直接搬吗?:风格、构图部分通用,动作与镜头语言要重新学,写法侧重完全不同。
- 哪个方向进步更快?:两者互为台阶,图侧的每轮升级都会先反馈到视频侧的帧质量上。


