AI 生成视频出的是一段会动的画面,AI 造出的 3D 是一个能转着看的模型——但它是个静止的雕塑,人物不会抬手、小狗不会摇尾巴。让 3D 模型动起来,形状随时间连续变化,这就是 4D 生成要做的事:在 3D 的长宽高之外,再加一条时间轴。这篇讲清 4D 生成的机制:多出来的时间维难在哪、形状随动作变化靠什么实现、现在有哪几条生成路线。静态的 3D 模型怎么从文字生成,文生 3D一篇讲过流程,这篇接着往「动」上讲。
多出来的时间轴难在哪
4D 的难点不在把 3D 做出来,在让每一帧的 3D 互相接得上,行话叫时间一致性。最笨的办法是逐帧独立生成 3D 模型,第一帧一个姿势、第二帧再生成一个,结果每一帧的细节各长各的:这一帧衣褶在左边,下一帧跑到了右边,连起来放就像画面在闪烁融化——几何在抖,贴图也在抖。静态 3D 只求一个形状好看,4D 要求几百帧形状彼此对齐、纹理连续、光照稳定,约束一下子多了一个维度。这也是 4D 生成至今比文生视频更难出成果的核心原因:视频只要画面动得像,4D 还要每一帧都是规整的、可转视角的三维结构。
形状随动作变化靠什么实现
主流做法不在每一帧都重造一个模型,而是「一套几何加一套变形规则」:先有一个基准 3D 形状,再用变形场描述每个点随时间怎么移动——某时刻、空间某一点该偏移到哪里,由网络给出答案。这样几百帧共享同一套基础几何,抖动天然就小。变形的依据可以来自动作捕捉数据,也可以来自一段参考视频:把视频里人的运动轨迹提取出来,套到 3D 模型上,思路与动作迁移一脉相承,动作迁移一篇讲的正是把动作搬到新载体上的处理办法。表示层面,动态场景的存储与渲染常沿用 NeRF 或高斯的框架,只是每个参数都挂上时间变量,两种表示的差别见NeRF 与 3D 高斯对比一篇。
三条生成路线各走各的路
眼下能归出三条路。第一条是先静后动:先用文生 3D 造出静态模型,再套驱动数据让它动,可控性强,动作来自现成素材,缺点是只能做模型「自己动」,做不了模型与环境的互动。第二条是视频反推:先用视频生成模型造出一段多视角或环绕视角的视频,再从视频重建出带时间的 3D 结构,画面想象力来自视频模型,缺点是重建环节容易把视频里的瑕疵放大。第三条是端到端直接生成:模型直接输出随时间变化的 3D 表示,一步到位,研究进展快但成熟度还低。不管哪条路,多视角信息都是刚需——生成出的视频如果缺视角,重建环节就要靠补视角来凑,视频延展一篇讲的时间维上的续拍,在这条链路里是常用的凑料手段。
| 路线 | 怎么做 | 长处 | 短板 |
|---|---|---|---|
| 先静后动 | 先用文生 3D 造静态模型,再套驱动数据让它动 | 可控性强,动作来自现成素材 | 只能做模型自己动,做不了模型与环境的互动 |
| 视频反推 | 先用视频模型造出多视角或环绕视角的视频,再重建出带时间的 3D 结构 | 画面想象力来自视频模型 | 重建环节容易把视频里的瑕疵放大 |
| 端到端直接生成 | 模型直接输出随时间变化的 3D 表示 | 一步到位 | 研究进展快,成熟度还低 |
离好用的动态资产还有多远
现状可以概括成三句话。短小的单主体动作——一个角色走几步、转个身——已经能出可用结果,游戏 demo、虚拟展台的轻量动态素材开始用起来。长时序、多主体、复杂交互的场景还差得远:人物拿起桌上的杯子这类物体交互,变形场很难表达对。落到工具层面,效果参差,出片前的筛选成本不低:同一个描述多跑几次,挑一致性最稳的一条。想评估现在能做到什么程度,可以让豆包整理近期 4D 生成工具的功能清单与输出时长上限,再用智谱清言查公开演示案例里多视角一致性做得如何,对照自己的用途决定是观望还是先用起来。
4D 生成速查
- 4D 等于 3D 加时间轴:每一帧都是完整三维结构,且帧帧接得上
- 核心难点是时间一致性:逐帧独立生成会几何抖、贴图闪
- 主流做法:一套基准几何加变形场,几百帧共享基础形状
- 三条路线:先静后动、视频反推、端到端,成熟度依次递减
- 现状:单主体短动作可用,长时序与物体交互仍是难题
再多说几句4D生成
- 4D 生成和视频生成是一回事吗?:不同。视频生成输出的是固定视角的像素画面,看的人不能换个角度;4D 生成输出的是三维结构,任何视角都能渲染。前者像一段录像,后者像一个会动的模型。
- 做出来的 4D 资产能放进游戏引擎吗?:经过转换可以。生成结果多是隐式或高斯表示,要导出成引擎常用的网格加骨骼格式,转换环节有损耗,复杂场景目前还进不了实时引擎,轻量单主体可以。
- 参考视频驱动的 4D,动作用得完吗?:单主体的走路、挥手、舞蹈这类动作库已经比较丰富,手部细节和面部微表情的驱动还粗糙。要精细表演,现阶段仍要靠专业动捕数据来补。


