听豆包用语音回答问题时,声音自然得像真人在身边说话。这段声音的诞生走的是两段式流水线:前一段由声学模型规划「该发出什么声音」,后一段由声码器把规划变成真正的波形。两个部件接力,才有了你耳朵里那句话。
第一段:声学模型在算什么
声学模型的输入是文字和韵律信息(重音、停顿、语调怎么安排,参考韵律),输出的还不是声音,而是一份「声音说明书」:每一小段时间里,音高多高、音色什么质地、能量多强。这份说明书通常是一帧帧的特征序列,类似把一句话拆成几十毫秒一格的施工图。它不直接出声,但把每个时刻该怎么发声都定了下来。
第二段:声码器把图纸变声波
声码器拿到特征序列,逐帧生成真实的音频波形——就是扬声器里那些上下跳动的气压曲线。这一步看着机械,其实最难:人耳对声音的瑕疵极其敏感,波形差一点,听感就发闷、发沙或有金属味。早年声码器靠信号处理公式,声音带「电子味」;如今用神经网络生成,质感大幅接近真人,AI 配音能上得了台面,声码器的升级功不可没。
类比:作曲与演奏,以及它失灵的地方
把两段式想成作曲家和演奏家:作曲家写出乐谱(声学特征),演奏家把纸面音符变成真实琴声(波形)。类比失灵之处在于:演奏家拿到谱子可以自由发挥,声码器却必须忠实执行说明书,发挥空间很小;而且它的「演奏」以毫秒为单位连续进行,容不得半拍犹豫。分工由此清晰:情绪风格归前段,音质还原归后段,哪段出问题,毛病特征也不同。
毛病的归属,一听便知
读错字、断句怪、情绪平——找前段,是文本分析和韵律规划的事;声音发闷、有杂音、尾音破碎——找后段,是声码器还原不力。分辨归属能帮你判断:换音色要动前段的音色条件,追求清晰度则看后段配置。语音合成之外,识别方向把这条链路反过来走,字和音怎么对应,见语音识别里的对齐;对话系统里「该不该开始听」,见端点检测与唤醒词检测;给视频里的人配口型则是另一条路,见唇形驱动。
毛病先分家,再决定动前段还是后段。
| 听到或想要 | 归哪一段 | 具体部件 | 怎么调 |
|---|---|---|---|
| 字读错、断句怪 | 前段 | 文本分析 | 从文本分析查起 |
| 情绪平淡没起伏 | 前段 | 韵律规划 | 动韵律参数 |
| 声音发闷、有杂音、尾音破碎 | 后段 | 声码器还原 | 看后段配置 |
| 想换音色 | 前段 | 音色条件 | 动前段的音色条件 |
| 想要更清晰 | 后段 | 声码器 | 看后段配置 |
顺带把「为什么不同工具的 AI 声听感不同」说透。同样是两段式,前段的韵律模型决定了说话的「性格」,后段的声码器决定了声音的「质感」:有的工具声音亮,是声码器高频还原好;有的工具断句舒服,是韵律模型学得好。你偏好哪个,本质是在挑这两段的长板组合。还有一个实用判断:试音时别只试一句问候语,拿一段长句、一段带数字的句子、一段疑问句各试一遍,三关都过才算真的稳,毕竟你实际要配的从来不是「你好」。另外注意采样率:常见的 22050 与 44100 赫兹,听语音差别不大,配乐类内容里高采样率的优势就显出来了。录屏对照着试,比凭印象挑靠谱得多。
故障速查
- 字读错、断句怪:前段文本分析问题
- 情绪平淡没起伏:前段韵律规划问题
- 声音闷、沙、有金属味:后段声码器问题
- 长句越读越飘:两段衔接的误差累积
一句话带走:先写谱后演奏,情绪归作曲,音质归演奏,毛病先分家再排查。
声学模型和声码器快问快答三则
- 两段能合并成一段吗?:可以,端到端方案直接从文字出波形,但两段式各自优化更灵活,工业界两者并存。
- 换一个音色要重训整个系统吗?:多数方案不必,音色作为条件输入前段即可,少量样本就能得到接近的声线。
- 为什么电话音质的 AI 声更逼真?:带宽窄、细节少,声码器需要还原的信息少,出错的余地也小,反而显得自然。


