对着智能音箱喊一声「今天天气怎么样」,一两秒后就听到回答。这一两秒看着短,里面其实跑完了一整条流水线:AI 设备要先听见你、听懂你、想出答案、再把答案说出来——四个环节像接力赛一样依次交棒,任何一棒慢了,整体体验就拖沓。这篇把一问一答拆成几步,看每一步花多少时间、时间都花在哪,读完你会明白为什么有的指令秒回、有的问题要等,响应变慢时也知道该往哪查;设备在待机中怎么第一时间听见你,待机唤醒一篇拆过机制,这里从被唤醒那一刻接着讲。
一次问答其实是四段接力
先把整条链路摆出来。第一段唤醒:设备确认有人在叫它,从待机状态醒来,通常几十到几百毫秒。第二段识别:把你说的话转成文字,专业上叫语音识别,一段两三秒的指令通常几百毫秒内转完。第三段理解与决策:拿到文字后判断你想干什么——是执行一条指令还是回答一个问题,简单指令直接触发动作,开放问题则要交给大模型组织答案,这一段短则几十毫秒,长则数秒。第四段合成与播报:把回复变成声音放出来,预录的提示音即刻可放,动态生成的回答要走语音合成。四段加起来才是你体感的那一两秒,各段占比并不均匀,下面逐段看。
| 环节 | 典型耗时 | 在哪执行 | 这一段的变数 |
|---|---|---|---|
| 唤醒 | 几十到几百毫秒 | 本地低功耗常驻模块 | 主系统恢复、拾音链路打开要接力完成 |
| 识别 | 几百毫秒内转完 | 端侧小模型,边收音边出字 | 短指令稳定,转错一个字理解就跟着偏 |
| 理解与决策 | 几十毫秒到数秒 | 固定指令走本地规则,开放问题交云端大模型 | 指令类型与回答长度决定跨度 |
| 合成与播报 | 预录即刻,动态回答以秒计 | 本地播放或云端语音合成 | 流式处理把等待压到首字 |
前半程很快:唤醒与识别
唤醒与识别两段都发生在本地,速度有保障。唤醒由常驻的低功耗模块完成,专用小模型只做一件事:判断声音里有没有唤醒词,命中后向主系统发信号,整套动作毫秒级,主系统恢复、拾音链路打开的接力也在几百毫秒内完成,链路细节见前文的待机唤醒一篇。识别这一段同样是本地小模型的主场:端侧模型针对短指令优化,边收音边出字,你说完最后一个字时,文字往往已经就绪。识别偶尔出错,转错一个字,理解就会跟着偏——常见错误的形态与成因,识别错误一篇有归类。前半程的整体耗时稳定在一秒以内,也不是延迟的主要来源。
后半程占大头:理解与合成
时间主要花在后半程。理解一段的分水岭在指令类型:开关灯、调音量这类固定指令,本地规则直接命中,几十毫秒办完,所以这类操作体感秒回;开放问题则要交给云端大模型组织语言,生成一段几十字的回答也要以秒计,问题越开放、回答越长,等待越明显。合成一段也有快慢两档:预录音频直接播放,几乎零耗时;动态回答用语音合成生成声音,好在合成普遍采用流式处理——文字生成出一句就转一句声音,边生成边播报,你听到第一个字时,后面的还在路上,合成环节的三段工序见语音合成一篇。所以「等」主要等在理解与生成,而非机械响应慢。
网络往返是最大的变量
四段里最不稳定的是要过网的部分。凡涉及云端,就多了请求发出、排队处理、结果回传的往返,顺畅时几百毫秒,赶上网络拥堵或高峰排队,可能拖到数秒,弱网下的重试还会再翻倍。这也是同一条指令有时快有时慢的主要原因。设计端能做的是把分工摆对:高频窄指令留在本地,见本地与云端一篇的分工逻辑;同批离线语音识别一篇讲过,识别整条流水线都可以装进本机,断网也响应。用户端的提速办法也简单:指令说短说具体,减少理解与生成的负担;高频操作用固定说法,本地命中率更高;开放问题接受等待,或者拆成几个小问题逐个问。想亲手量一量各段的耗时,可以分别问豆包一条本地指令和一个开放问题,掐表对比响应速度;再让 Kimi 把这两个问题的回答过程按四段接力逐段标注,延迟花在哪一段,一目了然。
语音延迟速查
- 一问一答四段接力:唤醒、识别、理解、合成,依次交棒
- 前半程在本地:唤醒毫秒级,识别几百毫秒,稳定不拖后腿
- 等待大头在后半程:开放问题要大模型生成,以秒计
- 流式合成边生成边播,听到第一个字时后面还在路上
- 网络往返是最大变量,弱网排队都会拖慢响应
再多说几句语音延迟
- 为什么有时响应特别慢?:优先查三处:网络是否拥堵、问题是否开放(要走云端生成)、是否赶上服务高峰。固定指令突然变慢,多半是网络或设备负载的问题,换时段或检查网络即可。
- 播报前的短暂停顿在等什么?:等理解与生成的结果。本地指令几乎无停顿;开放问题的停顿是在等大模型写好第一句——流式处理已经把等待压到了极限,剩下的属于生成必需的时间。
- 指令怎么说响应最快?:短、具体、贴常用句式。三个词能办的事别写成一句长话;高频操作固定说法,让本地小模型稳定命中,直接跳过云端往返,是体感最快的一条路。


