什么是生成速度？每秒输出多少 token 决定等待时间

生成速度指大模型每秒输出多少 token，评测里常写作 tokens per second，也叫吐字速度。同样一段五百字的回答，每秒 10 个 token 和每秒 50 个 token 的工具，等待时间相差五倍。这个指标直接决定日常体验：是顺手一问马上有答案，还是盯着加载圈发呆。看懂它，读评测、选服务时多了一把量尺。

每秒 token 数怎么读

token 是模型处理文字的最小单位，一个汉字大约对应一至两个 token，具体换算因模型而异。每秒 30 个 token，折算成中文大约是每秒二十到四十字，与普通人的阅读速度相当；每秒 100 个 token 以上，基本是文字倾泻而出。评测里的数字还要留意口径：有的从首个字出现开始统计，有的把排队等待也算了进去，同样标着 50 的两个数字，实际感受可能差别很大。

速度由哪些环节决定

速度是链条上的综合结果。模型本身的结构和大小是基础，参数规模越大通常越慢；服务端的硬件与并发状况决定高峰期要不要排队；网络质量影响首字到达的时间；输入内容越长，模型要先读完的量越大，首字延迟越高。以 DeepSeek 为例，官方提供网页版与 API 等多种接入方式，不同方式的响应表现会有差异，具体以官方最新版本为准。

多少才算够用的速度

按场景分三档即可。聊天问答类，每秒 20 个 token 以上就没有明显的等待感；写作与改稿类，模型边写你边看，每秒 30 到 60 之间体验顺畅；批量处理类，比如一次生成几十条文案，速度差距会被任务量成倍放大，越快越省时间。低于每秒 10 个 token 的体验，多数人会觉得卡顿，除非答案质量明显更贴合需求，否则不值得长期忍受。

速度与质量的取舍顺序

速度快的模型未必质量差，两者没有天然的绑定关系，同一模型的加速版本通常是在质量损失可控的前提下做的优化。选择时先定质量底线：在能正确完成任务的模型里挑速度快的，而不是反过来在快的里面挑勉强能用的。不少服务提供思考模式与即时模式的切换，简单问题用即时模式，复杂推导再开思考，等待时间能省下大半。

测一测自己的常用场景

与其看评测，不如花五分钟自测。准备一段固定的问题，长度与日常任务接近，在候选工具里分别提问，掐表记录首字出现的时间和整段回答完成的时间，重复两三次取平均。这个数字比任何评测都贴近你的真实体验，因为你的网络、你的提问长度、你的使用时段都算在里面。换网络环境或换设备后可以再测一轮，数据会更立体。

测试时再留一个变量：高峰时段和空闲时段各测一次，高峰期的数字才反映真实体验。把两次结果记进同一张表，工具更新换代后用同一套问题复测，长期积累下来，你对各家的速度变化会有一手体感，比追评测文章快得多。

延伸阅读：Token 是怎么计费的、显存带宽决定什么、本地和云端体验差在哪。

自测速度的五个动作

• 准备一段与日常任务等长的问题
• 记录首字时间和整段完成时间
• 重复两三次取平均值
• 高峰与空闲各测一次
• 换网络或设备后再测一轮

高峰时段那一次最容易被省，它才是你真实感受到的速度。

生成速度慢下来时，先查哪三件事

• 高峰期变慢是正常的吗？：是。服务端并发压力大时排队变长属于常见现象，错峰使用或稍后重试通常恢复，持续异常再排查本地网络。
• 输入越长首字越慢吗？：通常如此。模型要先读完上下文才能开始输出，上传长文档后首字延迟明显增加属于正常现象。
• 流式输出和非流式哪个更快？：总耗时接近，但流式边生成边显示，主观等待感更小；非流式要等全部生成完才一次性返回。