看 AI 硬件的宣传页,几乎都印着 TOPS:算力 30 TOPS、上百 TOPS,数字一个比一个大。TOPS 是描述算力的单位,但标称值与实际体验之间隔着好几层。这篇讲清 TOPS 在数什么、为什么单看它不够、内存与散热这些配套为什么同样关键,读完再看宣传页,数字背后的门道就清楚了。
TOPS 在数什么
TOPS 的全称是 Tera Operations Per Second,意思是每秒执行多少万亿次运算,这里的运算指乘加这类基础操作。它是衡量芯片计算吞吐的标称值:同样精度假设下,数字越大,代表芯片每秒能完成的运算越多。要注意标称值有前提:计算精度不同,同一颗芯片能报出的 TOPS 就不同,低精度运算的数字可以远高于高精度,宣传页通常挑大的那个写。所以 TOPS 适合做量级上的粗略比较,跨精度、跨架构直接比较数字,意义有限。看到「算力翻倍」,先问一句是在什么精度口径下翻倍,比记住数字本身更重要。
标称算力为什么不能直接当体验
标称 TOPS 高,体验未必好,原因在于算力是产能,不是成品。模型要在芯片上跑得快,还取决于几件事:内存带宽喂得上喂不上——运算单元再密,数据供不上就只能空转;散热撑得住撑不住——算力释放伴随发热,降频之后标称值就打了折扣;软件调度用得好不好——同一颗芯片,不同框架下的利用率可以差出很多。「TOPS 越大越好」的想法,恰好是算力宣传里最常见的误区,TOPS 越大越好的误区一篇专门拆过。把 TOPS 当作能力的上限参考,把体验交给实测与评测去验证,这个次序不能反。
算力之外的内存与散热
配套里最值得看两样。内存:端侧模型运行时,模型参数与运行数据都占内存,内存容量决定能跑多大的模型,带宽决定数据供给的速度,两者不足,算力再高也发挥不出。散热:持续运算发热,散热设计决定设备能维持多久的高性能输出,轻薄本、游戏本、掌机各有各的散热约束,同为高算力平台,持续表现可能差很远。此外芯片的分工也值得知道:CPU 管通用任务,GPU 擅长并行计算,NPU 专攻神经网络运算,它是什么见NPU 入门一篇,三者怎么分工,NPU 与 CPU GPU 的对比一篇讲得直白。宣传页只报 TOPS 不报内存与散热,就像只报发动机功率不报车重。
看硬件参数的顺序
把次序整理成一张清单:先看用途——设备要跑的模型规模与场景决定了算力需求,轻薄本做本地摘要与台式机跑大模型,需求不在一个量级;再看 TOPS 对应的精度与条件,问清楚是哪个精度下的标称;然后看内存容量与带宽、散热设计这些配套;最后看真实负载的评测数据。AI PC 这类新品类的整体选型思路,AI PC 入门一篇有介绍。动手比较也方便:把两款设备的参数页分别交给豆包提取成表格,再用 DeepSeek 核对各自标称值的精度口径,谁虚谁实,一眼可辨。参数会过时,这套看参数的顺序不会。
| 顺序 | 看什么 | 要问清的问题 | 跳过这一项会怎样 |
|---|---|---|---|
| 第一步 | 用途:设备要跑的模型规模与场景 | 是本地摘要,还是跑大模型 | 需求不在一个量级,比数字本身没有意义 |
| 第二步 | TOPS 对应的精度与条件 | 是哪个精度下的标称 | 跨精度比较,数字差数倍也说明不了什么 |
| 第三步 | 内存容量、带宽与散热设计 | 数据供不供得上,高性能能维持多久 | 算力再高也可能发挥不出,降频后打折 |
| 第四步 | 真实负载的评测数据 | 持续输出掉多少 | 把标称值当体验,判断容易落空 |
TOPS 算力速查
- TOPS=每秒万亿次运算,是标称值不是体验承诺
- 标称有精度前提,跨精度比较意义有限
- 内存决定跑多大模型,带宽决定数据供不供得上
- 散热决定高性能能维持多久
- 看参数顺序:用途、精度口径、内存散热、实测
再多说几句算力
- 宣传页只写 TOPS 不写精度,怎么办?:按保守口径理解,或直接查芯片型号的公开资料确认标称条件。同一颗芯片在不同精度下的数字可以差数倍,不清楚口径的数字只当量级参考。
- 手机厂商也宣传算力,和电脑的 TOPS 一回事吗?:单位含义相同,但芯片架构、功耗约束、散热条件不同,数字之间不做直接比较。手机算力优先给影像与系统功能,电脑算力更多留给生产力负载,各自语境不同。
- 普通用户需要记这些参数吗?:不必逐项记,记住次序就够:先明确自己要跑什么,再看标称值的条件,最后看内存散热与实测。让豆包把两款候选设备的参数整理成对照表,重点核对内存与散热两项,比背概念实用得多。


