什么是 FLOPS？算力的计量单位

看显卡参数表，出现频率很高的一个词是 FLOPS，很多 AI 爱好者第一次选卡就被这串数字绕晕。这篇把它拆开讲：它数的是什么数，为什么参数表上的数字不能全信。

FLOPS 数的是什么数

FLOPS 的全称是每秒浮点运算次数，衡量一块卡一秒钟能完成多少次带小数的加减乘除。大模型训练和推理的全部工作，拆到最底层就是天文数字量级的这类运算，所以用它给算力定刻度。

把它想象成心算速度：一个学生一秒能算一道口算题，一块显卡一秒能算几万亿道。因为数字太大，习惯上按量级缩写——TFLOPS 是每秒一万亿次，参数表上写的 20 TFLOPS，意思就是每秒二十万亿次。需要注意的是，大模型里大量运算是矩阵乘法，有些参数表会单独列一行矩阵算力，那个数字比通用算力更能反映跑模型的水平。

峰值和实际：跑步机与你的腿

参数表上的 FLOPS 是峰值，即理想状况下的速度上限，就像跑步机标出的最高时速——机器能跑到，不代表你跑得到。实际跑大模型时，算力利用率取决于任务能不能把计算核心喂满：数据供应顺畅、矩阵规模合适时能用到五六成，喂不上料时可能只有两三成。峰值到实际之间的损耗，来自数据搬运、调度等待和任务本身的形状，具体利用率因任务而异，想看某款卡在真实负载下的表现，以官方技术报告为准。

这也是为什么两块峰值算力接近的卡，跑同一个模型的速度可能差出不少：喂料通道的宽窄不同，核心闲等的时间就不同。

用 FLOPS 选卡的三个坑

第一个坑：只比峰值。峰值算力高不代表跑模型快，显存容量不够模型根本装不下，带宽不够核心干等，两者都会让高算力变成纸面数字。

第二个坑：不问精度。同一块卡在不同精度下的算力差别很大，16 位浮点是一档，8 位整数往往翻倍，参数表若不标精度，那个数字没有参考意义。对比两张卡必须同精度同口径。

第三个坑：忽略软件生态。算力要靠软件调度才能兑现，主流框架对老卡和新卡的适配程度不同，同样的峰值在不同软件栈里跑出的实际速度可能差很远。

三个坑各自漏掉了什么，并排看更清楚。

看算力参数自查三问

• 这个数字是哪种精度下的？16 位还是 8 位
• 是峰值还是实测？有没有公开的实测数据
• 显存和带宽跟得上吗？三样一起看才有意义

只看 FLOPS 一个数字就下单，是选卡最常见的弯路。

和显存是一对搭档

算力和显存的关系像灶台和料理台：灶台火力再猛，台面上没料也是白等。跑大模型时两者要匹配——模型先要装得进显存，然后参数喂料速度要跟得上计算速度，最后才轮到算力发挥。很多人选卡只盯着 FLOPS 排名，结果买回来发现模型装不下，这就是只看了灶台没看台面。

三句话记住它

记住三件事：FLOPS 是上限不是承诺，比数字先对精度，选卡三样一起看——显存、带宽、算力。想先弄清显存怎么估够不够，读什么是显存？跑模型的第一道门槛；喂料速度的原理在什么是显存带宽？速度的第二要素里；跑模型和用豆包、文心一言这类云端服务分别消耗多少计算，见推理要多少算力？训练和推理的差别；预算有限时消费卡和专业卡的取舍，看消费级显卡和专业卡有什么区别？

FLOPS 快问快答三则

• 手机芯片也标 FLOPS，能跑大模型吗？：能跑小模型。手机芯片的峰值算力和功耗约束决定了它适合轻量任务，几十亿参数以上的模型仍然吃力。
• 两张峰值相同的卡为什么速度不同？：瓶颈往往不在计算而在喂料，显存带宽、软件调度都会拉开实际差距，峰值只是起跑线。
• 整数算力和浮点算力哪个重要？：推理常用整数运算，训练多用浮点，看自己主要做什么，再对应看哪一栏的数字。