显卡算力排行榜 2026 — 全球 AI 算力卡天梯图与参数对比

当前收录 115 张，覆盖数据中心训练卡、消费级显卡、工作站卡与国产加速卡四类，价格与新品每月核对一次，最后更新于 2026-11-02。

H100 全面强于 A100：FP16 算力 989 TFLOPS 约为 A100（312 TFLOPS）的 3 倍，显存带宽 3.35TB/s 对 2TB/s，且支持 FP8 精度。A100 的优势只在二手价格约为 H100 的一半，预算有限的推理与中小规模训练仍可选。

单张 4090 的 24GB 显存放不下 70B 模型：70B 做 4bit 量化约需 40GB 显存，需要双卡或改用 80GB 以上的卡。单卡 4090 适合 14B 全精度或 32B 的 4bit 量化模型。

2026 年 11 月的单卡第一是 AMD Instinct MI455X：432GB HBM4、19.6TB/s 带宽、FP8 20 PFLOPS。NVIDIA 阵营是 B300 与 GB300 超级芯片（单芯 FP4 15 PFLOPS，双芯 30 PFLOPS）；国产最强是华为昇腾 950DT（144GB 自研 HiZQ 2.0、4TB/s 带宽）。

华为昇腾 950DT：144GB 自研 HiZQ 2.0 显存、4TB/s 带宽、FP8 1 PFLOPS，2026 年 8 月已在华为云部署；推理侧对应 950PR。其后是寒武纪思元 690、沐曦曦云 C600、昆仑芯 P800 与摩尔线程 MTT S5000。

训练看 FP16 算力与互联带宽，首选 MI455X、GB300、B300，其次 H200、H100，预算有限选 A100/A800；推理看显存容量与每 token 成本，可选 L40S、H20、L20、RTX 4090/5090，国产替代则看昇腾 910B/910C。

三者同为 Hopper 架构。H800 是 H100 的出口合规版，算力相同但 NVLink 从 900GB/s 降到 400GB/s；H20 大幅削减算力（FP16 仅 148 TFLOPS，约为 H100 的 15%），但保留 96GB 大显存与高带宽，定位推理。

TFLOPS 指每秒万亿次浮点运算。看算力要先分精度：FP32 用于科学计算，FP16/BF16 是 AI 训练主力精度，FP8/INT8 用于推理加速。同一张卡不同精度可差数十倍，对比时务必用同一精度，并区分稠密值与稀疏值。

入门看 RTX 3060 12GB 与二手 3090 24GB；主流看 4090/5090；需要 48GB 以上显存可考虑双 3090 或 RTX PRO 6000 Blackwell。按每万元 FP16 算力算，消费级卡普遍高于数据中心卡，代价是显存与互联。

模型参数必须完整加载进显存才能运行：FP16 下每 10 亿参数约占 2GB，70B 模型约需 140GB。显存不足就只能量化、多卡切分或换卡，因此显存容量直接决定能跑多大的模型。

看用途。二手 V100 32GB 仍可胜任中小模型训练与推理；P40 凭 24GB 显存和几百元的价格成为廉价推理选择，但没有 FP16 加速、功耗高、驱动已停止更新，生产环境不建议。

不是。价格是市场参考区间，数据中心卡随供需、汇率与政策波动很大，国产卡多数没有公开报价。采购前请以厂商或代理商的实际报价为准。