全站分类

NVIDIA H800 参数详解 — 算力、显存、功耗与价格

综合排名 第 17 / 115 数据中心Hopper 架构2022 年发布700W

H100 的中国市场特供版,算力相同但 NVLink 互联带宽降至 400GB/s。

H800 核心参数规格表

型号NVIDIA H800
类别数据中心
架构Hopper
发布年份2022
显存80GB HBM3
显存带宽3350 GB/s
FP32 算力67 TFLOPS
FP16/BF16 算力989 TFLOPS
低精度算力FP8 1979
互联方案NVLink 400GB/s
TDP 功耗700W
市场参考价约25万(约 250000 元,每万元 40 TFLOPS)
综合算力评分87 / 100(全站第 17 名,本站加权计算)

本页 8 项核心参数中,无约值标记 8 项。 带 ~ 的为约值或折算值,— 表示厂商未公开;稀疏加速值已在「低精度算力」一栏注明。价格为市场参考区间,不是报价。

H800 怎么部署、配什么生态

供电要求700W,超出单机箱风冷范围,需要服务器电源与机架散热
机箱形态机架式服务器,需配套散热与冗余供电
软件生态CUDA,PyTorch / vLLM / TensorRT 原生支持,生态最成熟
跑 70B 的方案单卡就能装下 70B 的 4bit 量化权重(约 40GB),不需要多卡切分

生态成熟度直接决定「买回来能不能跑起来」,比算力更该先看。国产卡的迁移成本主要花在算子适配与调优上。

H800 的算力水平与瓶颈在哪

NVIDIA H800 采用 Hopper 架构,FP32 单精度算力 67 TFLOPS, FP16/BF16 半精度算力 989 TFLOPS,低精度算力 FP8 1979。 按大模型训练与推理的综合权重计算,该卡在本站 115 张算力卡中排第 17 位,覆盖百亿到千亿参数模型的训练,推理吞吐也有富余。

显存 80GB HBM3,带宽 3350 GB/s。在「20 万元以上」档的 14 款卡里,它的每万元 FP16 算力排第 11(40 TFLOPS/万元)。与排名相邻的 NVIDIA H100 PCIe 相比,它的 FP16 算力高出 31%、显存带宽高 68%、参考价高 25%。它与 NVIDIA H100 SXM 的核心规格完全一致,差别只在卡间互联(NVLink 400GB/s 对 NVLink4 900GB/s)。

互联是 NVLink 400GB/s,有专用卡间互联,带宽属于中等水平,双卡够用,八卡以上要看具体拓扑。按 80GB 显存算,单卡可跑 70B 的 4bit 量化模型,或 30B 级模型的全精度推理。

H800 能跑多大的模型

按「权重 + 20% 运行时开销 ≤ 90% 显存」估算,✓ 表示单卡可运行,— 表示需要多卡或降精度。

模型规模FP16/BF16(2 字节)FP8/INT8(1 字节)4bit 量化(0.5 字节)
7B✓✓✓
14B✓✓✓
32B—✓✓
70B——✓
110B——✓

估算不含长上下文场景的 KV Cache 膨胀,也不含张量并行带来的额外显存占用;实际部署请以实测为准。

与 H800 同级的显卡对比

对比对象是总榜中与它排名相邻的显卡,点击型号可查看各自的完整参数。

型号显存FP16/BF16FP8/INT8TDP参考价评分
NVIDIA H800Hopper 80 GB989FP8 1979700W约25万 87
NVIDIA H100 PCIeHopper 80 GB756FP8 1513350W约20万 85
AMD Instinct MI300XCDNA3 192 GB1307FP8 2615750W约15万 88
Intel Gaudi 3Gaudi 128 GB1835FP8 1835900W约12万 84

H800 常见问题

H800 多少钱一张?

NVIDIA H800 的市场参考价为 约25万(2026 年 11 月行情)。数据中心卡与国产加速卡的价格随供需和政策波动明显,采购前建议向厂商或代理商询实价,表内价格只作横向比较用。

H800 的算力是多少?

NVIDIA H800 的 FP32 算力为 67 TFLOPS,FP16/BF16 算力为 989 TFLOPS,低精度算力 FP8 1979。在本站 115 张算力卡中综合排名第 17 位。

H800 能跑多大的大模型?

NVIDIA H800 配备 80GB HBM3 显存,单卡可跑 70B 的 4bit 量化模型,或 30B 级模型的全精度推理。按 FP16 每 10 亿参数约 2GB 估算,实际可用规模还要留出 KV Cache 与框架开销。

H800 的功耗和部署要求?

NVIDIA H800 的 TDP 为 700W。需要在机架服务器中部署,注意散热与供电冗余。

H800 的性价比怎么样?

按参考价中位数 250000 元计算,NVIDIA H800 每万元可买到约 40 TFLOPS 的 FP16 算力。这个指标只反映算力单价,不包含显存容量、带宽与软件生态的差异,跨类别比较时需谨慎。

相关显卡与延伸阅读

算力概念与选型方法: