AMD Instinct MI350X 参数详解 — 算力、显存、功耗与价格
MI355X 的风冷版本，核心与显存规格相同，1000W 功耗让它在普通机架里也能部署。
Instinct MI350X 核心参数规格表
| 型号 | AMD Instinct MI350X |
|---|---|
| 类别 | 数据中心 |
| 架构 | CDNA4 |
| 发布年份 | 2025 |
| 显存 | 288GB HBM3e |
| 显存带宽 | 8000 GB/s |
| FP32 算力 | ~180 TFLOPS |
| FP16/BF16 算力 | ~2300 TFLOPS |
| 低精度算力 | FP4 9200 |
| 互联方案 | Infinity Fabric 1075GB/s |
| TDP 功耗 | 1000W |
| 市场参考价 | 约21-26万（约 235000 元，每万元 98 TFLOPS） |
| 综合算力评分 | 92 / 100（全站第 10 名，本站加权计算） |
本页 8 项核心参数中，无约值标记 6 项、约值 2 项。 带 ~ 的为约值或折算值，— 表示厂商未公开；稀疏加速值已在「低精度算力」一栏注明。价格为市场参考区间，不是报价。
Instinct MI350X 怎么部署、配什么生态
| 供电要求 | 1000W，超出单机箱风冷范围，需要服务器电源与机架散热 |
|---|---|
| 机箱形态 | 机架式服务器，需配套散热与冗余供电 |
| 软件生态 | ROCm，Linux 下主流框架可用，Windows 支持有限 |
| 跑 70B 的方案 | 单卡就能装下 70B 的 4bit 量化权重（约 40GB），不需要多卡切分 |
生态成熟度直接决定「买回来能不能跑起来」，比算力更该先看。国产卡的迁移成本主要花在算子适配与调优上。
Instinct MI350X 的算力水平与瓶颈在哪
AMD Instinct MI350X 采用 CDNA4 架构，FP32 单精度算力 ~180 TFLOPS， FP16/BF16 半精度算力 ~2300 TFLOPS，低精度算力 FP4 9200。 按大模型训练与推理的综合权重计算，该卡在本站 115 张算力卡中排第 10 位，是千亿参数模型预训练的主力档位，也能扛住高并发推理。
显存 288GB HBM3e，带宽 8000 GB/s。在「20 万元以上」档的 14 款卡里，它的每万元 FP16 算力排第 1（98 TFLOPS/万元）。与排名相邻的 NVIDIA H100 SXM 相比，它的 FP16 算力高出 133%、显存多 208GB、显存带宽高 139%、参考价高 7%。它与 AMD Instinct MI355X 的核心规格完全一致，差别只在整卡功耗（1000W 对 1400W）与散热形态。
互联是 Infinity Fabric 1075GB/s，高速互联意味着多卡扩展时通信不会成为瓶颈，适合组建训练集群。按 288GB 显存算，单卡可装 120B 级模型的 FP16 权重，或 70B 的全精度推理。
Instinct MI350X 能跑多大的模型
按「权重 + 20% 运行时开销 ≤ 90% 显存」估算，✓ 表示单卡可运行，— 表示需要多卡或降精度。
| 模型规模 | FP16/BF16（2 字节） | FP8/INT8（1 字节） | 4bit 量化（0.5 字节） |
|---|---|---|---|
| 7B | ✓ | ✓ | ✓ |
| 14B | ✓ | ✓ | ✓ |
| 32B | ✓ | ✓ | ✓ |
| 70B | ✓ | ✓ | ✓ |
| 110B | — | ✓ | ✓ |
估算不含长上下文场景的 KV Cache 膨胀，也不含张量并行带来的额外显存占用；实际部署请以实测为准。
与 Instinct MI350X 同级的显卡对比
对比对象是总榜中与它排名相邻的显卡，点击型号可查看各自的完整参数。
| 型号 | 显存 | FP16/BF16 | FP8/INT8 | TDP | 参考价 | 评分 |
|---|---|---|---|---|---|---|
| AMD Instinct MI350XCDNA4 | 288 GB | ~2300 | FP4 9200 | 1000W | 约21-26万 | 92 |
| NVIDIA H100 SXMHopper | 80 GB | 989 | FP8 1979 | 700W | 约22万 | 90 |
| NVIDIA H200 SXMHopper | 141 GB | 989 | FP8 1979 | 700W | 约25万 | 92 |
| 华为 昇腾 950PR达芬奇 | 128 GB | ~500 | FP8 1000 / FP4 2000 | — | 未公开报价 | 90 |
Instinct MI350X 常见问题
Instinct MI350X 多少钱一张？
AMD Instinct MI350X 的市场参考价为 约21-26万（2026 年 11 月行情）。数据中心卡与国产加速卡的价格随供需和政策波动明显，采购前建议向厂商或代理商询实价，表内价格只作横向比较用。
Instinct MI350X 的算力是多少？
AMD Instinct MI350X 的 FP32 算力为 ~180 TFLOPS，FP16/BF16 算力为 ~2300 TFLOPS，低精度算力 FP4 9200。在本站 115 张算力卡中综合排名第 10 位。
Instinct MI350X 能跑多大的大模型？
AMD Instinct MI350X 配备 288GB HBM3e 显存，单卡可装 120B 级模型的 FP16 权重，或 70B 的全精度推理。按 FP16 每 10 亿参数约 2GB 估算，实际可用规模还要留出 KV Cache 与框架开销。
Instinct MI350X 的功耗和部署要求？
AMD Instinct MI350X 的 TDP 为 1000W。需要在机架服务器中部署，注意散热与供电冗余。
Instinct MI350X 的性价比怎么样？
按参考价中位数 235000 元计算，AMD Instinct MI350X 每万元可买到约 98 TFLOPS 的 FP16 算力。这个指标只反映算力单价，不包含显存容量、带宽与软件生态的差异，跨类别比较时需谨慎。
相关显卡与延伸阅读
算力概念与选型方法：
