寒武纪 思元 MLU370-X8 参数详解 — 算力、显存、功耗与价格
寒武纪推理/训练两用卡，双芯设计，国产推理市场保有量大。
思元 MLU370-X8 核心参数规格表
| 型号 | 寒武纪 思元 MLU370-X8 |
|---|---|
| 类别 | 国产加速卡 |
| 架构 | MLUarch03 |
| 发布年份 | 2021 |
| 显存 | 48GB LPDDR5 |
| 显存带宽 | 614 GB/s |
| FP32 算力 | 24 TFLOPS |
| FP16/BF16 算力 | 96 TFLOPS |
| 低精度算力 | INT8 256 |
| 互联方案 | MLU-Link |
| TDP 功耗 | 250W |
| 市场参考价 | 未公开报价 |
| 综合算力评分 | 45 / 100（全站第 89 名，本站加权计算） |
本页 8 项核心参数中，无约值标记 8 项。 带 ~ 的为约值或折算值，— 表示厂商未公开；稀疏加速值已在「低精度算力」一栏注明。价格为市场参考区间，不是报价。
思元 MLU370-X8 怎么部署、配什么生态
| 供电要求 | 250W，建议 650W 电源 |
|---|---|
| 机箱形态 | 机架式服务器，需配套散热与冗余供电 |
| 软件生态 | BANG 工具链 + Cambricon PyTorch，需按版本适配 |
| 跑 70B 的方案 | 单卡就能装下 70B 的 4bit 量化权重（约 40GB），不需要多卡切分 |
生态成熟度直接决定「买回来能不能跑起来」，比算力更该先看。国产卡的迁移成本主要花在算子适配与调优上。
思元 MLU370-X8 的算力水平与瓶颈在哪
寒武纪 思元 MLU370-X8 采用 MLUarch03 架构，FP32 单精度算力 24 TFLOPS， FP16/BF16 半精度算力 96 TFLOPS，低精度算力 INT8 256。 按大模型训练与推理的综合权重计算，该卡在本站 115 张算力卡中排第 89 位，算力在数据中心卡里属于入门档，适合轻量推理与小规模微调，不适合当训练主力；大显存是它相对同价位卡的主要优势。
显存 48GB LPDDR5，带宽 614 GB/s。价格未公开，改看规格排位：在 20 张国产加速卡里，它的显存第 14、FP16 算力第 17。与排名相邻的 NVIDIA GeForce RTX 4070 相比，它的 FP16 算力高出 66%、显存多 36GB、显存带宽高 22%。
互联是 MLU-Link，有专用卡间互联，本站未收录其带宽数值；多卡扩展能力需按具体集群拓扑评估。按 48GB 显存算，单卡可跑 32B 的 4bit 量化模型，两卡可组 70B 推理。
思元 MLU370-X8 能跑多大的模型
按「权重 + 20% 运行时开销 ≤ 90% 显存」估算，✓ 表示单卡可运行，— 表示需要多卡或降精度。
| 模型规模 | FP16/BF16（2 字节） | FP8/INT8（1 字节） | 4bit 量化（0.5 字节） |
|---|---|---|---|
| 7B | ✓ | ✓ | ✓ |
| 14B | ✓ | ✓ | ✓ |
| 32B | — | ✓ | ✓ |
| 70B | — | — | ✓ |
| 110B | — | — | — |
估算不含长上下文场景的 KV Cache 膨胀，也不含张量并行带来的额外显存占用；实际部署请以实测为准。
与 思元 MLU370-X8 同级的显卡对比
对比对象是总榜中与它排名相邻的显卡，点击型号可查看各自的完整参数。
| 型号 | 显存 | FP16/BF16 | FP8/INT8 | TDP | 参考价 | 评分 |
|---|---|---|---|---|---|---|
| 寒武纪 思元 MLU370-X8MLUarch03 | 48 GB | 96 | INT8 256 | 250W | 未公开报价 | 45 |
| NVIDIA GeForce RTX 4070Ada Lovelace | 12 GB | 58 | INT8 117 | 200W | 约4-4.5千 | 44 |
| AMD Radeon RX 7900 XTRDNA3 | 20 GB | 103 | INT8 206 | 315W | 约4-5千 | 45 |
| NVIDIA GeForce RTX 3080Ampere | 10 GB | 60 | INT8 119 | 320W | 二手约3千 | 43 |
思元 MLU370-X8 常见问题
思元 MLU370-X8 多少钱一张？
寒武纪 思元 MLU370-X8 的市场参考价为 未公开报价（2026 年 11 月行情）。数据中心卡与国产加速卡的价格随供需和政策波动明显，采购前建议向厂商或代理商询实价，表内价格只作横向比较用。
思元 MLU370-X8 的算力是多少？
寒武纪 思元 MLU370-X8 的 FP32 算力为 24 TFLOPS，FP16/BF16 算力为 96 TFLOPS，低精度算力 INT8 256。在本站 115 张算力卡中综合排名第 89 位。
思元 MLU370-X8 能跑多大的大模型？
寒武纪 思元 MLU370-X8 配备 48GB LPDDR5 显存，单卡可跑 32B 的 4bit 量化模型，两卡可组 70B 推理。按 FP16 每 10 亿参数约 2GB 估算，实际可用规模还要留出 KV Cache 与框架开销。
思元 MLU370-X8 的功耗和部署要求？
寒武纪 思元 MLU370-X8 的 TDP 为 250W。需要在机架服务器中部署，注意散热与供电冗余。
相关显卡与延伸阅读
算力概念与选型方法：
