寒武纪 思元 MLU690 参数详解 — 算力、显存、功耗与价格
寒武纪当前纸面算力最高的训练卡,2025 年底仍处工程样品阶段,量产进度是最大变量。
思元 MLU690 核心参数规格表
| 型号 | 寒武纪 思元 MLU690 |
|---|---|
| 类别 | 国产加速卡 |
| 架构 | MLUarch06 |
| 发布年份 | 2025 |
| 显存 | 96GB HBM3 |
| 显存带宽 | ~2048 GB/s |
| FP32 算力 | 未公开 |
| FP16/BF16 算力 | ~420 TFLOPS |
| 低精度算力 | INT8 ~840 |
| 互联方案 | MLU-Link |
| TDP 功耗 | — |
| 市场参考价 | 未公开报价 |
| 综合算力评分 | 79 / 100(全站第 25 名,本站加权计算) |
本页 8 项核心参数中,无约值标记 3 项、约值 3 项、未公开 2 项。 带 ~ 的为约值或折算值,— 表示厂商未公开;稀疏加速值已在「低精度算力」一栏注明。价格为市场参考区间,不是报价。
思元 MLU690 怎么部署、配什么生态
| 供电要求 | 厂商未公布整卡功耗,按同级别卡预留电源 |
|---|---|
| 机箱形态 | 机架式服务器,需配套散热与冗余供电 |
| 软件生态 | BANG 工具链 + Cambricon PyTorch,需按版本适配 |
| 跑 70B 的方案 | 单卡就能装下 70B 的 4bit 量化权重(约 40GB),不需要多卡切分 |
生态成熟度直接决定「买回来能不能跑起来」,比算力更该先看。国产卡的迁移成本主要花在算子适配与调优上。
思元 MLU690 的算力水平与瓶颈在哪
寒武纪 思元 MLU690 采用 MLUarch06 架构,FP32 单精度算力 未公开, FP16/BF16 半精度算力 ~420 TFLOPS,低精度算力 INT8 ~840。 按大模型训练与推理的综合权重计算,该卡在本站 115 张算力卡中排第 25 位,算力够训练百亿参数级模型,配上大显存也能承载更大的推理负载。
显存 96GB HBM3,带宽 ~2048 GB/s。价格未公开,改看规格排位:在 20 张国产加速卡里,它的显存第 5、FP16 算力第 7。与排名相邻的 华为 昇腾 910C 相比,它的 FP16 算力低出 48%、显存少 32GB、显存带宽低 36%。
互联是 MLU-Link,有专用卡间互联,本站未收录其带宽数值;多卡扩展能力需按具体集群拓扑评估。按 96GB 显存算,单卡可跑 70B 的 4bit 量化模型,或 30B 级模型的全精度推理。
思元 MLU690 能跑多大的模型
按「权重 + 20% 运行时开销 ≤ 90% 显存」估算,✓ 表示单卡可运行,— 表示需要多卡或降精度。
| 模型规模 | FP16/BF16(2 字节) | FP8/INT8(1 字节) | 4bit 量化(0.5 字节) |
|---|---|---|---|
| 7B | ✓ | ✓ | ✓ |
| 14B | ✓ | ✓ | ✓ |
| 32B | ✓ | ✓ | ✓ |
| 70B | — | ✓ | ✓ |
| 110B | — | — | ✓ |
估算不含长上下文场景的 KV Cache 膨胀,也不含张量并行带来的额外显存占用;实际部署请以实测为准。
与 思元 MLU690 同级的显卡对比
对比对象是总榜中与它排名相邻的显卡,点击型号可查看各自的完整参数。
| 型号 | 显存 | FP16/BF16 | FP8/INT8 | TDP | 参考价 | 评分 |
|---|---|---|---|---|---|---|
| 寒武纪 思元 MLU690MLUarch06 | 96 GB | ~420 | INT8 ~840 | — | 未公开报价 | 79 |
| NVIDIA RTX PRO 6000 BlackwellBlackwell | 96 GB | 220 | FP8 440 | 600W | 约7.5-9万 | 78 |
| 华为 昇腾 910C达芬奇 | 128 GB | ~800 | INT8 ~1600 | ~400W | 约12-15万 | 80 |
| 华为 昇腾 910B达芬奇 | 64 GB | ~376 | INT8 ~752 | ~400W | 约10-12万 | 78 |
思元 MLU690 常见问题
思元 MLU690 多少钱一张?
寒武纪 思元 MLU690 的市场参考价为 未公开报价(2026 年 11 月行情)。数据中心卡与国产加速卡的价格随供需和政策波动明显,采购前建议向厂商或代理商询实价,表内价格只作横向比较用。
思元 MLU690 的算力是多少?
寒武纪 思元 MLU690 未公开 FP32 标称值,FP16/BF16 算力为 ~420 TFLOPS,低精度算力 INT8 ~840。在本站 115 张算力卡中综合排名第 25 位。
思元 MLU690 能跑多大的大模型?
寒武纪 思元 MLU690 配备 96GB HBM3 显存,单卡可跑 70B 的 4bit 量化模型,或 30B 级模型的全精度推理。按 FP16 每 10 亿参数约 2GB 估算,实际可用规模还要留出 KV Cache 与框架开销。
思元 MLU690 的功耗和部署要求?
寒武纪 思元 MLU690 未公开整卡功耗。需要在机架服务器中部署,注意散热与供电冗余。
相关显卡与延伸阅读
算力概念与选型方法:

