全站分类

寒武纪 思元 MLU590 参数详解 — 算力、显存、功耗与价格

综合排名 第 48 / 115 国产加速卡MLUarch05 架构2023 年发布~350W

寒武纪对标 A100/H20 的训练卡,参数未完全公开,已进入头部互联网公司。

思元 MLU590 核心参数规格表

型号寒武纪 思元 MLU590
类别国产加速卡
架构MLUarch05
发布年份2023
显存~80GB HBM2e
显存带宽~2000 GB/s
FP32 算力~80 TFLOPS
FP16/BF16 算力~314 TFLOPS
低精度算力INT8 ~1024
互联方案MLU-Link
TDP 功耗~350W
市场参考价未公开报价
综合算力评分64 / 100(全站第 48 名,本站加权计算)

本页 8 项核心参数中,无约值标记 2 项、约值 6 项。 带 ~ 的为约值或折算值,— 表示厂商未公开;稀疏加速值已在「低精度算力」一栏注明。价格为市场参考区间,不是报价。

思元 MLU590 怎么部署、配什么生态

供电要求~350W,建议 750W 电源
机箱形态机架式服务器,需配套散热与冗余供电
软件生态BANG 工具链 + Cambricon PyTorch,需按版本适配
跑 70B 的方案单卡就能装下 70B 的 4bit 量化权重(约 40GB),不需要多卡切分

生态成熟度直接决定「买回来能不能跑起来」,比算力更该先看。国产卡的迁移成本主要花在算子适配与调优上。

思元 MLU590 的算力水平与瓶颈在哪

寒武纪 思元 MLU590 采用 MLUarch05 架构,FP32 单精度算力 ~80 TFLOPS, FP16/BF16 半精度算力 ~314 TFLOPS,低精度算力 INT8 ~1024。 按大模型训练与推理的综合权重计算,该卡在本站 115 张算力卡中排第 48 位,算力够训练百亿参数级模型,配上大显存也能承载更大的推理负载。

显存 ~80GB HBM2e,带宽 ~2000 GB/s。价格未公开,改看规格排位:在 20 张国产加速卡里,它的显存第 8、FP16 算力第 10。与排名相邻的 华为 昇腾 910 相比,它的 FP16 算力高出 23%、显存多 48GB、显存带宽高 67%。

互联是 MLU-Link,有专用卡间互联,本站未收录其带宽数值;多卡扩展能力需按具体集群拓扑评估。按 80GB 显存算,单卡可跑 70B 的 4bit 量化模型,或 30B 级模型的全精度推理。

思元 MLU590 能跑多大的模型

按「权重 + 20% 运行时开销 ≤ 90% 显存」估算,✓ 表示单卡可运行,— 表示需要多卡或降精度。

模型规模FP16/BF16(2 字节)FP8/INT8(1 字节)4bit 量化(0.5 字节)
7B✓✓✓
14B✓✓✓
32B—✓✓
70B——✓
110B——✓

估算不含长上下文场景的 KV Cache 膨胀,也不含张量并行带来的额外显存占用;实际部署请以实测为准。

与 思元 MLU590 同级的显卡对比

对比对象是总榜中与它排名相邻的显卡,点击型号可查看各自的完整参数。

型号显存FP16/BF16FP8/INT8TDP参考价评分
寒武纪 思元 MLU590MLUarch05 80 GB~314INT8 ~1024~350W未公开报价 64
NVIDIA RTX 4500 AdaAda Lovelace 24 GB79.2FP8 158210W约1.5-1.8万 63
华为 昇腾 910达芬奇 32 GB256INT8 512310W停产/整机 65
NVIDIA GeForce RTX 5080Blackwell 16 GB113INT8 225360W约8千-1.1万 62

思元 MLU590 常见问题

思元 MLU590 多少钱一张?

寒武纪 思元 MLU590 的市场参考价为 未公开报价(2026 年 11 月行情)。数据中心卡与国产加速卡的价格随供需和政策波动明显,采购前建议向厂商或代理商询实价,表内价格只作横向比较用。

思元 MLU590 的算力是多少?

寒武纪 思元 MLU590 的 FP32 算力为 ~80 TFLOPS,FP16/BF16 算力为 ~314 TFLOPS,低精度算力 INT8 ~1024。在本站 115 张算力卡中综合排名第 48 位。

思元 MLU590 能跑多大的大模型?

寒武纪 思元 MLU590 配备 ~80GB HBM2e 显存,单卡可跑 70B 的 4bit 量化模型,或 30B 级模型的全精度推理。按 FP16 每 10 亿参数约 2GB 估算,实际可用规模还要留出 KV Cache 与框架开销。

思元 MLU590 的功耗和部署要求?

寒武纪 思元 MLU590 的 TDP 为 ~350W。需要在机架服务器中部署,注意散热与供电冗余。

相关显卡与延伸阅读

算力概念与选型方法: