看大模型榜单先看总分,是大多数人的习惯,但榜单的权重是怎么设的,决定了这个总分值不值得信。维度归一化、权重设定、名次敏感性环环相扣,权重一动排名就跟着动。这篇把加权机制拆开,帮你把总分还原成可审阅的过程。用通义千问帮你整理两份榜单的维度差异,是不少人读榜前的功课。
总分是怎么加权出来的
流程三步:各维度原始分归一化到同一量纲,按预设权重加权求和,排序出榜。进来的是各维度分数向量,发生的是归一与加权,出去的是一个总分。腾讯元宝的产品榜单说明里披露过加权框架,公开权重的榜单比黑箱总分的可信度高出一截。
归一化还有一个坑藏在极值里:某一维度若有一家大幅领先,min-max 拉伸会把其他家全压到低端,这一维度的差异被人为放大;标准分对极值同样敏感,单个离群点就能拉偏整列分布。处理办法是先审极值——确认是真实能力还是测量异常,再决定是否做截尾处理。极值处理规则要预先写明,事后看着排名调截尾点,就又回到照结果定规则的老路上去了。归一化的每一步都值得追问一句为什么,这是读懂总分的基础动作;两份榜单即使权重相同,归一化方法不同,总分依然不可互换。口径核对要核对到底,半途而废等于没核。
归一化:不同维度怎么拉到一起
通过率是百分比,人工评分是五分制,直接相加没有意义,要先归一化。常用做法有 min-max 拉伸与标准分两种,选择不同,维度间的相对轻重就不同:拉伸法放大了头部差异,标准分法看的是相对位置。归一化方式变了,即使权重不变,名次也可能重排。
| 归一化方法 | 怎么算 | 放大了什么 | 什么情况下会误导 |
|---|---|---|---|
| min-max 拉伸 | 把最小值拉到 0、最大值拉到 1 | 头部差异 | 某维度有一家大幅领先时,其他家全被压到低端 |
| 标准分 | 看的是相对位置,不是绝对值 | 相对排名 | 单个离群点就能拉偏整列分布 |
| 先审极值再归一化 | 先确认极值是真实能力还是测量异常,再决定是否截尾 | 真实差异 | 截尾点事后看着排名调,就等于照结果定规则 |
权重一改,名次就动
给个具体例子:模型甲推理强、对话平,模型乙反之,推理权重从四成调到六成,榜首就可能易主。所以读榜要读权重表:权重与研究目的匹配吗?数学能力权重畸高,可能源于主办方偏好。跨榜单对比时更要小心,两边权重不同,总分不可互换,这种差异常被拿去做文章,见分数话术识别。
权重设计的实操原则
三条:权重设定规则先于数据公布,避免照着结果调权重的嫌疑;敏感度分析要附上——权重扰动一成,名次变化多大;单一维度失真时不让它淹没全局。过程分与结果分的配比是典型课题,见过程分机制;维度饱和时权重要重审,见评测天花板;版本迭代后权重是否沿用,涉及版本公平对比。
权重的来源也可以更透明:向使用者发放问卷,按真实需求分布定权重,或者按目标用户群的使用频率加权。这类做法把「主办方觉得什么重要」换成「使用者觉得什么重要」,合法性来源变了,争议自然减少。完全客观的权重不存在,但程序正义可以做到,公开权重如何得出,比权重数值本身更能建立信任。
名次敏感性的另一个观察角度是尾部:权重变化对头两名的影响容易引起注意,对中后段名次的扰动常被忽略,而多数读者恰恰在中后段找自己关心的模型。做权重敏感度分析时,把全部名次的变化都列出来,别只盯着榜首易主与否,报告的完整性会高一个档次。
读榜三问
- 归一化用的哪种方法?
- 权重表是否随榜单公布?
- 权重扰动后名次稳不稳?
关于榜单权重再多问三句
- 权重可以完全客观吗?:不能,任何权重都携带价值判断,能公开规则、可被检验就是合格线。
- 等权重的榜单更公平吗?:未必,等权也是一种权重选择,可能让低区分度维度稀释关键差异。
- 普通用户该按哪个榜选产品?:按自己的使用场景找对应维度权重高的榜单,总分只是入口。


