数据来源与评分方法

聚模合不生产评测数据,也不出题。我们做三件事:搬运第三方公开数据、把它对齐到自己的模型库、在公开数据之上算出几个自己的指标(综合评分、维度分、性价比分)。

站上的榜单分两类,页面上会分别标注来源:

  • 第三方原始榜:Elo、token 用量、实测单次会话成本等来自上游,我们只做去重、归并、排序和展示,不改分数。
  • 聚模合自算榜:综合评分榜、四个模型库榜,以及用维度分重排的四个能力榜。这些分数由我们按本页公式计算,输入全部是第三方数据。

一、数据来源

榜单来源我们做了什么
综合评分榜LMArena 快照 + OpenRouter benchmarks 接口(Artificial Analysis / Design Arena / OpenRouter)+ 29 个公开 benchmark自算综合分
编程榜、文档理解榜、国产编程榜、国产游戏开发榜同上用我们的维度分重排,候选模型沿用上游榜单范围
开源模型榜、免费模型榜、性价比榜、国产性价比榜我们的综合分 + OpenRouter 托管报价自算排序分
Arena 9 个分页(文本、代码、文档、搜索、各类图像/视频生成与编辑)LMArena 每日榜单只归并与展示,Elo 原样
Design Arena 8 个子榜(网站、组件、数据可视化、代码、3D、SVG、游戏、ASCII 美术)Design Arena 指标(经 OpenRouter benchmarks 接口)只保留国产模型,用设计/编程维度分重排
推理用量榜、Agent 用量榜OpenRouter 每日 token 榜7 天求和后排序
模型用量榜、应用用量榜OpenRouter 每日榜展示上游名次
每美元价值榜(GPQA、Tau-bench)OpenRouter benchmarks 实测准确率与单任务成本计算准确率 ÷ 成本,按档位排序
单次会话成本四档(<$1、$2–9、$10–49、$50+)OpenRouter 实测会话成本中位数按成本从低到高排序

原始数据每天落盘存档,文件名与内容哈希都记录在评分产物里。

二、综合评分怎么算

公式

text
综合分 =(Arena 百分位 × 30% + API 评测 × 40% + 公开题库 × 30%)× 0.9

乘 0.9 只是把上限压到 90 分,不改变名次,保留两位小数。

三组输入与权重

组权重归一化后的值怎么来
Arena30%LMArena 的 code 与 text 两榜分数,各自在本榜参与者内换算成百分位后取平均
API 评测40%OpenRouter benchmarks 接口的三家指标,每个「来源 + 指标」组合各自换算成百分位,先按来源取均分再取平均。其中 Artificial Analysis 只取综合智能指数 intelligence_index
公开题库30%29 个公开 benchmark、1052 条成绩,每个项目换算百分位,先按机构取均分再取平均

为什么要先换百分位

各来源量纲不同(Elo、正确率、通过率),直接加权没有意义。所以顺序是:

  1. 每个评测项目内部算百分位,同分取平均秩,参照集合是该项目的全部参评模型。
  2. 同一模型在同一项目有多个配置时取最好成绩。
  3. 先在机构内取均分,再在机构之间取平均——机构内各项目等权,机构之间也等权,项目最多的机构不会因此更重。

计算示例

某模型当日三项输入是 Arena 百分位 99.6、API 组 94.3、公开题库组 97.4:

text
99.6 × 0.3 + 94.3 × 0.4 + 97.4 × 0.3 = 96.81  →  × 0.9 = 87.13

综合分是相对量,分低只说明它在当天这三个来源的参照集合里靠后。

模型身份怎么对应

先查别名表,再只接受同厂商的精确名称或去掉已知推理档位后唯一的名称。厂商、日期版本、推理档位冲突时拒绝匹配,不做模糊猜测——宁可少一项证据,也不错配。

缺数据与异常值

  • 三组缺任何一组就没有综合分,页面显示「数据不足」,不把权重摊给剩下的组。
  • 公开题库组至少 1 项评测;只覆盖 1 个模型的指标不参与(没有参照系)。
  • 有综合分的模型少于 40 个时,拒绝发布这一版榜单,保留上一版。
  • 分值落在量纲合理区间之外(Elo 500–3000 之外)、非有限值、负价格一律丢弃。
  • 每条分数记录评测条数、参与机构数与覆盖等级;公开题库少于 5 项或任一组机构少于 2 家标为低覆盖。

三、维度分与用维度分重排的能力榜

维度有六个:编程、文本、逻辑推理、设计与可视化、多模态、多语言。

  • 维度内先按「公开题库 : API 评测 = 3 : 4」合成,只有一组有证据时用那一组。
  • 有 Arena 证据时,维度评测占 70%、Arena 占 30%;没有则只用维度评测。
  • 最后同样乘 0.9。维度分不参与综合分计算,只用于描述能力。
  • 模型「支持视觉」「支持多语言」本身不算评测证据,没有对应数据时该维度为 0。

编程榜、文档理解榜、国产编程榜、国产游戏开发榜这四个榜,用维度分在上游榜单原有的候选模型范围内重新排序(分别对应编程、文本、编程、设计维度),候选范围不扩大到全库。Design Arena 的 8 个子榜同理,其中代码类用编程维度,其余用设计维度。

四、四个模型库榜

这四榜的综合分直接读同一份评分,排序分另算,报价一律取 OpenRouter 的托管路由报价,自托管零价不算报价。

榜范围排序
开源模型榜模型库标记为开源权重按综合分
免费模型榜OpenRouter 输入输出均为零的托管路由按综合分
性价比榜有付费托管报价且综合分大于 0综合分 ÷ 输出单价,取集合中位数为 50 分标杆,再做对数平滑:50 + 45 × tanh(log₂(比值 ÷ 中位数) ÷ 3)
国产性价比榜国产模型中有付费报价价格占 70%(log₁₀ 后反向归一化,越便宜越高)+ 综合分占 30%(区间归一化)

两个性价比分不是同一量纲(一个是中位数锚定的 5–95 分,一个是集合内归一化的 0–100 分),两榜分数不能互相比较。

五、排名规则

  • 综合分榜按未乘 0.9 的原始分降序;能力榜按展示分降序;四榜按各自排序分降序。
  • 同分时按模型标识稳定排序,不设并列名次:同分的两个模型会得到相邻但不同的名次。页面上的名次升降因此可能出现「分数没变、名次变了」,这是排序方式决定的。
  • 第三方原始榜沿用上游名次;每美元价值榜按「够用档(准确率 ≥ 70%)/ 机会档」两档分别从第 1 名排起。
  • 多数榜单只展示前 20–30 行,展示上限写在各榜页面的口径说明里。

六、局限

  • 机构标签尚未逐项核实。公开题库组的机构归属沿用既有数据库,其中标注为「未确认」的机构尚未逐项目核对。
  • 公开题库组是截至 2026-09-30 的快照,新模型在这一组天然吃亏。
  • Arena 组只覆盖参与过该榜的热门模型(当日 code 榜 90 个、text 榜 126 个身份),长尾模型缺这一组数据,因此缺整组不给分。
  • 百分位的参照集合随模型库变化,同一模型今天的百分位和下个月可能不同,即使原始成绩没变。
  • API 组的数据来自接口快照,接口给的日期是观察时间,不代表每个指标当天更新。
  • 「国产」判定使用维护中的厂商名单与关键词表,属于工程判定,不是官方认定。

七、版本记录

版本日期内容
v1.02026-10-13首版公开。综合分 = Arena 30% + API 评测 40% + 公开题库 30%,乘 0.9;百分位归一化后按机构等权聚合;缺整组不给分。

权重、归一化方式或收录范围发生实质调整时升版(例如 v1.1),在本表记录日期与变化内容,并同步更新内部实现文档。