聚模合不生产评测数据,也不出题。我们做三件事:搬运第三方公开数据、把它对齐到自己的模型库、在公开数据之上算出几个自己的指标(综合评分、维度分、性价比分)。
站上的榜单分两类,页面上会分别标注来源:
- 第三方原始榜:Elo、token 用量、实测单次会话成本等来自上游,我们只做去重、归并、排序和展示,不改分数。
- 聚模合自算榜:综合评分榜、四个模型库榜,以及用维度分重排的四个能力榜。这些分数由我们按本页公式计算,输入全部是第三方数据。
一、数据来源
| 榜单 | 来源 | 我们做了什么 |
|---|---|---|
| 综合评分榜 | LMArena 快照 + OpenRouter benchmarks 接口(Artificial Analysis / Design Arena / OpenRouter)+ 29 个公开 benchmark | 自算综合分 |
| 编程榜、文档理解榜、国产编程榜、国产游戏开发榜 | 同上 | 用我们的维度分重排,候选模型沿用上游榜单范围 |
| 开源模型榜、免费模型榜、性价比榜、国产性价比榜 | 我们的综合分 + OpenRouter 托管报价 | 自算排序分 |
| Arena 9 个分页(文本、代码、文档、搜索、各类图像/视频生成与编辑) | LMArena 每日榜单 | 只归并与展示,Elo 原样 |
| Design Arena 8 个子榜(网站、组件、数据可视化、代码、3D、SVG、游戏、ASCII 美术) | Design Arena 指标(经 OpenRouter benchmarks 接口) | 只保留国产模型,用设计/编程维度分重排 |
| 推理用量榜、Agent 用量榜 | OpenRouter 每日 token 榜 | 7 天求和后排序 |
| 模型用量榜、应用用量榜 | OpenRouter 每日榜 | 展示上游名次 |
| 每美元价值榜(GPQA、Tau-bench) | OpenRouter benchmarks 实测准确率与单任务成本 | 计算准确率 ÷ 成本,按档位排序 |
| 单次会话成本四档(<$1、$2–9、$10–49、$50+) | OpenRouter 实测会话成本中位数 | 按成本从低到高排序 |
原始数据每天落盘存档,文件名与内容哈希都记录在评分产物里。
二、综合评分怎么算
公式
text
综合分 =(Arena 百分位 × 30% + API 评测 × 40% + 公开题库 × 30%)× 0.9乘 0.9 只是把上限压到 90 分,不改变名次,保留两位小数。
三组输入与权重
| 组 | 权重 | 归一化后的值怎么来 |
|---|---|---|
| Arena | 30% | LMArena 的 code 与 text 两榜分数,各自在本榜参与者内换算成百分位后取平均 |
| API 评测 | 40% | OpenRouter benchmarks 接口的三家指标,每个「来源 + 指标」组合各自换算成百分位,先按来源取均分再取平均。其中 Artificial Analysis 只取综合智能指数 intelligence_index |
| 公开题库 | 30% | 29 个公开 benchmark、1052 条成绩,每个项目换算百分位,先按机构取均分再取平均 |
为什么要先换百分位
各来源量纲不同(Elo、正确率、通过率),直接加权没有意义。所以顺序是:
- 每个评测项目内部算百分位,同分取平均秩,参照集合是该项目的全部参评模型。
- 同一模型在同一项目有多个配置时取最好成绩。
- 先在机构内取均分,再在机构之间取平均——机构内各项目等权,机构之间也等权,项目最多的机构不会因此更重。
计算示例
某模型当日三项输入是 Arena 百分位 99.6、API 组 94.3、公开题库组 97.4:
text
99.6 × 0.3 + 94.3 × 0.4 + 97.4 × 0.3 = 96.81 → × 0.9 = 87.13综合分是相对量,分低只说明它在当天这三个来源的参照集合里靠后。
模型身份怎么对应
先查别名表,再只接受同厂商的精确名称或去掉已知推理档位后唯一的名称。厂商、日期版本、推理档位冲突时拒绝匹配,不做模糊猜测——宁可少一项证据,也不错配。
缺数据与异常值
- 三组缺任何一组就没有综合分,页面显示「数据不足」,不把权重摊给剩下的组。
- 公开题库组至少 1 项评测;只覆盖 1 个模型的指标不参与(没有参照系)。
- 有综合分的模型少于 40 个时,拒绝发布这一版榜单,保留上一版。
- 分值落在量纲合理区间之外(Elo 500–3000 之外)、非有限值、负价格一律丢弃。
- 每条分数记录评测条数、参与机构数与覆盖等级;公开题库少于 5 项或任一组机构少于 2 家标为低覆盖。
三、维度分与用维度分重排的能力榜
维度有六个:编程、文本、逻辑推理、设计与可视化、多模态、多语言。
- 维度内先按「公开题库 : API 评测 = 3 : 4」合成,只有一组有证据时用那一组。
- 有 Arena 证据时,维度评测占 70%、Arena 占 30%;没有则只用维度评测。
- 最后同样乘 0.9。维度分不参与综合分计算,只用于描述能力。
- 模型「支持视觉」「支持多语言」本身不算评测证据,没有对应数据时该维度为 0。
编程榜、文档理解榜、国产编程榜、国产游戏开发榜这四个榜,用维度分在上游榜单原有的候选模型范围内重新排序(分别对应编程、文本、编程、设计维度),候选范围不扩大到全库。Design Arena 的 8 个子榜同理,其中代码类用编程维度,其余用设计维度。
四、四个模型库榜
这四榜的综合分直接读同一份评分,排序分另算,报价一律取 OpenRouter 的托管路由报价,自托管零价不算报价。
| 榜 | 范围 | 排序 |
|---|---|---|
| 开源模型榜 | 模型库标记为开源权重 | 按综合分 |
| 免费模型榜 | OpenRouter 输入输出均为零的托管路由 | 按综合分 |
| 性价比榜 | 有付费托管报价且综合分大于 0 | 综合分 ÷ 输出单价,取集合中位数为 50 分标杆,再做对数平滑:50 + 45 × tanh(log₂(比值 ÷ 中位数) ÷ 3) |
| 国产性价比榜 | 国产模型中有付费报价 | 价格占 70%(log₁₀ 后反向归一化,越便宜越高)+ 综合分占 30%(区间归一化) |
两个性价比分不是同一量纲(一个是中位数锚定的 5–95 分,一个是集合内归一化的 0–100 分),两榜分数不能互相比较。
五、排名规则
- 综合分榜按未乘 0.9 的原始分降序;能力榜按展示分降序;四榜按各自排序分降序。
- 同分时按模型标识稳定排序,不设并列名次:同分的两个模型会得到相邻但不同的名次。页面上的名次升降因此可能出现「分数没变、名次变了」,这是排序方式决定的。
- 第三方原始榜沿用上游名次;每美元价值榜按「够用档(准确率 ≥ 70%)/ 机会档」两档分别从第 1 名排起。
- 多数榜单只展示前 20–30 行,展示上限写在各榜页面的口径说明里。
六、局限
- 机构标签尚未逐项核实。公开题库组的机构归属沿用既有数据库,其中标注为「未确认」的机构尚未逐项目核对。
- 公开题库组是截至 2026-09-30 的快照,新模型在这一组天然吃亏。
- Arena 组只覆盖参与过该榜的热门模型(当日 code 榜 90 个、text 榜 126 个身份),长尾模型缺这一组数据,因此缺整组不给分。
- 百分位的参照集合随模型库变化,同一模型今天的百分位和下个月可能不同,即使原始成绩没变。
- API 组的数据来自接口快照,接口给的日期是观察时间,不代表每个指标当天更新。
- 「国产」判定使用维护中的厂商名单与关键词表,属于工程判定,不是官方认定。
七、版本记录
| 版本 | 日期 | 内容 |
|---|---|---|
| v1.0 | 2026-10-13 | 首版公开。综合分 = Arena 30% + API 评测 40% + 公开题库 30%,乘 0.9;百分位归一化后按机构等权聚合;缺整组不给分。 |
权重、归一化方式或收录范围发生实质调整时升版(例如 v1.1),在本表记录日期与变化内容,并同步更新内部实现文档。