QuenchBench 排行榜
本地模型在 QuenchBench 上的分享结果:哪个模型、哪种量化、在哪块显卡上,能解决多少任务。每一行都是用户自己跑完后选择分享的结果;结果按模型、量化、KV 缓存类型、显卡和任务选择合并统计,可疑的运行不会上榜。
- 解决率隐藏检查全部通过的任务所占比例,取各台电脑的中位数(一台电脑只算一次,无论它分享了多少次运行)。
- 可比同一行里只有使用默认 harness、任务选择相同的运行;消融测试、手工挑选的任务列表和少于 13 个任务的运行不上榜。在云端 API 上的运行会标明。
- 分享你的结果在 Local Quench 里运行 QuenchBench,跑完后应用询问时点 Share。排行榜只显示数字;这次运行的对话是否一起发送,由同一个对话框里的一个勾选框决定。详见对话分享说明。
用户分享的结果
每次运行结束后,应用会询问是否分享,并展示将要发送的内容:模型、量化、KV 缓存类型、推理引擎、采样设置、硬件和每个任务的数据,绝不包括你的代码或你自己的对话。如果你勾选“Also send the agent's conversations from this run”(打开了对话分享时总会发送),这次运行的对话会一起发送:任务文本、模型的回复,以及它在我们的任务文件上运行的命令,其中不含你项目里的任何内容。这些对话永不公开;它们用于改进 harness,只有在你另外允许用分享的对话训练模型、并且模型是本地模型时,才用于训练和评估模型,并与结果一起删除。结果按模型、量化、KV 缓存类型和显卡合并统计。
| 模型 | 量化 | 基准测试 | 显卡 | 解决率 | 任务数 | 电脑数 | tok/s |
|---|---|---|---|---|---|---|---|
| 还没有分享的结果。在应用里运行 QuenchBench 并分享,你的结果就会出现在这里。 | |||||||
认证合作方
拥有大型硬件、签署了合作协议并在审核下运行 QuenchBench 的个人和公司。这里只列出选择公开名称的合作方;上表中带 认证合作方 标记的行,表示该行有部分运行来自合作方。解决率是该模型、量化和显卡的合并结果。
与公开基准测试对照
每个模型一行:左边是它在用户分享的运行中的 QuenchBench 结果(有多组结果时,取电脑最多的完整规模运行;在 Local Quench 里、普通显卡上运行量化后的权重),右边是模型开发者或公开基准测试自己的排行榜公布的分数。后者由别人测得,用的是全精度权重、他们自己的 harness 和提示词,所以两边的数字不能一一对比。标记:● 基准测试自己的排行榜,○ 模型开发者自己公布,◇ 第三方。每个公布的分数都链接到来源。模型列表来自应用的数据,更新于 2026-10-29。
| 模型 | 参数量 | QuenchBench | SWE-bench Verified | SWE-bench Multilingual | Terminal-Bench 2.0 | Aider Polyglot | LiveCodeBench |
|---|---|---|---|---|---|---|---|
| Mistral Medium 3.5 (128B) | 128B | - | 77.6% ○ | - | - | - | - |
| Qwen3.8 Flash-Next | 125B-A6B | - | - | 81% ○ | - | - | 91.9% ○ |
| Devstral 2 (2512) | 123B | - | 53.8% ● | - | 32.6% ○ | - | - |
| Nemotron 3 Super 120B-A12B | 120B-A12B | - | 60.47% ○ | 45.78% ○ | 31% ○ | - | - |
| Laguna S 2.1 | 118B-A8B | - | - | 78.5% ○ | - | - | - |
| gpt-oss-120b | 117B-A5.1B | - | 26% ● | - | 18.7% ● | 41.8% ● | - |
| Qwen3-Coder-Next | 80B-A3B | - | 70.6% ○ | - | 36.2% ○ | - | - |
| Recursive Flint | 39.8B-A2.5B | - | 74.2% ○ | - | - | - | - |
| Seed-OSS 36B Instruct | 36B | - | 56% ○ | - | - | - | 67.4% ○ |
| Qwen3.6 35B-A3B | 35B-A3B | - | 73.4% ○ | - | 51.5% ○ | - | 80.4% ○ |
| Qwen3.5 35B-A3B | 35B-A3B | - | 70% ○ | - | 40.5% ○ | - | 74.6% ○ |
| Ornith 1.5 35B-A3B | 35B-A3B | - | 79% ○ | 71.4% ○ | - | - | - |
| Laguna XS 2.1 | 33B-A3B | - | 70.9% ○ | 63.1% ○ | 37.5% ○ | - | - |
| Qwen2.5-Coder 32B Instruct | 32B | - | 9% ● | - | - | 16.4% ● | - |
| Gemma 4 31B | 31B | - | 52% ◇ | - | 42.9% ◇ | - | 80% ○ |
| GLM-4.7-Flash | 30B-A3B | - | 59.2% ○ | - | - | - | 64% ○ |
| Qwen3-Coder 30B-A3B | 30B-A3B | - | 51.6% ● | - | - | - | - |
| Nemotron 3 Nano 30B-A3B | 30B-A3.5B | - | 38.8% ○ | - | - | - | 68.3% ○ |
| Muse Glimmer 30B | 30B | - | 76% ○ | - | - | - | - |
| Nemotron 3.5 Lightning 30B-A3B | 30B-A3B | - | 51.56% ○ | 39.33% ○ | - | - | - |
| Granite 4.2 30B | 30B | - | 57% ○ | 41.89% ○ | - | - | 75.77% ○ |
| Gemma 3 27B | 27B | - | - | - | - | 4.9% ● | 29.1% ○ |
| Qwen3.6 27B | 27B | - | 77.2% ○ | - | 59.3% ○ | - | 83.9% ○ |
| Qwen3.5 27B | 27B | - | 75% ○ | - | 41.6% ○ | - | 80.7% ○ |
| Qwen3.8 27B | 27B | - | - | - | - | - | 90.3% ○ |
| Ternary Bonsai 2 27B | 27B | - | - | - | - | - | 90.07% ○ |
| Gemma 4 26B-A4B | 25.2B-A3.8B | - | 17.4% ◇ | - | 34.2% ◇ | - | 77.1% ○ |
| Devstral Small 2 (2512) | 24B | - | 56.4% ● | - | 22.5% ○ | - | - |
| gpt-oss-20b | 21B-A3.6B | - | 60.7% ○ | - | 3.1% ● | - | - |
| Phi-4-reasoning | 14B | - | - | - | - | - | 53.8% ○ |
| Gemma 4 12B | 12B | - | - | - | - | - | 72% ○ |
| Qwen3.5 9B | 9B | - | 53.2% ○ | - | 9.2% ● | - | 65.6% ○ |
| Ornith 1.5 9B | 9B | - | 70.6% ○ | 54.4% ○ | - | - | - |
| Gemma 4 E4B | 8B (4.5B effective) | - | - | - | - | - | 52% ○ |
| Spark X2.5 4B | 4B | - | 41.6% ○ | 53.3% ○ | - | - | - |
| Spark X2.6 4B | 4B | - | 62.8% ○ | 64.7% ○ | - | - | - |
| LFM3 1.7B | 1.7B | - | 43.4% ○ | 23% ○ | - | - | 73.46% ○ |
量化的代价
同一个模型的不同量化,在相同的任务上、使用相同的 KV 缓存类型,与它最大的那个量化相比。比的不是困惑度,而是智能体还能不能把活干完。所有显卡合在一起统计,因为显卡只影响速度,不影响答案。
| 模型 | 量化 | 位数 | 解决率 | 变化 | 任务数 | 电脑数 |
|---|
变化:与该模型第一个量化相比相差的百分点。± 是单个比率的 95% 误差范围;小于误差范围的变化只是噪声。一个量化要有至少 20 个完成的任务才会显示。