Local Quench

用你手上的显卡跑编程智能体。

Local Quench 用你自己显卡上的模型(在 LM Studio、llama.cpp、Ollama 或 vLLM 里加载)来读代码、改代码、运行命令和跑测试。模型外面那层规则和工具,我们叫它 harness,是专门针对本地模型的常见毛病设计的:它能发现小模型卡住、兜圈子和“假装完成”的情况,这些正是小模型完不成任务的主要原因。QuenchBench 则在你自己的机器上测出一个模型到底能做完多少活。

  • 运行平台Linux(AppImage)和 Windows。Android 上用应用直接连接或通过 Tailscale 连接;iPhone 和 iPad 上通过 Tailscale 在 Safari 里使用。连接方法
  • 模型LM Studio、llama-server、Ollama 或 vLLM 能加载的任何模型。也可以用自己的 API 密钥接入云端模型(Claude、GPT、Gemini、OpenRouter、NVIDIA)。
  • 你的代码留在你的电脑上。如果想帮助改进 Local Quench,可以自己选择分享对话。对话分享说明
  • 花费你自己的电费,每个对话单独计算,旁边还会列出同样的 token 用云端模型要花多少钱。用云端模型时,就是服务商的 API 价格。
下载

公开测试版。免费,支持 Windows、Linux 和 Android。

全部下载和系统要求

你的显卡能跑什么

应用内置的模型推荐
模型量化文件运行位置估计 tok/s估计质量

这两列都是估算,不是实测。速度按显存带宽算:每生成一个 token,所有激活的权重都要读一遍,所以大小和架构相同的两个模型速度也相同。选列表里的显卡会按厂商规格自动填好显存和带宽,其他显卡请选“自定义”。质量取公开的 SWE-bench Verified 分数,按量化程度下调;模型只公布了 SWE-bench Pro 时,用它来估算(标 ~)。模型列表更新于 2026-10-29。在应用里,用 QuenchBench 测过的模型会显示你自己机器上的实测分数。

Local Quench 桌面应用:中间是和智能体的对话、它改的文件和跑的测试,左边是项目文件,右边是模型预设和采样参数面板,顶栏上是上下文和费用计数
桌面应用:对话里有智能体改的代码和跑的测试,旁边是项目文件、模型预设和思考上限,顶栏显示上下文和费用。
20 秒看懂 Local Quench 0.1.1(有背景音乐,界面为英文):本地模型在示例项目里改一个文件并跑测试,然后是 harness、0.1.1 的新功能和下载页。点播放后才会加载(5.6 MB,从本站下载)。

小模型出错的方式是可以预料的,harness 就是照着这些错误设计的。

下面每一条规则都来自 9B 和 35B 模型做真实任务的对话记录。大多数规则都能单独关掉,这样就能用 QuenchBench 在你的机器上测出每一条对你的模型有多大用。Claude、GPT、Gemini 这类前沿模型用的是精简版 harness,不加这些护栏。

本地模型会这样
Local Quench 这样处理
写一句“我现在来跑测试”,然后不调用任何工具就停了。
发现它说了要做却没做,让它接着干。
bug 修好了,接着花二十步去调试自己手写的检查脚本。
统计从上次真正改动以来走了多少步,提醒它拿检查脚本和任务对照一下。
运行 make | tail,看到退出码是 0,就报告成功。
报告管道里每个命令的退出码,构建失败就是失败。
用 & 启动开发服务器,然后找不到日志去哪了。
把它作为后台任务运行,并给每个对话一个不会被清掉的 /tmp。
同一条命令换着不同的 | grep 试了二十次。
发现输出没有变化,告诉它那一行到底是什么意思。
用一个已经对不上的搜索块去改文件。
修复相近的匹配,展示 diff,每次改完都做语法检查。

所有工具、所有 harness 行为以及关闭它们的开关(英文),看 QuenchBench 结果时可以对照。

编程智能体该有的都有,并按你显卡上的模型调好。

Local Quench 是完整的智能体,不只是个聊天窗口:它能读、改整个项目,运行命令和测试,检查自己的工作,而它能动哪些东西始终由你决定。

读懂项目

大纲、搜索、查找文件、按重要性排序的仓库地图;装了语言服务器时还能查符号的定义和引用,跨文件重命名。

安全地修改

每个模型用它最擅长的编辑格式,相近匹配自动修复,每次改完都做语法检查和新问题诊断,每处改动可单独撤销,每条消息可回退。

运行和测试

退出码如实报告的命令执行、后台任务、测试工具,还有在智能体说“完成了”时自动运行的验证命令。

操作浏览器

打开你的开发服务器,读页面、点击、输入,还能接收你指出的页面元素。

记住项目

/init 会把 CLAUDE.md、AGENTS.md 和 Cursor rules 改写成小模型能遵守的简短规则,原文件不动。成功跑过的命令会记下来,下个对话接着用。

规划和拆分任务

计划模式、任务列表、并行探索的子智能体、每个对话一个 git worktree,以及用你的测试来评判的 best-of-N 多次尝试。

扩展

Claude Code 格式的 MCP 服务器、skills 和 hooks,GitHub 拉取请求和 CI 检查,网页搜索和抓取,还有供脚本和 CI 调用的命令行。

不出项目目录

碰项目以外的东西之前先问你,可以只允许这一次、这个对话、这次会话或整个项目。命令在沙箱里运行。

自我评估

QuenchBench、按你的硬件推荐模型、按模型调整 harness 的调优器,以及每个对话按电费和云端价格算出的花费。

有什么不同

Local Quench云端编程智能体开源智能体
为谁设计你显卡上的本地模型,也支持云端模型自家的前沿模型任何模型,所有模型用同一套 harness
按模型大小调整 harness小模型给更多帮助,前沿模型用精简版,调优器再按具体模型微调一套 harness一套 harness
你的代码留在你的电脑上发给服务商取决于你选的模型
内置基准测试在你的机器上,用你的模型和量化跑 QuenchBench没有没有
告诉你哪个模型适合你的显卡有,附带速度和质量估算没有没有
LM Studio 集成上下文、KV 缓存、运行时、提示缓存槽位没有通过 OpenAI 风格的接口
手机和平板连你自己的电脑,直连或通过 Tailscale通过他们的云很少支持
价格免费订阅或按 token 计费免费,模型费用自付

直接指给它看,不用费劲描述。

智能体会在真正的浏览器里打开你的开发服务器,读页面、点击、输入,还能看控制台。你在应用里看到的是同一个页面。右键点一个元素,写下要改什么,智能体就会拿到这个元素、它在页面上的位置,以及它来自哪个文件的哪几行。

按设计稿把定价页做出来。
完成:src/pricing.html 里有三个套餐和切换开关,测试通过。
localhost:5173/pricing
Starter$0
Pro$49 / monthStart free trial
Team$99
<p> p.price src/pricing.html:18-20 exact What should change here? (optional) CancelAdd to chat

如果页面来自项目里的 HTML 文件,元素能精确对应到具体行。React、Vue 和 Svelte 的开发构建会自己报出源文件和行号。给元素写备注是可选的,要改什么也可以直接写在消息里。

QuenchBench:本地模型能不能干你要的活?

537 个任务,覆盖 13 类工作和 7 种编程语言,由隐藏测试在一个断网的全新容器里检查。结果按工作类别给出结论:你显卡上的这个模型是可靠、需要复查,还是不适合,并附误差范围。用户分享的结果按模型、量化和显卡合并统计。

537个任务,每个都有能通过的参考答案和会失败的初始代码
13类工作,从修 bug 到模糊的需求,再到 20 个文件的项目
7种编程语言,另有在真实浏览器里检查的 Web UI

QuenchBench 怎么测、分哪些类别、结果如何

在手机或平板上接着干。

电脑上的应用会把界面提供给你的手机或平板。模型继续在家里的显卡上运行,手机上能看到对话、文件和改动,也能启动和停止智能体。不需要在我们这里注册账号。

  1. Android 直连:在 Local Quench 里打开直连(Settings › Phone & tablet),安装应用,扫描二维码。两台设备之间端到端加密;我们的服务器只转发几条加密消息,让它们能找到对方。
  2. 通过 Tailscale(Android、iPhone 和 iPad):在电脑和手机上都装 Tailscale,登录同一个账号,再打开 Tailscale 选项。全程不经过我们的服务器。iPhone 或 iPad 上用 Safari 打开链接,然后添加到主屏幕。

详细步骤,以及连不上时怎么办

横放的平板上运行 Local Quench:项目文件、对话和模型设置
手机上的 Local Quench:和智能体的对话
平板和手机上的应用,连接的是一台在 LM Studio 里跑模型的电脑。

你的数据归你。

没有你的同意,Local Quench 绝不会拿走你的代码或对话。一切都留在你的电脑上,智能体要读或改项目文件夹以外的东西之前,应用会先问你。如果你接入云端模型,请求会发给那家服务商,用的是你自己的账号。

分享默认关闭。如果你想帮助改进 Local Quench 和以后的模型,可以分享你的对话。“帮助改进应用”和“允许用对话训练模型”是两个独立的选择:你可以同意前者、拒绝后者。同意之前,应用会展示完整条款;两个选择随时都能改,分享过的内容也随时可以删除。

对话分享说明 · 隐私政策

你的对话,在你电脑上
export OPENAI_API_KEY=sk-proj-8Hq2…Tz
password = "hunter2hunter2"
git clone https://jan:s3cret@git.example.net/app
mail jan.kowalski@gmail.com
cd /home/jan/code/app
分享时我们收到的内容
export OPENAI_API_KEY=[API_KEY]
password = "[SECRET]"
git clone https://[PASSWORD_IN_URL]@git.example.net/app
mail [EMAIL]
cd ~/code/app
上面是留在你电脑上的原始对话,下面是会发出的副本:密钥、密码、邮箱地址和你的主目录在离开电脑之前就已经在本地删掉了。在应用里,Preview 可以对你自己的任何对话显示这个对比。

常见问题。

这里是简短回答;详细内容见对话分享说明、隐私政策和使用条款。

免费吗?
免费。不需要账号,也不需要我们提供的密钥。本地模型只花电费;云端模型用你自己的 API 密钥,由服务商收费。
开源吗?
不开源。Local Quench 可以免费用于个人和商业用途,遵循它自己的最终用户许可;源代码不公开。它用到的开源库及其许可证列在 THIRD_PARTY_NOTICES.txt 里,每个构建都附带这个文件。QuenchBench 的任务是应用的一部分,这样才能在你的机器上运行。
如果我什么都不分享,有什么会离开我的电脑?
你的代码和对话都不会。应用会连接你选的模型服务器,向 localquench.com 和 GitHub 检查更新(只涉及版本号),设置云端服务商时会从 OpenRouter 获取公开价格表。手机直连会通过我们的服务器转发几条加密消息,让两台设备找到对方。分享对话或基准测试结果是另外的选项,你不打开就一直是关的。
支持哪些模型?
你的服务器能加载的都行。harness 测试最多的是 Qwen 3、Ornith 1.5、Gemma 4 和 Ternary Bonsai 2;这些以及另外十几个模型系列都带有按官方模型卡设置的采样预设。QuenchBench 能告诉你某个模型在某种量化下、在你的显卡上能做到什么程度。
支持 macOS 吗?
暂不支持。先出 Windows 和 Linux 版,macOS 版在计划中。iPhone 或 iPad 现在就可以通过 Safari 和 Tailscale 使用你电脑上运行的应用。
为什么 Windows 启动时会警告?
Windows 版还没有代码签名证书,所以第一次运行时 SmartScreen 会显示“Windows 已保护你的电脑”。点“更多信息”,再点“仍要运行”。请只从本站或 GitHub 发布页下载。