更新日志
每个版本改了什么。应用界面目前只有英文,所以菜单和设置名称保留英文原文。
Local Quench 0.1.2
2026 年 11 月 2 日
让你的本地模型给其他智能体当助手、对你自己的项目做安全审查(实验预览版)、语音输入、应用内终端,以及让小模型不跑偏的 harness。0.1.1 会自动更新到这个版本。
新功能
- 让你的本地模型给 Claude Code、Codex 和 Claude Desktop 当助手。打开智能体桥接后,这些智能体可以把任务交给你自己显卡上的模型(写测试、机械性的重构、能明确复现的 bug),跟进进度并检查结果。这类任务最高能在什么模式下运行由你设定;命令和删除操作仍要在 Local Quench 里等你批准。Claude Code 的插件用两条命令就能装好。已经用真实的 Claude Code 试过:它能启动任务、一直等到完成而不超时、在任务等你批准时得到通知并知道模型在做什么、读取 diff,还能取消任务。
- 终端里的 Local Quench:
LocalQuench chat是同一个智能体、同样的模型、审批和沙箱,只是在终端里运行,对话保存在应用里能看到的地方;LocalQuench run --json把一个任务以 JSON 行的形式流式输出。 - 语音输入。按住麦克风按钮说话,本地的语音模型会把它转成文字放进消息框。任何内容都不会离开你的电脑。这个功能是用 Local Quench 自己做出来的,由笔记本显卡上的一个 27B 模型完成(见“用 Local Quench 做的改动”)。
- Permissions Center。一个地方集中显示智能体在某个对话里能做什么、你给过的每一项权限(永久允许的命令、项目以外的文件夹、整个项目范围的授权、MCP 服务器、hooks)以及你过去的回答,每一项都有 Revoke 按钮。
- 应用内终端,在项目文件夹里打开,手机或平板上也能用:这是你自己的 shell,模型永远看不到。在 Windows 上是测试版:那里的测试不如 Linux 上充分。
- 聊天模式。消息框下面的 Chat 按钮把对话变成和模型的普通聊天:没有工具,不碰项目文件,只有回答。关掉它,编程智能体就会接着处理项目。
- 可以附加 Word、Excel 和 PowerPoint 文件(以及对应的 OpenDocument 格式):模型能读到其中的文字、表格和幻灯片;此前已经支持图片、PDF 和代码文件。
- 智能体工作时也能发消息。回复过程中发出的消息会作为排队的气泡等着,在下一步时加入,不会打断智能体;你可以编辑或取消它,也可以立即发送。
- 被中断的任务。如果 Local Quench 在回复中途停下(崩溃、更新、被关闭),对话里会说明这一点并询问是否继续,而不是让你自己去猜。
- Model Compatibility Doctor。点一下就能在你浪费一个会话之前检查模型:上下文是否真的加载了、引擎版本、KV 缓存类型(低于 q8_0 时给出提示)、采样预设、有问题的量化或对话模板、工具调用和速度。
- 禁止访问的路径(blocked paths),可以按项目和按对话设置(密钥、.env 文件、~/.ssh):无论其他权限怎么放开,智能体都不会碰它们。
- 项目简介:只有你知道的项目信息,固定在这个项目的每个对话里;模型可以通过问你问题来帮你写。
- 新模型不用更新应用就能拿到设置,来自应用本来就会下载的模型列表:已加入 LFM3、Spark X2.5 和 X2.6、Gemma 4、Ornith 1.5、Ternary Bonsai 2 和 Recursive Flint。
- Quench Protect 实验预览版:Local Quench 旁边的第二个标签页,在你的电脑上审查你自己项目的安全性。它会查找泄露的密钥和密码、有风险的代码(用字符串拼出来的 SQL 或 shell 命令、不安全的加载、被关掉的 TLS 校验、HTML 里的用户输入),以及借助它可以替你安装的扫描器(gitleaks、semgrep、bandit、osv-scanner、pip-audit;npm audit 随 Node.js 提供)查找有漏洞的依赖。扫描器在只读沙箱里运行。项目里的副本(另一个分支、备份)也会被扫描,重复的问题只列一次。
- AI 审计:模型分四个只读步骤寻找扫描器发现不了的缺陷:找出攻击者可能的入口,逐个区域排查,设法推翻每个候选问题,只报告它追查到底的问题。发现的问题会回到 Protect 标签页。
- 在单独的副本里修复:选中要修的问题,发给 Local Quench。修复会放在单独的分支(
security/...)上,每个都附带回归测试;你审查后合并,或者在你审查之后让模型去合并。然后再扫描一次确认。 - 可以把发现的问题导出为 Markdown 或 zip,交给别的工具或写进工单。
- 这是实验功能:它可能漏掉真实的问题,也可能报告并不存在的问题。请把它发现的问题当作需要核实的线索,把干净的结果理解为“没有发现问题”,而不是“安全”。
- 对小模型更聪明的 harness:它能找回一些模型写成文本或写在推理过程里的工具调用,修复有问题的 shell 命令,叫停连续几分钟只推理不行动的情况(时间上限跟随模型自己的速度,所以慢笔记本不会被过早打断),并且在模型已经测试或提交了工作时跳过最后的自查。它不会再让模型用几行内容“新建”一个长文件把它抹掉,并且会让模型先在可能的位置找,再去搜索整个磁盘。
- harness 档位按行为而不是参数量划分:Guided、Standard 和 Lean(以及用于测量的 Bare)。Auto 会根据已知的模型信息、它的系列和型号来选择,对 1–2 bit 的量化多给一些帮助;Model 标签页会显示选了哪一档以及原因。Minimal(只能由你选择,绝不会自动选)发送的系统提示词加上五个简短工具说明约 700 token,而不是 2,000 到 3,700,并保留所有不占提示词的修复。
- Recap:项目按仓库计数,基准测试集中在一处,日历跟随你选择的时间段。
- 基准测试会记录确切的引擎构建版本,所以不同版本的 llama.cpp、Ollama 和 vLLM 之间的结果可以比较。新增 Short 规模(每个类别两个任务,共 26 个任务),介于 Ultra quick 和 Quick 之间;在同一个本地引擎上同时跑多个任务时,时间上限会相应放宽,所以分数不受这个设置影响。pi 编程智能体(原样运行,以及加上社区的工具调用修复和防循环插件)是 QuenchBench 可以在同样的任务和模型上运行的智能体之一。“模糊的需求”类任务现在接受所有合理的解法,而不只是参考答案。
- 对分享内容做更严格的密钥检查:一组测试数据包含 110 种密钥(许多服务的 API 密钥、URL 和命令里的密码、私钥、cookie、token)和 52 种普通文本,从中找出了 25 处漏网和 17 处不必要的删除,现已全部修复。分享的基准测试结果里的自由文本(运行的标签)现在也会被清理。
- QuenchBench Protect:151 个安全任务(找出漏洞,或者修复漏洞并附测试),来自日常项目和企业环境(租户、token 和登录、CI 流水线、容器、云配置),用来测量本地模型和 harness 审查和修复代码的能力。
- 平板上的桌面模式:可调整大小的窗口、鼠标和键盘、文件列表里的右键菜单;窗口占屏幕三分之一时,上下文指示条也始终可见。
- 从对话生成“用 Local Quench 做的改动”记录:
/built-with会收集完成某项改动的那些对话的事实(模型、量化、推理引擎、显卡、步数、时间、token),用于更新日志里的“用 Local Quench 做的改动”页面。
修复
- 新发行版上的 AppImage(GitHub issue #7):在 Arch、Fedora 和其他较新的系统上窗口打不开(“GLIBCXX_3.4.32 not found”),因为打包的 C++ 运行库比显卡驱动需要的旧。现在如果系统的运行库更新,启动器就用系统的。
- 不再无故启动 LM Studio(GitHub issue #8):使用其他模型服务器时,应用仍会调用 LM Studio 的
lms工具,把 LM Studio 唤醒。现在只有在 LM Studio 是当前使用的服务器时,才会调用lms。 - 叫停兜圈子的推理:如果一次回复的推理反复重复同一句话或同一段内容,会以一条提示结束,而不是把上下文填满。
- Spark X2.6 的推理不再在 8,000 token 处被截断;它的模型卡要求使用完整预算。
- 默认更安全:基准测试任务在沙箱里看不到自己的隐藏测试和答案,也看不到应用的数据;配对的手机或平板不能修改只在电脑上才有意义的设置;纯 JSON 形式写出的工具调用只有单独占一行时才会执行。
0.1.2 之后的计划
是计划,不是承诺;顺序可能会变。完整计划见路线图。
- 0.1.3:每个模型得到它需要的帮助:一个简短的检测,观察你的模型作为智能体的工作方式,并据此调整 harness;在 QuenchBench 上测量实验性的 harness 行为,在有帮助的地方打开。
- 0.1.4:基于实测的 KV 缓存和量化建议,以及 Apple Silicon 上的 macOS(先向测试者提供测试版)。
- 0.1.5:Quench Protect 结束预览:测量 AI 审计的效果,并提供一个隔离的实验环境,通过对你自己的代码运行测试来确认发现的问题。
- 0.2:Local Quench 自己启动和配置 llama.cpp(上下文、KV 缓存、GPU 层数),不再依赖 LM Studio;任务回放;在同一任务上并排对比两个模型;公开与其他智能体的对比结果。
Local Quench 0.1.1
2026 年 10 月 27 日
安全和隐私加固、harness 修复,以及用户分享结果排行榜的第一部分。
从 0.1.0 升级
- Linux(AppImage):0.1.0 会自己提示这次更新,照常接受即可。
- Windows:请手动安装 0.1.1。Windows 上的 0.1.0 不会提示这次更新:它的更新程序在替换文件时,如果有文件正被占用,可能会让应用文件夹里没有可运行的程序。请关闭 Local Quench,从 localquench.com 或 GitHub 发布页下载
LocalQuench-windows-x64.zip,校验它(见下文),解压后从新文件夹里运行LocalQuench.exe(之后可以删掉旧文件夹)。对话、API 密钥和设置都会保留:它们存放在%APPDATA%\local-forge,不在程序文件夹里。从 0.1.1 起,Windows 上又会自动更新了。 - 校验下载文件:
SHA256SUMS列出每个文件的 SHA-256,SHA256SUMS.sig是用下载页上公布的发布密钥对它做的签名。用 OpenSSL 3:openssl pkeyutl -verify -pubin -inkey release-key.pub.pem -rawin -in SHA256SUMS -sigfile SHA256SUMS.sig,然后比对文件的哈希(Windows 上用certutil -hashfile LocalQuench-windows-x64.zip SHA256,Linux 上用sha256sum -c SHA256SUMS --ignore-missing)。 - 从 0.1.0(Linux)自动更新时,只通过 HTTPS 和发布清单里的 SHA-256 校验:0.1.0 无法校验签名。从 0.1.1 起的每次更新都带签名。
新功能
- 分享 QuenchBench 结果。你选择分享一次基准测试运行时,它会进入 localquench.com 上的公开排行榜:模型、量化、推理引擎设置、显卡和每个任务的结果。同一个对话框里还有一个勾选框,可以同时发送这次运行的对话(任务文本、模型的回复以及它在我们的任务文件上运行的命令,不含你项目里的任何内容);这些对话永不公开、不出售,用来在真实运行中调试 harness,只有在你也允许用分享的对话训练模型时才会用于训练。第一次时这个框不勾选(之后会记住你上次的选择);打开了对话分享时,对话总会随你分享的结果一起发送。可疑的运行不会上榜。你可以随时在 Settings › Data sharing 里删除分享过的全部内容。
- 量化的代价。分享的运行还会说明模型是怎么运行的:推理引擎(LM Studio 运行时、llama.cpp、Ollama、vLLM)、KV 缓存类型和采样设置。KV 缓存不同的结果分开统计;对于用多种量化跑过的模型,QuenchBench 页面会显示每种量化相对最大量化能解决多少任务。
- 从命令行跑基准测试。本仓库里的
quenchbench.py会下载应用,在你的服务器提供的任何模型上运行 QuenchBench、SWE-bench、Terminal-Bench 或 Aider Polyglot。Windows 版现在会输出到启动它的控制台。 - 开始界面。打开应用时不再直接进入上一个对话或新建一个空对话,而是显示开始界面,询问要在哪个文件夹里工作。New chat 也会这样问。
- 更整洁的侧边栏。日期、项目和基准测试运行默认折叠;打开某个对话时,它所在的分组会自动展开。
- 看得见的基准测试错误。运行失败或停止时会立刻显示原因,Settings › Benchmark 里会有一个清楚的提示框。
修复
删除已分享的数据,并得到确认。Settings › Data sharing 会显示服务器确认删除的时间,以及服务器有意保留的内容(同意记录、删除记录,以及一份技术日志,其中安装标识符只以哈希形式出现;备份副本保留到被替换为止,保留最近 14 份每日备份)。同意记录、删除记录和技术日志在超过隐私政策规定的期限(6 年)后,服务器现在会自动删除;分享的对话和基准测试运行的对话在存储三年后自动删除,服务器每天检查一次;如果需要恢复备份,在使用之前,备份也会经过同样的删除,以及备份之后做过的每一次删除;删除之后,还在队列里的结果不再发送。
撤回同意会清空队列。关闭分享或基准测试分享时,不仅丢弃等待中的对话,还会丢弃等待发送的基准测试结果和对话;删除一次基准测试运行时,如果它的分享还没发出,也会一并丢弃;服务器会拒收撤回之前分享的运行。执行“Delete my shared data”后,后台上传会继续运行,所以没能发出去的删除请求会在应用开着时重试。
诊断信息不含凭据。“Save diagnostics”不再包含 API 密钥和合作方密钥、组织 token,以及 MCP 环境变量和请求头的值。
Windows 版能正常启动。不带控制台的版本在窗口打开前就崩溃了(它的日志没有控制台可写);现在会写到数据文件夹里的
logs/console.log。更新后保留 LM Studio 引擎。如果模型保存的引擎版本已经不在了,会改用同一引擎已安装的最新版本加载,而不是失败。
预设跟着模型走。切换模型会重置手动选的预设,下拉列表会刷新,Ternary Bonsai 2 的预设改用 PrismML 模型卡上的值。
不报告问题的语言服务器不再拖慢编辑。如果 PATH 上的某个语言服务器从不报告问题,应用试两次之后就不再等它。
子智能体看得见了。每个子智能体在对话里显示为一行,带状态、步数和 token 数,可以作为独立的对话打开;基准测试导出也会包含它们。
基准测试中的慢模型。推理上限也会随模型速度缩放;检查已经通过时跳过自查;接近时间上限时,智能体会跳过总结步骤直接收尾。
名称统一:Windows 上运行
LocalQuench.exe(local-forge.exe还在,供已有的快捷方式使用),Android 应用叫LocalQuench.apk,命令行里的基准测试叫quenchbench。设置、对话和结果都还在原处。用别的参数名调用工具的模型(用
command而不是cmd,用pattern而不是glob)不会再陷入循环:调用直接生效;仍然对不上的调用会告诉模型这个工具接受哪些参数。不带路径的 git commit 不会再把未跟踪的垃圾文件一起提交。
对话一长就迷失方向的弱模型,会保住它的任务列表和进度(哪些命令成功了,哪些文件已经读过)。
对话导出会显示每条消息的时间和每次回复的耗时,并统计云端模型的 token。
localquench.com 无法访问时,更新也会从公开发布自带的清单获取,用同样的方式校验。
Harness
- 浏览器工具按“看不见的模型”需要的方式读页面。快照会把每段可见文字列出一次(包括价格、总计和状态行)、带上控件的标签、下拉框的选项,以及被其他元素遮住的控件;新的
query操作会报告 CSS 选择器或快照引用所匹配元素的文字、值、状态、可见性和尺寸。密码、密钥和一次性验证码字段的值从不显示。 - “Continue”就是接着干。输入 continue(或 dalej)会保留任务的步数和检查计数,而不是从头开始。
- 摘要绝不凭空写代码。压缩上下文时的摘要保留路径和行范围,不保留凭记忆写出的代码;需要时会重新读取文件。
- 进度台账。工具调用按实际取得的成果计数;它可以附加的提示默认关闭。
安全和隐私
这个版本修复了六轮独立安全审查发现的问题(详情见仓库里的 docs/security):
- 审批模式走同一条路径。Plan、Ask、Safe、Autopilot 和 Skip permissions 对每个工具、子智能体和命令都通过同一个检查来决定;只读命令按解析后的形式运行,不经过 shell;子智能体没有 shell。
- 项目文件夹是边界。文件通过固定在该文件夹上的描述符打开,链接和被调换的文件夹会被拒绝;写入时替换文件,而不是通过链接或硬链接写入;只读命令在一个隔离沙箱(Linux)里运行,沙箱只挂载检查过的那些文件夹。
- MCP 服务器只启动你批准的东西。项目自带的服务器需要单独授权;运行的程序和脚本就是检查过的那些;启动时下载代码的服务器(npx、uvx 等)按会话批准。
- 浏览器待在该待的地方。项目以外的本地文件、云元数据地址和内部主机都会被拒绝,重定向也一样;在 Plan 模式下打开页面要先询问;输入框和地址里的凭据对模型和截图都是隐藏的。
- 你的数据文件夹是私有的(在 Linux 上只有你的账户能读),删除的对话不会在数据库日志里留下副本,“Save diagnostics”不含任何密钥或 token。
- 分享:每个可选的勾选框默认都不勾;关闭分享会停止所有还在队列里的内容;基准测试对话只有在单独的训练许可下才会用于训练模型;“Delete my shared data”会停止所有还在队列里的内容,只有服务器确认后,应用才会显示删除完成。结果不会出售。
- 带签名的更新。应用只从用内置发布密钥(Ed25519)签名的发布清单安装更新,每一步都走 HTTPS(重定向到普通 http 会被拒绝),而且只有文件的大小和 SHA-256 与签名的值一致时才安装。较旧的或重放的清单会被拒绝。在 Windows 上,替换失败时会保留或恢复之前的版本并启动它。
已知限制
- Windows 版没有用代码签名证书签名(首次启动时 SmartScreen 会警告);更新改由签名的清单来验证。从 0.1.0 开始的那次更新没有签名(0.1.0 无法校验签名)。
- 运行命令的隔离沙箱只支持 Linux;在 Windows 上,文件夹规则由应用自己执行。在 Windows 上,如果正在写入的文件夹的上级文件夹在写入过程中被重命名,应用能检测到,但无法阻止。
- 从项目外部硬链接进项目的文件仍然可以被读取(不能写入)。
- 没有 macOS 版。
小模型
- 能看懂以文本形式写出的工具调用,各种常见格式都支持:Hermes 和 Qwen 的
<tool_call>JSON(也包括列表、Python 风格的引号,或者在闭合标签前被截断的情况)、GLM 的<arg_key>格式、Llama 的<|python_tag|>、Mistral 的[TOOL_CALLS]、DeepSeek 的标记、放在代码块里或直接写出的{"name": …, "arguments": …}对象,以及 Gemma 的tool_code代码块。参数里有裸换行、末尾多余的逗号或 Python 引号时,会被修复而不是拒绝。 - 每个模型一套工具集。新的默认值
auto给中小模型轻量工具集(15 个工具:基本工具加上文件大纲、git 和网页工具),给强模型全部工具;mcp和load_skill只有在配置了相应内容时才出现。编辑工具的说明会按当前使用的编辑格式来写;12B 及以下的模型写整个文件,除非它专门训练过某个编辑工具。 - 来自模型卡的采样预设,覆盖 Qwen3 和 Qwen3.5、Qwen3-Coder 和 Coder-Next、Qwen2.5-Coder、Gemma 3/3n/4、gpt-oss、GLM-4.x、Devstral/Codestral/Mistral Small、Nemotron 3、DeepSeek-R1 和 V3.x、Kimi K2、MiniMax M2、Llama 3/4、Phi-4 reasoning、SmolLM3 和 Seed-OSS。
- 更少的误判提醒。只有在模型承诺了某个动作(“Let me run the tests”)之后才提示“继续”,而不是在“I should note that…”之后;“自查”提醒统计的是检查的运行次数而不是读取次数,并把新模块或新测试文件算作对项目的工作;轮询警告只在 sleep 循环时触发;构建运行期间重复调用
check_process不算循环;每个工具结果最多一条 harness 提示;在“盘点进度”或“排查问题”提示之后,这一轮会继续,而不是停在总结上。 - 小上下文窗口。推理上限、自查 diff、文件读取、命令输出和压缩请求都会随模型的上下文缩放;回复的 token 上限绝不超过窗口剩余的部分;基准测试提示词绝不会提到没有提供的工具。
QuenchBench
- 只有可比的行。排行榜除了按模型、量化、KV 缓存和显卡分组,还按任务选择分组;改过 harness 开关的运行、裸基线、手工挑选的任务列表以及少于 13 个任务的运行都不上榜;在云端 API 上的运行会标明,不显示显卡;内存显示为一个范围。
- 基准测试使用标准 harness,从不使用调优器为该模型采用的配置;调优器也只有在留出任务上得到显著结果时才会采用某个配置。
- “读代码”类任务(程序会打印什么)不再允许运行程序;回答类任务按最后一条消息里的文字评分,所以把文件贴出来不算回答;沙箱会对命令隐藏任务文件;命令行新增
--container。
Local Quench 0.1.0:第一个公开测试版
2026 年 10 月 22 日
一个围绕小型本地模型打造的编程智能体。
大多数编程智能体是为前沿模型设计的,小模型只能自生自灭。Local Quench 反过来:模型外面那层 harness 是照着小模型在真实任务里的实际表现设计的,帮它们把活干完。它会盯住这些常见失误,在它们浪费你一下午之前把模型拉回正轨:
- 说了要做下一步,然后什么也没做就停了;
- 一直在改自己写的测试脚本,而不是改代码;
- 发出一个已经和文件对不上的编辑;
- 构建其实失败了,却相信了
make | tail的结果; - 对话一长,就忘了自己已经做过什么;
- 用错误的参数反复调用同一个工具。
每一条规则都来自本地模型做真实工作的对话记录,每一条都可以关掉,并用应用内置的基准测试 QuenchBench 测量效果。前沿模型(Claude、GPT、Gemini,用你自己的 API 密钥)使用更精简的 harness,不碍它们的事。
包含什么
- 带真正工具的智能体:可撤销的文件编辑、在沙箱里运行的 shell 命令、测试、git、仓库地图、应用内浏览器预览、处理大型仓库的子智能体。
- 为本地服务器打造:支持 LM Studio、llama.cpp、Ollama 和 vLLM,每个模型可以单独设置上下文长度、KV 缓存和思考。
- QuenchBench:按工作类别和编程语言,告诉你显卡上的模型能干好哪些活。另外还能运行 SWE-bench、Terminal-Bench 和 Aider Polyglot(测试版)。
- 模型推荐:哪些模型和量化能装进你的显存,能跑多快。
- 手机和平板:在手机上查看长任务的进度,或者开始一个新任务。
- 花费:每个对话如果用云端模型要花多少钱,和你的电费放在一起对比。
下载
| 系统 | 文件 |
|---|---|
| Windows 10 / 11(64 位) | LocalQuench-windows-x64.zip:解压后运行 local-forge.exe |
| Linux(64 位) | LocalQuench-0.1.0-x86_64.AppImage:先 chmod +x,再运行 |
| Android 8+ | LocalForge.apk:配合桌面应用使用的手机应用 |
也可以从 https://localquench.com/zh/download.html 下载。应用会自己更新。