过去一年,很多人对 AI 工具的默认印象还是:要么订阅一个闭源产品,要么打开网页聊天框,要么按月给某个 SaaS 交钱。

这个路径当然顺手。闭源产品体验好,模型强,省心,打开就能用。可问题也很明显:贵、受限、不透明,还经常把你的工作流锁在别人的产品里。

最近我看到一个越来越清楚的变化:便宜但能打的本地 AI 工具,正在从极客玩具变成真实替代方案。

这不是一句开源情怀口号。今天 GitHub Trending 里冒出来的几个项目,信号很扎实:DeepSeek-TUI 是跑在终端里的编码 Agent,local-deep-research 主打本地、加密和私有文档研究,9router 做免费 AI coding 路由和 fallback。它们不完全是同一类产品,但都在回答同一个问题:

如果我不想完全依赖闭源平台,有没有一套更便宜、更可控、也足够能干的 AI 工作流?

我觉得答案正在变成:有,而且越来越像样。

为什么大家开始认真看本地 AI 工具

以前本地 AI 工具给人的感觉,很像 Linux 桌面早期的某些时刻。

能用,但折腾。

你要会装环境,要懂模型格式,要知道显存够不够,要处理依赖冲突。最后好不容易跑起来,效果还可能比闭源产品差一截。普通用户看一眼就走了,开发者也未必有耐心天天折腾。

但现在情况有点不一样。

第一,模型能力的底线抬高了。DeepSeek、Qwen、Llama 系列这类模型,把“本地可用”的水平往前推了一大截。你未必能在所有场景里打赢最强闭源模型,但很多日常任务已经够用。

第二,工具层开始成熟。过去大家折腾的是模型本身,现在更多人在补外壳、流程、路由、记忆、检索和权限。也就是说,本地 AI 不再只是“我能在机器上跑一个模型”,而是开始变成“我能在自己的工作流里用一个 Agent”。

第三,用户对成本和主权越来越敏感。模型订阅、API 额度、隐私条款、企业合规,这些东西叠在一起,就会让人开始想:有没有办法把一部分能力拿回自己手里?

这才是本地 AI 工具升温的底层原因。

不是大家突然变得热爱折腾,而是闭源方案的便利性开始和成本、隐私、控制权发生冲突。

DeepSeek-TUI:终端入口为什么又香了

DeepSeek-TUI 这类工具有个很有意思的点:它没有试图把自己包装成一个华丽的新桌面应用,而是直接回到终端。

这对普通人可能不够性感。可对开发者来说,终端本来就是工作现场。

代码、Git、日志、构建、部署、脚本,全都在那里。一个编码 Agent 如果能自然地待在终端里,它就少了一层切换成本。你不需要在网页、IDE、聊天框之间来回复制粘贴,也不用把上下文搬来搬去。

这类工具真正吸引人的地方,不只是“它支持 DeepSeek”,而是它代表了一种很务实的方向:

把 AI 放回工作发生的地方。

这件事很重要。很多 AI 产品失败,不是因为模型不够强,而是因为入口太别扭。你明明在终端里干活,却要切到网页里问一句,再复制回来,再改,再跑。一次两次还行,天天这样就烦了。

终端 Agent 的优势就在这里。它不一定最漂亮,但够近。离工作越近,越容易被反复使用。

local-deep-research:私有文档才是本地 AI 的硬场景

如果说终端编码是开发者入口,那么 local-deep-research 这类项目踩中的,是另一个更大的需求:私有研究。

很多人对 AI 搜索和研究工具的期待,不只是“帮我查互联网”。真正有价值的材料,往往在本地:

  • 公司内部文档
  • 项目历史记录
  • 客户资料
  • 会议纪要
  • 个人笔记
  • PDF、表格、合同、邮件归档

这些东西才是上下文的金矿。

问题是,你未必愿意把它们全部上传到某个闭源服务里。尤其是企业、咨询、金融、法律、医疗、研发团队,这种顾虑不是矫情,是基本常识。

所以我很看重本地研究 Agent 这条线。

它的核心卖点不是“离线也能用”这么简单,而是:你的知识资产可以留在自己的边界里,同时还能被 AI 调用。

这会改变很多人的使用习惯。过去你可能只敢把公开材料丢给 AI。以后你可以让 AI 在本地读你的私有资料、做摘要、交叉引用、生成研究报告,甚至持续维护一个私有知识库。

这比“又多一个聊天机器人”有意思多了。

9router:便宜不是小事,是生产力问题

9router 这类路由和 fallback 工具,看起来没有那么酷,但我觉得它很现实。

很多 AI 重度用户都知道,真正用起来以后,成本不是小数目。写代码、批量总结、跑自动化、做内容生产、处理文档,只要频率上来,模型调用就会变成账单问题。

所以“路由”会变得重要。

简单说,你不需要每个任务都调用最贵的模型。轻任务用便宜模型,难任务再升级。某个服务挂了,就切到另一个。某个模型今天慢,就临时 fallback。某些场景用免费额度,某些场景用本地模型。

这听起来像工程细节,但它直接影响一个 AI 工作流能不能长期跑下去。

很多工具演示时很惊艳,真放进日常流程里,三天后你发现成本太高、速度不稳、失败率太难看,就不想用了。

便宜,不是降级词。

在 AI 工具里,便宜意味着你敢多试,敢批量跑,敢把它放进自动化流程。一个每天只能小心翼翼用十次的工具,很难变成生产力基础设施。一个成本低到你愿意随手用的工具,才有机会变成习惯。

本地 AI 真能替代闭源方案吗

我不想把话说得太满。

如果你追求最强模型能力、最省心体验、最完整生态,闭源方案现在依然很强。ChatGPT、Claude、Gemini 这类产品不是摆设,它们在通用能力、产品打磨和多端体验上还有明显优势。

但“替代”不一定意味着全面打败。

更现实的替代,是分场景替代。

比如:

  • 写脚本、改代码、跑简单任务,可以用本地或低成本 Agent
  • 处理私有文档,可以优先放在本地研究工具里
  • 批量总结和格式转换,可以走便宜模型或路由工具
  • 高价值决策、复杂推理、关键交付,再调用强闭源模型

这种组合,比单押一个闭源产品更健康。

我越来越不喜欢“一个超级应用吃掉所有工作流”的想象。真实世界没那么整齐。更可能出现的是:本地工具、开源模型、低成本路由、闭源强模型,各自待在合适的位置上。

普通用户未必会关心这套架构叫什么。但他会在意三个很朴素的问题:

便不便宜?

靠不靠谱?

我的资料安不安全?

谁能同时回答好这三个问题,谁就有机会从小众工具变成日常工具。

我会怎么用这类工具

如果现在让我给一个普通开发者或小团队建议,我不会说“立刻抛弃闭源模型”。这太激进,也没必要。

我的建议是分三层试。

第一层,把低风险任务迁到本地或低成本工具。比如代码解释、日志分析、草稿生成、格式转换、批量摘要。这类任务错了也容易发现,适合练手。

第二层,把私有上下文放到本地研究工具里。不要一上来就追求全自动,先让它帮你读文档、找关联、做摘要,慢慢建立信任。

第三层,给高成本模型加路由。别让每个请求都默认走最贵的 API。能便宜解决的,就便宜解决。解决不了,再升级。

这套玩法不炫,但很像真实生产力工具的成长路径。

先省钱。

再稳定。

然后才谈替代。

真正的变化:AI 工具开始从云端神坛回到个人工作台

过去几年,AI 给人的感觉有点像一座远处的云端神庙。你把问题送进去,等它把答案赐下来。

现在这个画面正在变。

越来越多工具开始回到你的终端、你的电脑、你的文件夹、你的私有知识库。它们可能没那么华丽,甚至还有点粗糙,但方向很对:AI 不应该只存在于某个网页聊天框里,它应该嵌进你每天真正工作的地方。

这也是我看好本地 AI 工具的原因。

它们短期内未必会让闭源产品失去地位。但它们会不断拿走那些对成本敏感、对隐私敏感、对流程控制敏感的场景。

这些场景一开始看起来零散,积累起来就很大。

最后一句。

便宜但能打,本来就是技术普及最可怕的组合。过去很多产品不是输给了“更强”,而是输给了“够用、更便宜、离用户更近”。

本地 AI 工具现在就在往这个方向走。

闭源方案当然还强,但它们不能再假设用户永远只会留在云端聊天框里了。

参考链接

  1. GitHub:Hmbown/DeepSeek-TUI,Coding agent for DeepSeek models that runs in your terminal: https://github.com/Hmbown/DeepSeek-TUI
  2. GitHub:LearningCircuit/local-deep-research,本地化、加密、支持私有文档的研究代理: https://github.com/LearningCircuit/local-deep-research
  3. GitHub:decolua/9router,免费 AI coding 路由与 fallback 聚合: https://github.com/decolua/9router
  4. GitHub:addyosmani/agent-skills,Production-grade engineering skills for AI coding agents: https://github.com/addyosmani/agent-skills
  5. Hacker News:AI is breaking two vulnerability cultures: https://news.ycombinator.com/item?id=48030930