Bonsai 27B 来了:1-bit 量化把 27B 多模态装进 iPhone 17 Pro 和笔记本

三个数字能把这件事讲清楚:54 GB、18 GB、3.9 GB。 PrismML 7 月 12-13 日发了一个叫 Bonsai 27B 的东西,基于 Qwen3.6 27B 做了 1-bit 和 Ternary 两个量化变体。16-bit 全精度的 27B 模型本来要占 ~54 GB 显存,即使 4-bit 量化也要 18 GB,这个量级塞不进 iPhone,塞进 MacBook 都很吃力。PrismML 的 1-bit 变体把数字压到 3.9 GB,Ternary 变体压到 5.9 GB,直接打进消费级硬件的内存预算。 ...

2026年7月13日 · 4 分钟 · cuigh

OpenAI 7/12 静悄悄发的 GPT-5.6 prompt 指南:一次设计哲学反转

7 月 12 日,OpenAI 在 developer site 静悄悄发了「Prompting guidance for GPT-5.6 Sol」,把 GPT-5.6 这个新模型家族怎么写 prompt 的官方配方一次性公开了。我读完觉得这是 7/9 GPT-5.6 上线故事的另一半,跟今早 7/13 那篇 https://cuigh.com/zh/posts/gpt-5-6-sol-production-migration-2026/ 生产代理迁移笔记放一起才完整。 ...

2026年7月13日 · 5 分钟 · cuigh

把生产 AI 代理从 Claude Opus 4.8 切到 GPT-5.6 Sol:表面账之外的三个工程坑

OpenAI 7/9 把 GPT-5.6 + ChatGPT Work 同日上线后 48 小时,生态在三条线同时重新选边:OpenAI 自己暂时取消了 Plus / Business / Pro 的 5 小时使用限制;Codex 周活冲到 600 万;生产代理侧一家叫 Ploy 的公司,把自己的核心代理(构建营销网站、跨 App 规划、读写代码库、自截图、自判 done)从 Claude Opus 4.8 切到 GPT-5.6 Sol,首次跑就比 Opus 4.8 快 2.17 倍、便宜 27%、视觉分 0.970 vs 0.936。 ...

2026年7月13日 · 8 分钟 · cuigh

GPT-5.6 加 ChatGPT Work:OpenAI 把最强模型和最强 Agent 打包发,赌的是同一件事

7 月 9 日,OpenAI 同一天做了两件事:把 GPT-5.6 推上「最强模型」位,发布了 ChatGPT Work,一个能跨 Web、移动、桌面替你完成整段时间工作的 agent。Sam Altman 那天在 X 上写的是「obviously the best model we have ever produced, but also one of the best blog posts we have ever produced」。 ...

2026年7月10日 · 5 分钟 · cuigh

SpaceX 把算力按月卖给 Anthropic:12.5 亿美金之后的真正变化

7 月 4 日,X 上 @AYi_AInotes 转发了 SpaceX 修订版 IPO 文件里披露的一份合同:SpaceX 每月给 Anthropic 提供价值 12.5 亿美元的算力,合同持续到 2029 年 5 月,双方都可以提前九十天通知终止。同一天,有报道说 Anthropic 在澳大利亚锁定了至少 1.4 GW 的数据中心算力,基础建设成本 150 亿美元。 ...

2026年7月5日 · 5 分钟 · cuigh

Agent 工程化实战手册:5 个团队在 7 月初撞到同一面墙

我 7 月 2 日到 3 日这两天,在 Hacker News、X、博客、公众号上读到的 5 条工程化 tip,读完后脑子里自己串成了一条线。这条线以前散在不同信源里没被点过,但 24 小时内集中爆出来,让我很难再忽略。 ...

2026年7月3日 · 8 分钟 · cuigh

Anthropic 这件事,真正的麻烦是开了作恶的先例

先说清楚一件事,我必须先修正自己 6 月 5 日那篇 《Anthropic 一夜三动作:造 agent 的同时,已经在管 agent》 的判断。 那篇文章里我说"Anthropic 是先有护栏、再放开手脚",把 Anthropic 跟 OpenAI 的"边跑边补"对比了一下,结论是 Anthropic 路线在大客户那边会更吃香。当时我手里有三件证据:开源漏洞发现框架、递归自我改进研究、《How we contain Claude》工程博文。三件事摆在一起,我读出来的信号是"双线作战"。 ...

2026年7月1日 · 9 分钟 · cuigh

Agent 经济的协议栈已经成型:通信、发布、结算三层各冒出一个明星

我写这篇的时候是 2026 年 6 月 30 日早上。6 月最后一天。 如果要我用一句话总结 2026 年上半年 AI 圈在工程上最重要的变化,我不会说模型又变强了、上下文又变长了。我会说:agent 周围那圈协议,开始像 1995 年的互联网一样长起来了。 ...

2026年6月30日 · 9 分钟 · cuigh

AI agent 已经不是单一品类:一张五层工具地图

AI agent 已经不是一个品类了。这是我今天看完一周雷达采集后最确定的判断。 截至 6/28,GitHub 月榜(来源:star-history.com 抓取)+ Product Hunt 月榜 + Hacker News 周榜,三源合采后能稳定出现在榜单上的 agent 相关开源项目 / 产品,已经稳定分布在五个相互独立的层:调研层、记忆层、调度层、防 slop 层、评估层。每一层都有自己的冠军项目,自己的增长曲线,自己的用户群。这一篇要做的,就是把这五层地图摊开,然后讲为什么"分得清"比"做得强"更重要。 ...

2026年6月28日 · 8 分钟 · cuigh

GPT-5.6 Sol 上线那天,普通用户第一件要学会的事:报身份证

6 月 26 日下午(美东),OpenAI 在自己博客发了 GPT‑5.6 Sol 的 preview 帖,并把 system card 放在了 deploymentsafety.openai.com。同一天,Washington Post 报道:美国政府会决定哪些用户能用上 GPT‑5.6。同一天,Reuters 报 Anthropic 把 Mythos 限定给 “trusted partners”。 ...

2026年6月27日 · 6 分钟 · cuigh