把 90% 的 token 烧在错的地方:headroom 帮我把 Agent 成本压了 7 倍
很多人跟我一样,最近被 LLM 的 API 账单吓到过一次。 不是训练侧的成本,是 Agent / RAG 这类"每次调用都要拼一大坨上下文"的场景。一个典型的 Claude Code 会话,过去一个月我把日志翻出来看,工具输出和日志回显占进去的 token 是真问题里最容易被忽略的那块。 ...
很多人跟我一样,最近被 LLM 的 API 账单吓到过一次。 不是训练侧的成本,是 Agent / RAG 这类"每次调用都要拼一大坨上下文"的场景。一个典型的 Claude Code 会话,过去一个月我把日志翻出来看,工具输出和日志回显占进去的 token 是真问题里最容易被忽略的那块。 ...
早上九点,on-call 工程师一边啃吐司一边盯 PagerDuty。Slack 上有人问「昨晚那次事故到底怎么回事」,PR 评论里有人在 diff 上吵,定向消息的截图已经传了三个群。 ...
我昨天刷 X 的时候差点就转 Fable 5 的发布稿了。点开 Karpathy、Alex Albert、Boris Cherny、Thariq、Garry Tan 一条条站台,再看 HN 头版前两条都是 Fable 衍生新闻,手是痒的。 ...