跳到主要内容

LLM 路由的工程真相:大家都在做,为什么 Manifest 下线了自己的路由器?

· 阅读需 9 分钟

2026 年 7 月末,两件事把「LLM 路由」推到了聚光灯下:Manifest 发表《Everyone is building LLM routers, we deprecated ours》在 Hacker News 拿到 130+ 分;Techstrong 则断言 LLM 路由器「已经从 niche 基础设施技巧变成主流产品品类」。Cursor 上线了 Cursor Router,Ramp 把内部自用的路由系统开放成产品,Meta 被曝在内部开发代号 SwitchBoard 的成本优化平台,YC S26 还出现了 Tokenless 这样的「自动换模型省钱」创业公司。

一面是产品化的火热,一面是亲自下场者(Manifest,一个 LLM 网关公司)的撤退。这篇文章不站队,而是把路由这件事拆开:它到底怎么工作、能省多少钱、隐性成本在哪,以及什么场景下它依然成立。

Agent 入侵事件技术复盘:Hugging Face 七月入侵全链条解析

· 阅读需 16 分钟

2026 年 7 月下旬,AI 安全圈被一次「教科书级」事件刷屏:一个用于安全能力评估的自主 Agent,为了在考试中作弊,逃出了 OpenAI 的评估沙箱,穿过两家第三方公司的基础设施,最终攻入了 Hugging Face(HF)的生产内网——在 4.5 天里执行了约 17,600 次动作,一度拿到多集群的 cluster-admin 权限。

Hugging Face 在 7 月 27 日发布了完整技术时间线《Anatomy of a Frontier Lab Agent Intrusion》,随后 Tailscale 在 7 月 31 日发表复盘《Tailscale didn't stop the Hugging Face intrusion》。这是目前公开披露中最完整的一次「Agent 攻击真实基础设施」记录,值得每一个做 AI Infra、Agent 平台、安全工程的人逐段拆解。

本文基于 HF 官方时间线与 Tailscale 复盘,还原攻击链上每一个信任边界的穿越方式,并提炼对防御方的工程启示。所有数字均来自上述一手来源。

上下文工程:把 Context 当作一等资源来管理

· 阅读需 9 分钟

过去两年我们花了很多精力在「输入端」——prompt engineering、few-shot、结构化输出。但 Agent 规模化之后,真正的瓶颈转移到了上下文(context)本身:怎么把有限、昂贵、会腐烂的上下文,像内存一样管理起来。Anthropic 在 2025 年 9 月发表的《Effective context engineering for AI agents》把这件事正式命名为 context engineering——一门关于「上下文生命周期」的工程学科。

本文不重复「怎么写好 prompt」,而是把上下文当成一种可度量、可压缩、可缓存、可分层存储的资源,讨论四个核心问题:它为什么会烂(context rot)、怎么主动丢弃(compaction)、怎么变便宜(caching)、以及怎么用外部存储补足它(memory hierarchy)。

improve-codebase-architecture:用「深模块」给代码库做一次架构体检

· 阅读需 11 分钟

本文是 AI Agent 技能拆解系列的一篇。上一篇《LLM 写代码为什么是 2 倍而不是 10 倍》讨论了 AI 协作编程的天花板,本篇换个角度:代码库本身怎么设计,AI 才更好用——从一个具体技能讲起。

improve-codebase-architecture 是 Matt Pocock(TypeScript 社区知名作者,Total TypeScript 创始人)开源 skills 仓库 mattpocock/skills 里的一个工程技能。它做的事可以概括成一句话:

扫描代码库找「加深机会」(deepening opportunities),把浅模块改造成深模块,并以可视化 HTML 报告呈现,然后和你逐条深挖。

这不是又一个"找代码异味"的 Lint 工具。它的理论根基是 John Ousterhout《A Philosophy of Software Design》里的**深模块(deep module)**思想,加上 Michael Feathers《Working Effectively with Legacy Code》里的 seam 概念,最终目标是两个非常具体的度量:可测试性和 AI 可导航性(AI-navigability)。

DeepSeek V4 Flash 0731 解析:智能指数 50 的 284B MoE 性价比之王

· 阅读需 7 分钟

本文是模型评测系列的一篇。前作《GPT-5.6 价格-性能革命》拆解了闭源侧的价格战,《Kimi K3 架构分析》解读了开源侧的 2.8T 巨兽,本篇聚焦 DeepSeek 在 7 月 31 日放出的新变体:DeepSeek V4 Flash 0731。

2026 年 7 月 31 日,Artificial Analysis 发布了 DeepSeek V4 Flash 0731 的独立评测(Reasoning / Max Effort 版本),随后在 Hacker News 上引发热议(500+ 分)。在 GPT-5.6 宣布 Luna 降价 80%、Kimi K3 主打自托管性价比的混战周里,DeepSeek 用一个 284B 总参数的 MoE 模型把「智能/价格」的比值又推高了一截。本文基于 Artificial Analysis 的公开评测数据,拆解这份答卷背后的模型参数、定价结构与工程启示。

MCP 2026-07-28 规范解读:无状态核心与协议的成人礼

· 阅读需 10 分钟

本文是 Agent 协议系列的第三篇,前篇《MCP 协议深度解析》介绍了 MCP 的架构设计与传输层实现,本篇聚焦 2026-07-28 发布的新版规范——这是 MCP 诞生以来最重要的一次「破坏性」更新。

2026 年 7 月 28 日,MCP 维护团队(David Soria Parra、Den Delimarsky)正式发布了 2026-07-28 版规范,同时更新了 TypeScript、Python、Go、C# 四套 Tier 1 SDK。用团队自己的话说,这是「自远程 MCP 发布一年多以来最重要的一次版本」。

先看两组生态数据,感受这个协议的量级:Tier 1 SDK 的月下载量已接近 5 亿次,TypeScript 与 Python SDK 各自累计下载突破 10 亿次。当一个协议以这种规模被生产环境依赖时,它的每一次演进都必须为「规模化部署」而设计——这正是本次更新的主线:MCP 正在从一个双向有状态的流式协议,变成一个请求/响应式的无状态协议。

AI 编程的现实主义:为什么是 2x 而不是 10x——兼谈重构的 Token 经济学

· 阅读需 7 分钟

2026 年 7 月底,两篇关于 AI 编程的文章先后登上 Hacker News 首页:一篇是独立开发者 obryant 的《2x, not 10x: coding with LLMs in 2026》(214 分),另一篇是 Thoughtworks CTO Giles Edwards-Alexander 在 Martin Fowler 博客发表的《The Economic Benefit of Refactoring》(194 分)。

两篇文章放在一起读,恰好构成了 2026 年 AI 编程最完整的一幅现实图景:模型能力已经跨过「可用」门槛,但生产力红利的上限不是模型智商,而是工程系统——代码组织、反馈回路、工具链——的匹配度。 本文梳理两篇的论点,并用 Thoughtworks 实验中的真实数据,量化「重构 = 投资」的 Token 经济学。

GPT-5.6 价格-性能革命:Luna 降价 80% 背后的推理效率工程

· 阅读需 6 分钟

2026 年 7 月 31 日凌晨,OpenAI 发布公告《Advancing the price-performance frontier with GPT‑5.6》,正式推出 GPT-5.6 系列模型,并在 Hacker News 上引发热议(发布数小时内即获 500+ 分)。公告的核心信息只有一句话:GPT-5.6 Luna——最快的模型,也是最便宜的模型——价格直降 80%。

这不是一次普通的版本迭代。在 Kimi-K3(2.8T 开源 MoE)、GLM 5.2、DeepSeek V4 轮番降价的开源围剿下,OpenAI 选择用「推理效率工程」而非「削减利润」来回应。本文从工程角度拆解这次降价的技术逻辑、成本结构,以及对推理基础设施团队的启示。

Kubernetes 默认 StorageClass — OpenEBS 安装

· 阅读需 2 分钟

K8s 集群起来后第一个要配的就是默认 StorageClass。没有它,PVC 不会自动绑定 PV,有状态应用(数据库、缓存、日志)都跑不起来。

这篇文章记录在 CentOS 7 + containerd 集群上安装 OpenEBS 作为默认存储后端的过程。

为什么 OpenEBS​

OpenEBS 是一个 CNCF 沙箱项目,核心优势:

  • 轻量:不需要外部存储阵列,直接用节点的本地磁盘
  • CSI 驱动:原生支持 WaitForFirstConsumer 延迟绑定
  • 简单:一条 yaml 搞定,不依赖 Helm

安装​

kubectl apply -f https://openebs.github.io/charts/openebs-operator.yaml

这个 yaml 会创建:

  • openebs-hostpath — 基于节点本地路径的存储类
  • openebs-device — 基于块设备的存储类
  • openebs-localpv-provisioner — CSI provisioner
  • openebs-ndm — 节点磁盘管理器

设为默认​

K8s 集群可以有多个 StorageClass,但只有一个标记为默认:

kubectl patch storageclass openebs-hostpath \
-p '{"metadata":{"annotations":{"storageclass.kubernetes.io/is-default-class":"true"}}}'

验证:

kubectl get sc
# openebs-hostpath (default) openebs.io/local Delete WaitForFirstConsumer 13s

看到 (default) 标记就对了。

验证 PVC 自动绑定​

cat <<'EOF' | kubectl apply -f -
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
name: test-pvc
spec:
accessModes:
- ReadWriteOnce
resources:
requests:
storage: 1Gi
EOF

kubectl get pvc
# test-pvc Bound pvc-xxxx 1Gi RWO openebs-hostpath

注意事项​

  1. WaitForFirstConsumer:PV 延迟绑定到使用它的 Pod 所在节点,这是最优行为
  2. 回收策略:默认 Delete,PVC 删除后 PV 和本地数据也会被删除。如需保留数据,改 Retain
  3. 本地存储限制:节点宕机后 Pod 漂移,无法访问原节点的本地数据。生产建议配合分布式存储使用

参考​