LLM 路由的工程真相:大家都在做,为什么 Manifest 下线了自己的路由器?
2026 年 7 月末,两件事把「LLM 路由」推到了聚光灯下:Manifest 发表《Everyone is building LLM routers, we deprecated ours》在 Hacker News 拿到 130+ 分;Techstrong 则断言 LLM 路由器「已经从 niche 基础设施技巧变成主流产品品类」。Cursor 上线了 Cursor Router,Ramp 把内部自用的路由系统开放成产品,Meta 被曝在内部开发代号 SwitchBoard 的成本优化平台,YC S26 还出现了 Tokenless 这样的「自动换模型省钱」创业公司。
一面是产品化的火热,一面是亲自下场者(Manifest,一个 LLM 网关公司)的撤退。这篇文章不站队,而是把路由这件事拆开:它到底怎么工作、能省多少钱、隐性成本在哪,以及什么场景下它依然成立。