独立开发前线
返回文章列表
一个 Key 接所有模型:MuiRouter 这两个月追了多少新模型,又修了哪些账
投稿精选

一个 Key 接所有模型:MuiRouter 这两个月追了多少新模型,又修了哪些账

2026-10-255 分钟阅读

MuiRouter 是 OpenAI 兼容的 AI 模型网关;这两个月接入了多款新模型,也把计费和 Claude 缓存的坑逐一填上。

做 AI 产品的人,或多或少都会遇到这类让人头疼的琐事:每家模型服务商都有单独的 API Key,对应各自一套完全不同的计费规则,还要在项目里引入各家不同的 SDK。每当行业里发布了新模型,哪怕只是想尝尝鲜或者换着试试,往往就得回过头去改一轮业务代码。我自己做 AI 产品的时候,就没少被这些事情反复折腾过。

这也是我后来做 MuiRouter(muirouter.com)的原因。它的定位很直接,就是一个兼容 OpenAI 接口规范的 AI、LLM 与 MCP 路由网关,整个服务跑在 Cloudflare Workers 上。通过它,开发者只需要一个 API Key,就能直接接入 OpenAI、Google、Anthropic、Moonshot、xAI 以及 Xiaomi MiMo 等多家供应商。平台把所有渠道的计费与配额统一管理起来,支持通过 Stripe 自助充值,同时也提供了 MCP server 供大家使用。

追新模型是基本功

作为一个路由网关,跟进上游新模型的节奏是必须做好的基本功。

从 8 月以来,MuiRouter 陆陆续续接入了一大批新模型。包括 Claude 阵营的 Claude Opus 5.5、Claude Sonnet 5.5、Claude Haiku 5.5,以及 Claude Fable 5.1;OpenAI 阵营的 GPT-6 Sol、GPT-6 Luna、GPT-6 Astra,以及 GPT-6.1 Sol;还有原生支持多模态的 DeepSeek V4.1 Flash,以及 MiMo 2.6 和 Meta Muse Spark 1.3。到了 10 月,又接着接入了 Google Gemini 4 Argon 和 Gemini 3.8 Flash 等模型。

除了把新模型接进来,上游价格的变动也得同步跟进。比如 Anthropic 宣布 Sonnet 5.5 缓存降价时,网关第一时间就同步了降价后的计费。与此同时,为了让大家弄清楚每个新模型到底更新了什么,每接入一个新模型,我都配写了一篇中英文的解读博客。

Claude 缓存为什么一直不命中

模型接通只是第一步,放到真实的调用场景里,很多意料之外的问题才会浮现出来。前段时间我排查到,有用户调用 Claude 时缓存一直不命中。

排查了一圈后发现,这位用户是通过 OpenAI 兼容入口来调用 Claude 的。问题在于,OpenAI 现有的请求格式规范里,根本没有地方写缓存标记。请求送到 Anthropic 那边,结构上自然就识别不到任何标记,结果就是零缓存。

不仅如此,网关原先的 /v1/messages 原生入口也存在疏漏:在转发请求的时候,会漏掉 anthropic-beta 请求头。这样一来,像 1 小时缓存这类依赖 beta 特性的能力,就会在调用中悄悄失效。

摸清原因之后,我把请求头的透传逻辑修好了,同时在后台的用量日志里补齐了缓存读和缓存写两列数据。其实后台数据库里一直都存着这些数据,只是之前界面上没有展示出来。为了让大家少走弯路,我还专门写了一份迁移和自查指南,详细说明怎么去区分“代码里压根没写缓存断点”和“写了断点但上游没命中”。

算对账才是信任的开始

另一个花精力修整的地方是计费的准确性。OpenAI 本身提供了 service_tier 机制:fast 和 priority 档位按 2 倍计费,flex 档位则按 0.5 倍计费。

但是在实际调用过程中,即便你在请求参数里指定了 fast 模式,上游服务也有可能发生降级。现在的计费逻辑调整成了完全以上游实际应用的档位为准:你发起了 fast 请求,但如果上游实际降级了,平台就不会按 fast 档位多收钱。

在这之前,有部分模型在走 fast 模式时,平台系统却一直按标准价跟用户结算。等于每次都是我自己亏一半。这次借着调整计费,把这个问题一起修好了。与此同时,我也把 GPT-5.6 长上下文各个档位的计费规则一并补齐了。

做网关这件事,新模型接得快是基本功,而账算得对才是建立信任的根本。

如果你平时也经常需要在多个模型之间来回切换,或者正打算用一个 key 来统一管理团队内部的 AI 调用,可以来试试 muirouter.com。

标签

AI独立开发技术架构

受访创始人

Meathill

Meathill

重庆

dyqr.me 一款动态二维码 SaaS

查看创始人主页

文章信息

类型投稿精选
发布时间2026-10-25
阅读时长5 分钟