Hugging Face 在 11 月 16 日把語言模型的推理路由改由 OpenRouter 接手。一次請求失敗,系統會自動改試下一間供應商,不再直接回傳錯誤。代價是一項破壞性變更:語言模型不再接受開發者自備的供應商 API key,費用一律記在 Hugging Face 帳戶或組織。圖像、影片、語音生成不受影響,仍然直接經 Hugging Face 自己的推論路徑。
要理解這次變更,先分清兩把 API key。如果你向 DeepSeek 或 Moonshot(Kimi)申請 key,呼叫必須送到該公司自己的網址,token 消耗與費用都記在那把 key 上。Hugging Face 的 token 是另一把鑰匙:它只證明你是 Hub 的用戶,讓你經 Hugging Face 的推論入口,使用多家供應商代管的同一個模型,不必向每間公司分別申請 key,帳單記在 Hugging Face 帳戶。兩把 key 不能互換。
這條經 Hugging Face 入口的代管服務,就叫推論供應商(Inference Providers)。同一個人氣模型通常由多間供應商同時提供,價格、速度與穩定度各異。這個選擇以往由 Hugging Face 自己的路由器負責。
舊路由失敗就結束,新路由在同一呼叫內改試
Hugging Face 原本的路由器,一次請求只交給一間供應商。該供應商出錯,請求就失敗。OpenRouter 的路由按即時量度的價格、速度與可靠度挑選供應商。某間變慢或開始出錯,流量會移走,直到它回復;失敗的一次嘗試,則在同一呼叫內改由下一間最合適的供應商重試。
OpenRouter 在 10 月重建這套路由並實測:容量錯誤減少 46%,首字延遲改善 16.9%,吞吐量提升 16.3%。OpenRouter 的公告同時列出代價——每次請求成本高 6.0%。Hugging Face 的公告寫出前三項改善,沒有列出這個 6.0%。兩份公告同日發出,數字來自同一組實驗。
不變的三件事:token、程式碼、定價
現有的 Hugging Face token 和程式碼照用,開發者無需改動呼叫方式。定價也不變:你付供應商的價格,帳單記在 Hugging Face,Hugging Face 不加價。PRO 用戶每月有 2 美元額度;Team 與 Enterprise 組織每個座位每月 2 美元。
路由支援 OpenAI 的 Chat Completions 與 Responses API,以及 Anthropic 的 Messages API,不論背後是哪一間供應商。Hugging Face 亦為 Claude Code、Codex、OpenCode、Pi 及 Hermes Agent 寫好設定步驟。
根本性變更:語言模型不能再帶自備 key
過去還有第三種用法:你仍然經 Hugging Face 的入口呼叫語言模型,但帶上自己在某一間供應商(例如 OpenAI、Novita)申請的 API key,費用記在那間供應商,而不是 Hugging Face。請求改由 OpenRouter 轉發後,語言模型的費用一律記在你的 Hugging Face 帳戶或組織,因此不能再帶自備的供應商 key。直接向 DeepSeek 或 Kimi 自己的網址、用這些網址發出的 key 呼叫沒有改變;失效的只是經 Hugging Face 入口、自備供應商 key 呼叫語言模型。圖像與影片供應商的自備 key 繼續有效。
控制權仍有補償。模型 id 加後綴可指定政策或供應商:zai-org/GLM-5.3 用預設組合,:fastest 取最高吞吐,:cheapest 取最低價,:novita 只走 Novita。你也可以在 Inference Providers 設定逐一關掉不想用的供應商,路由器不會再把請求送去。組織有同樣的設定,並套用到所有記在組織帳單的請求。
對話留在持有 prompt cache 的供應商
路由會看快取:一段對話會留在持有它 prompt cache 的供應商,避免每次重送整段上下文。要令這件事明確,開發者可在 X-HF-Session-Id 標頭送出每段對話一個穩定的 UUID。
可用範圍:160 個模型、38 間實驗室
Hugging Face 說今天有 160 個模型、38 間實驗室以這種方式提供,即 OpenRouter 有服務、而在 Hub 上有頁面的每一個模型。這不等於 Hub 上所有模型都改走 OpenRouter。名單包括 DeepSeek V4.1 Flash、MoonshotAI Kimi K3.1 Pro 與 Kimi K3、Z.ai GLM 5.3 與 GLM 5.3 Flash、Qwen3.8 27B、MiniMax M3.1 Flash、小米 MiMo-V2.6-Flash、NVIDIA Nemotron 3 Ultra 及 OpenAI gpt-oss-120b。Nemotron 系列的來歷,見〈NVIDIA 牽頭成立 Nemotron 聯盟 推動開源前沿模型〉。
OpenRouter 方面則以 80 多間供應商、600 多個模型、每月超過 800 兆個 token、逾 1,000 萬用戶為基礎做路由量度。每個模型頁新增 Providers 分頁,列出每間供應商的輸入價、輸出價、速度與過去 24 小時上線率;用量頁按供應商列出花費。
反向整合:請求紀錄寫入你的 Storage Bucket
合作也走另一個方向,目前是 beta。OpenRouter 可把每次請求的紀錄以 JSON 檔寫入你擁有的 Hugging Face Storage Bucket,內容包括輸入訊息、模型輸出、token 數與成本;圖像及其他媒體不包含在內。對想用真實流量建立評估集或微調集的團隊,這是現成材料。
開源權重佔七成流量
背景數字由 OpenRouter 提供、Hugging Face 公告引用:開源權重模型佔 OpenRouter 處理的 token,由 2025 年 10 月的 26.8% 升到 2026 年 9 月底的 71.7%,7 月曾見 77.5% 高位。同期開源權重的每週用量增長超過 60 倍,閉源模型接近 10 倍。本週 OpenRouter 上用量最高的模型是開源的 DeepSeek V4.1 Flash 1017,59.2 兆個 token。
價錢差距約四倍:開源權重平均每百萬輸入 token 0.28 美元、輸出 1.62 美元;閉源是 1.27 美元與 6.36 美元。不過,Artificial Analysis Intelligence Index 上,最好的開源模型 Kimi K3.1 Pro 得 46 分,Claude Fable 5.2 得 65 分,每個任務成本約七分之一(3.68 美元對 26.54 美元)。Kimi 系列的定位與成本變化,見〈Kimi K3:開源國產模型再削AI成本〉。雖然說,多數工作開源已夠用而且便宜得多;「開源已全面追上」閉源則還未成立。
對開發團隊的實際影響
- 先查有沒有自備供應商 key 用於語言模型。若有,改為在 Hugging Face 設定指定或關閉供應商,並確認帳單落在正確的帳戶或組織。
- 延遲敏感的服務可用
:fastest或指定供應商固定路線;成本敏感的批次工作可試:cheapest。 - 每次請求成本可能微升,做預算時要把額外 6.0% 算進去,不要只看單價表。
- 多輪對話加上
X-HF-Session-Id,令快取命中穩定。 - 圖像、影片、語音的工作流不用改。
常見問題
Hugging Face token 要重新申請嗎?
不用。現有 token 與程式碼照用,該 token 需要「Make calls to Inference Providers」權限。
我在 DeepSeek 或 Kimi 申請的 API key 還能用嗎?
能,只要你仍然把它送到該公司自己的網址。那把 key 與 Hugging Face token 不是同一把,這次變更不會讓它失效。失效的只是經 Hugging Face 推論入口、帶上自備供應商 key 呼叫語言模型的做法。
以前用自己 OpenAI 或 Novita 的 key,經 Hugging Face 呼叫語言模型,現在怎樣?
不再適用於這些語言模型。請求經 OpenRouter 轉發,費用記在 Hugging Face 帳戶。你仍可用 model:provider 後綴指定供應商,或在設定關掉不想用的供應商。圖像與影片供應商的自備 key 仍然有效。
價格有升嗎?
Hugging Face 對推論供應商不加價,你付供應商的價格。但 OpenRouter 的路由實驗顯示,改善可靠度與速度伴隨每次請求成本高 6.0%。
圖像、影片、語音生成會不會改走 OpenRouter?
不會。三類生成繼續直接經 Hugging Face Inference Providers,token 與 API 不變,LoRA 等既有用法保持。
Hub 上所有模型都改了嗎?
不是。改的是語言模型的推論供應商,範圍是 OpenRouter 有服務、而在 Hub 上有頁面的模型,今天共 160 個、來自 38 間實驗室。
更多資料請訪問:Hugging Face〈Hugging Face and OpenRouter join forces to make open-weight models easy to run〉(2026-11-16);OpenRouter〈OpenRouter Now Powers Inference on Hugging Face〉(2026-11-16)。
