微軟最新的 AI 服務公告暗示，標準化使用單一模型的時代可能即將結束。本週，該公司推出了一個 25 億美元的 AI 採用業務，旨在幫助企業自訂 AI 部署並使用多個模型，而非鎖定在單一供應商 — 這是朝向能將每個請求路由到最適合任務模型的系統轉變的一部分。

簡單來說，這家在業界 arguably 擁有最深單一模型夥伴關係的公司，現在正將「模型可替換性」作為產品銷售。

押注 25 億美元於彈性

微軟週四表示，將成立新的營運實體 Microsoft Frontier Company，協助企業客戶選擇實際適合其業務且能產生投資報酬的 AI 技術，路透社報導。該單位由微軟提供 25 億美元資金啟動，並將與包括 Unilever 和 Novo Nordisk 在內的客戶合作。

這家新公司將協助客戶選擇並整合 AI 工具 — 包括微軟及外部供應商 — 並結合每位客戶的內部資料。客戶將擁有這些工作的成果，而非交還給微軟。此舉使微軟與 Palantir 並列，後者正使用 Nvidia 的開源模型與大型客戶進行類似工作；Amazon Web Services 近期也推出自家 10 億美元的嵌入式工程單位。

最具啟示性的是其背後的理由。Microsoft Commercial Business 執行長 Judson Althoff 告訴路透社，這家新公司部分源於微軟親眼目睹 DeepSeek 與 Google 的 Gemini 等模型追上 OpenAI 的經驗。他提到最初的 Copilot 時表示：「我們犯了一個錯誤，將其僅綁定在 OpenAI 模型上。」Althoff 說，客戶更在意的是自身資料與模型的結合，而非特定模型 — 他們需要能隨著技術發展快速切換模型的能力。

「我們犯了一個錯誤，將其僅綁定在 OpenAI 模型上。」

單一模型已不再適用

以一個典型的客服應用程式為例，它可能需要摘要支援工單、分析 300 頁合約、產生電子郵件、轉錄會議及審查原始碼。這些任務未必是同一類問題。像是 Google 的 Gemini 擁有超過百萬 token 的上下文視窗，可能適合處理合約；而 OpenAI 的 GPT-5.4 mini 或 Anthropic 的 Claude Haiku 等小型快速模型，則能以極低成本處理工單摘要。轉錄可能交由 Whisper 等專用模型負責。若法規要求客戶資料必須留在本地，則 Meta 的 Llama 或 Mistral 等開源權重模型通常是首選。

開發者不再選擇單一基礎模型，而是選擇多個模型 — 由應用程式決定每個請求應交由哪個模型處理。

AI 閘道成為核心基礎設施

模型只是堆疊的一個元件，因此路由請求的決定必須存在於某處。這就是為什麼開發者不再將應用程式硬編碼到單一模型，而是建置能在多個模型間進行選擇的系統。路由邏輯可能在某個請求上優先考量成本、在另一個請求上優先考量速度，或將敏感工作負載保留在本地模型上。如此一來，若某個供應商發生中斷，流量就能路由至其他模型，而無需變更應用程式本身。

這家在業界 arguably 擁有最深單一模型夥伴關係的公司，現在正將「模型可替換性」作為產品銷售。

這改變了開發者所建置的內容

一旦公司不再依賴單一模型，挑戰便轉向建置能為每個請求決定使用哪個模型的系統。

這意味著開發者需要工具來路由請求、比較模型效能、監控可靠性、控制成本、執行安全政策，並在某個模型故障時切換到另一個模型 — 這是一個截然不同的工程問題，尤其是每次有人使用應用程式時，都會發生「決定由哪個模型回應請求」的判斷。在企業規模下，這些決定每天可能發生數百萬次，因此必須快速、可靠且易於管理。

生態系統已開始回應

像是 LiteLLM 等開源代理，以及 Portkey 等閘道，已經能將不同供應商的 API 進行標準化。像是 LangChain 和 LangGraph 等編排框架，從一開始就假設會使用多個模型。Model Context Protocol (MCP) 讓工具整合能在不同模型間移植，而非綁定單一廠商。而雲端供應商本身 — Amazon Bedrock、Azure AI Foundry、Google Vertex AI — 現在也透過單一 API 提供多個模型。

編排成為新的護城河

核心模型將持續改進。但隨著許多商業任務的效能趨於一致，編排成為挑戰。微軟的公告是一個跡象，顯示最大的供應商相信企業正朝此方向發展，並願意投入數十億美元成為掌握路由層的那一方。

企業不再將模型視為平台，而是持續將其視為編排層後方可替換的元件。

雲端時代教導開發者不要將應用程式過度綁定在單一伺服器；容器化讓基礎設施得以移植。現在，相同的理念正被應用到 AI 上。企業不再將模型視為平台，而是持續將其視為編排層後方可替換的元件。

YOUTUBE.COM/THENEWSTACK

科技發展快速，別錯過任何一集。訂閱我們的 YouTube 頻道，即可觀看所有播客、訪談、示範，以及更多內容。

Group Created with Sketch.