Palantir 執行長 Alex Karp 上週接受 CNBC《Squawk Box》專訪,討論與 Nvidia 合作在主權政府環境中部署開放權重 AI 模型。但觀眾聽到他對整個前沿 AI 模型產業長達近 20 分鐘的猛烈抨擊,稱之為「瘋了」,並指控 OpenAI 和 Anthropic 等公司對企業收取過高費用,同時蒐集企業的專有資料。

數天後,Mistral 執行長 Arthur Mensch 在 LinkedIn 上發表類似的論點,警告封閉 AI 供應商正對企業客戶取得「龐大影響力」,因為組織將專有工作流程連接到託管模型。他建議採用開放權重模型、開放資料系統,並由企業建立自己的訓練飛輪。

這兩位高階主管分別從市場的兩端切入,卻在同一週內對同一訊息達成共識,凸顯了架構控制的重要性。

兩種說法,一個論點

Karp 經營的公司銷售應用程式與本體論層,設計用於介於企業與模型之間。Palantir 與 Nvidia 的交易將 Nvidia 的開放 Nemotron 模型與 Palantir 的 Sovereign AI 作業系統結合,建構於 AIP、Foundry、Ontology 與 Apollo 之上,讓政府機關與關鍵基礎設施營運商能在自己的氣隙環境中部署、微調與稽核 AI 模型。

當 CNBC 的 Becky Quick 表示 Karp 聽起來很生氣時,他反駁說:「這是透過我傳達的美國企業之聲」,並敦促與會者私下致電任何 CEO 驗證。

「這是透過我傳達的美國企業之聲。」

Mensch 的公司銷售開放權重模型,並擁有名為 Forge 的自訂訓練平台,他以不同方式描述問題,但得出相同結論。他在貼文中主張,封閉供應商有針對最成功客戶下手的紀錄,一旦了解這些客戶正在建構什麼就會開始行動。他的方案涵蓋從開放模型到開放資料儲存、嚴格存取控制,以及在內部互動中持續改善系統的訓練飛輪。

鎖定升級

如果你曾經長期建構規模化軟體,你已經知道當新技術出現時,企業難免會急於採用。但依賴問題最終會變得無法忽視。

我們在雲端運算中看到同樣問題:當公司全面採用單一超大規模雲端供應商的專有服務,後來才發現切換供應商的成本可能高於繼續使用的成本,即使繼續使用意味著支付過高費用。這也是產業花費多年時間建構抽象層、可攜性工具與多雲策略的原因。

基礎模型正提出同樣問題,但有個轉折。當企業將模型連接到內部資料(包含客戶紀錄、專有流程與領域特定知識)時,依賴性變成資訊層面。Karp 的論點是,模型品質在各供應商之間正趨於收斂,但營運影響力將歸屬於控制部署層與資料流向的對象。

Mensch 的主張有一個企業架構師會認同的具體案例。2025 年,Anthropic 切斷了對程式設計新創公司 Windsurf 的模型存取,同時建構自己的競爭產品 Claude Code。布魯金斯學會另外警告,模型供應商正日益與自己的客戶競爭,因為他們追逐應用層收入。

當存取在一夜之間消失

當美國政府命令 Anthropic 暫停最先進模型對外國人的存取時,該公司全面切斷存取權限,包含歐洲已在其模型之上建構工作流程的企業客戶。

存取權限後續已恢復,但對曾將模型 API 視為穩定基礎設施的 CIO 與企業架構師而言,這等同於雲端供應商在未事先通知的情況下撤回運算資源。這可能也是該事件促使歐洲政策制定者迅速採取行動的原因。Mensch 的公司已有開放權重替代方案,因此把握了這個時機。

企業團隊需要為關鍵依賴被供應商修改、重新定價或撤銷時做好準備,因為供應商的激勵措施未必總是與自身利益一致。

企業團隊需要為關鍵依賴被供應商修改、重新定價或撤銷時做好準備,因為供應商的激勵措施未必總是與自身利益一致。

架構轉向可攜性

企業 AI 架構現在本質上是:不要與單一供應商綁定,為可攜性而建構,將最敏感的資料與邏輯保留在自己的控制之下。

實務上,這表現在三個面向。

首先,我們看到組合式方法 維持強大的封閉模型用於複雜推理與客戶面向工作,同時使用開放權重模型處理重複性、高量的工作。對於處理敏感資訊的企業而言,開放模型的吸引力在於可完全在自己的基礎設施上執行,資料永遠不必離開組織。

其次是模型路由層的興起,這類抽象框架讓組織能在不改寫應用程式的情況下切換模型。Palantir 的本體論主張屬於此類,新興的代理編排工具也將 LLM 視為標準化介面後方的可插拔元件。

第三是開放權重運動本身。Nvidia 於 6 月以寬鬆的 Linux Foundation 授權推出 Nemotron 3 Ultra。Meta 的 Llama 持續擴展。Mistral 的 Forge 平台讓企業能用自己的資料訓練自訂模型。Mistral 也預告今年夏天將推出開放權重模型,7 月開放搶先體驗。

追蹤商業誘因

忽略商業利益的考量將是天真。Karp 的 Palantir 銷售部署與治理層;若企業將模型視為可互換的商品,它將直接受益。Mensch 的 Mistral 銷售開放權重模型與訓練平台;若企業不信任封閉供應商,它也將直接受益。Zoho 的 Sridhar Vembu 上週公開支持 Karp 的立場,也有自己的理由希望企業擁有 AI 基礎設施,而非向矽谷租用。

但多位來自不同市場區隔的高階主管都表示,企業需要擁有自己的資料、維持部署彈性,且不要將競爭優勢交給可能成為競爭對手的供應商,這表示該論點正獲得共鳴。

開發人員應關注的事項

如果最敏感的資料透過第三方 API 流動,而服務條款可能變更,你已做出合規團隊可能尚未充分評估的治理決策。

對於實際在基礎模型上建構的工程團隊而言,重點是:如果最敏感的資料透過第三方 API 流動,而服務條款可能變更,你已做出合規團隊可能尚未充分評估的治理決策。

工程選擇——抽象化模型層、同時評估開放權重選項與封閉 API、像思考雲端可攜性一樣思考部署可攜性——正日益成為策略性議題。

YOUTUBE.COM/THENEWSTACK

科技發展迅速,別錯過任何一集。訂閱我們的 YouTube 頻道,觀看所有播客、訪談、示範與更多內容。

Group Created with Sketch.