大型語言模型(LLMs) 的快速發展,正推動全球資料中心 熱潮,並帶動能源需求激增。但為資料中心供電所需的電力正對電網造成壓力,促使基礎設施營運商尋找替代 電源。有些甚至把目光投向地球之外。
一家將目光投向星辰尋求能源的公司是 Orbital Inc.。這家總部位於洛杉磯的新創公司於四月中旬結束隱身模式,並宣布計畫建造太空資料中心。Orbital 獲得 Andreessen Horowitz(A16z) 投資,正在設計 AI 推論(inference)基礎設施,用於已訓練完成的模型產生輸出結果。與其他主張太空資料中心的公司相似,Orbital 押注太陽能產生的「免費」能源,為聊天機器人(chatbots)與代理等工作負載提供運算資源,避開地面能源限制。
「這裡(地球)根本沒有足夠容量,唯一的出路就是往上發展,」Orbital 創辦人兼執行長 Euwyn Poon 表示。「實際上有大量尚未被利用的太陽能。」
Orbital 的願景是在近地軌道部署由小型衛星組成的網狀星座。每顆衛星將搭載 GPU 伺服器機架,由大小約一塊網球場的太陽能板供電,並搭配同等大小的輻射冷卻板。長期目標是打造多達 10,000 顆冰箱大小的衛星,每顆功率 100 千瓦,形成分散式雲端,類似 SpaceX 提出的 AI Sat Mini。
Orbital 的首次測試將於 2027 年進行,屆時將透過 SpaceX Falcon 9 發射原型衛星,以驗證其 GPU 在軌道上的運作,並執行商用推論工作負載。另一家公司 Starcloud 已於去年完成類似測試。Orbital 的差異化優勢在於將解決方案與特定問題結合:專門用於執行推論工作負載的小型衛星,可受益於較低的發射成本。然而,它們也面臨與其他太空資料中心倡議者相同的挑戰。每瓦「免費」能源都必須透過大型輻射冷卻器散熱;近地軌道的輻射會損壞運算設備;而在太空中進行定期維護既困難又昂貴。
Orbital 的推論焦點
Poon 表示,Orbital 專注於分散式小型衛星網路,在彼此獨立的 GPU 節點上執行推論工作負載,而非大型緊密耦合系統,這使得執行更具可行性。
此概念塑造了 Orbital 的設計。訓練大型AI 模型通常依賴緊密耦合的 GPU 叢集,針對大量運算吞吐量進行最佳化。相較之下,推論工作負載每項請求的運算強度通常較低,且常可在較少數量的GPU 上執行,因此更容易分散到各系統。Poon 指出,將每顆衛星的功率限制在約 100 千瓦,大幅簡化了設計。「這非常簡單,」Poon 談及衛星工程背後的概念時說道。「工程師會喜歡這種做法。」
在 Orbital 的設計中,使用者請求(例如要求 ChatGPT 分析資料集)會從地球資料中心傳送到地面站,地面站是連接衛星與網際網路的地面中繼站,接著將請求傳輸至衛星。衛星之間透過光學互連進行通訊,利用雷射在節點間傳遞資料。請求會被路由至可用的 GPU,處理使用者查詢並產生輸出結果,再透過網路將結果傳回使用者。這些連結依賴地面站,僅在衛星進入範圍時才進行通訊。
若衛星經證實可正常運作,Orbital 將鎖定「大型模型實驗室」作為客戶,包括執行大量推論工作負載的 OpenAI 與 Anthropic 等公司。Orbital 計畫透過直接 API 存取提供代幣購買服務,並以企業合約將推論需求轉移至其太空網路。
工程挑戰
Poon 認知到在太空中運行資料中心會帶來重大技術障礙。
輻射可能撞擊 GPU 導致位元翻轉或其他錯誤。熱管理同樣困難。由於沒有空氣,系統必須依賴將熱量輻射至太空,而非傳統冷卻方式。維護是另一項限制,因為衛星若在太空中發生故障,無法輕易修復或替換。這也是 Poon 認為 2027 年測試發射至關重要的原因。「任務的一部分就是要找出未知因素,」他說。
德州農工大學金斯維爾分校(Texas A&M University–Kingsville)電機工程(electrical engineering)教授 Amit Verma 博士從事半導體元件建模研究,也提出了類似疑慮。Verma 博士表示,部署數千顆衛星會增加故障風險,且維修選擇有限。他補充說,營運可行性取決於衛星上執行的應用。雖然聊天機器人或演算法推薦等部分工作負載可以容忍額外延遲(資料往返近地軌道需數十毫秒),但即時股市交易等其他應用則無法接受。
「涉及大量 AI 相關處理的太空資料中心,確實需要克服電力、部署與可靠性問題,才能具備意義,」Verma 表示。
Orbital 計畫在發射前進行廣泛測試。Poon 說,公司正在研究 GPU 的抗輻射強化,以及使用氨基液冷迴路將熱量傳導至外部散熱器。降低系統重量也是首要考量,以減少發射成本。
即使有這些緩解措施,時程仍相當進取。工程物理學家 Andrew Côté 在 Substack 文章中預測,太空資料中心至少還需 10 至 20 年才能投入運作。然而,Orbital 預計 2026 年完成衛星設計、2027 年發射,並於 2028 年在洛杉磯興建製造廠。
鑑於工程挑戰複雜且發射成本高昂,Orbital 衛星系統能否在規模化下可靠運作,仍是一個開放性問題。
儘管存在這些不確定性,Poon 仍專注於長期機會。
「我相信我們的工程努力能逐步解決這些問題,」他說。
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.