目前,大多數資料中心會同時使用電子與光學通訊協定,分別執行不同任務。規模擴展(Scale-out)網路跨越資料中心連接數千台 AI 電腦,長距離傳輸顯然選擇光學方案。規模提升(Scale-up)網路則在單一超級電腦或機架內連接多個GPU,此時延遲至關重要,密集的銅製互連(如 NVIDIA 的 NVLink)長期以來一直是工程首選方案。
這種區分正逐漸模糊,而NVIDIA可能正悄悄嘗試將光學技術引入規模提升領域。2025 年,該公司推出NVLink Fusion計畫,讓超大規模資料中心業者與雲端服務供應商能夠圍繞 NVIDIA 的規模提升架構打造客製化 AI 系統。今年夏季,合作夥伴名單已擴大,納入多家光子公司,例如Ayar Labs、Marvell Technologies 以及Lightmatter。
隨著 AI 需求成長,GPU 數量與彼此之間的連線頻寬持續增加。電氣連結正被推向每秒太位元(terabit-per-second)的傳輸速率,但更高的頻率會增加衰減、功耗與熱量。為此,銅纜必須變得更短、更粗,這使得在擁擠的伺服器機架中佈線變得更加困難。與此同時,NVIDIA 等公司正計畫在單一機架中加入更多處理器,從目前的 72 顆 GPU 增加到 2027 年的 576 顆。
NVIDIA 高級經理Jesse Clayton 表示:「當訊號頻率提高時,銅的物理特性就會改變。你可以透過限制纜線長度來緩解問題,而目前我們所有的銅纜都限制在單一 NVL72 機架內,距離並不算長,但我們已接近極限。」
工程師將此現象稱為「銅牆」。許多人認為,要跟上 AI 發展,最終必須將光學互連移到更靠近處理器的地方。
將光學技術帶入 GPU
要以光的形式傳輸資料,工程師必須解決如何將電訊號轉換為光訊號,並將雷射、光子元件與電子晶片整合在單一封裝中,同時不大幅增加成本、功耗或製造複雜度。
這些障礙已不再無法克服。
哥倫比亞大學電機工程教授Keren Bergman 表示:「我認為,這是近年來最明確的一次,業界已認定共封裝光學(co-packaged optics)將成為現實。」
參與 NVLink Fusion 生態系的光子公司 Ayar Labs 已開發出光學晶片組,可與 GPU 及其他處理器並排放置,在距離運算矽晶片僅數英寸處將電訊號轉換為光訊號。產品管理總監Vishal Chandrasekar 表示:「最理想的方式是將光子晶片組與電子晶片組混合鍵合在一起。」
他認為,光學規模提升已具備實用性,因為半導體製造生態系已圍繞共封裝光學成熟發展。混合鍵合技術的進步,使得電子與光子晶片組可分別製造,再整合成單一光學引擎,置於 GPU 或交換器旁邊。
Chandrasekar 說:「過去幾年真正發生的事,是晶圓廠的製程成熟度大幅提升。」他相信,產業正朝著在未來幾年內實現高量產光學規模提升系統的方向前進。
Lightmatter 設計了一款 3D 光子連接器,輸入輸出埠遍布整個晶片區域,而非僅位於邊緣。Lightmatter
Lightmatter 採取不同方案。該公司並非將光學晶片組放置在處理器旁邊,而是打造光子中介層(photonic interposer),使其成為封裝基板。未來處理器可直接堆疊在矽光子引擎之上。產品副總裁Roy Kim 將這些中介層與光學晶片組描述為「光子技術藍圖中的互補步驟」。
Kim 表示,封裝已不再是主要障礙。透過標準晶圓廠與組裝合作夥伴,光學互連如今的製造、測試與整合方式已與傳統晶片生產非常相似。
剩餘挑戰在於雷射整合。目前的可插拔雷射模組會佔用寶貴的機架空間,且難以擴展。Lightmatter 選擇將大量雷射直接置於矽晶片上,Kim 相信這將能支撐更密集的光學規模提升架構。
光學規模提升的未來
NVIDIA 方面則採取漸進式方法來採用這些技術。Clayton 表示,該公司預期光學技術最終會進入規模提升網路,但前提是技術成熟度足以支撐轉型。
他說:「我們採取的策略是,在對平台最有意義時才進行光學遷移。如果你一次遷移整個平台,就會對新設計承擔極大風險。因此,從規模擴展領域開始,未來再逐步移向規模提升,對我們來說是一種合理且謹慎的做法。」
這種穩健漸進的態度,也是部分研究人員認為 NVLink Fusion 不只是互通性計畫的原因。Bergman 表示:「Fusion 就像一把保護傘——你可以放入銅線,也可以放入光子技術。它對光子技術非常友善。」她說,Fusion 並非讓 NVIDIA 鎖定特定互連技術,而是建立一個電氣與光學方案可並行演進的生態系。
並非所有人都認為光子技術會成為唯一解答。研究人員持續透過訊號傳輸、封裝與收發器設計的進步來改善電氣互連。其他團隊則在追求替代技術。
在所有這些進展之下,存在一個更大的問題:光學規模提升能否成為產業普遍可行的方案,而非僅是 NVIDIA 生態系的專屬功能?
Chandrasekar 說:「絕對可以。在 2028 年左右,將會有非常高量產的多種實作方案。」
若此情境成真,未來的 AI 系統可跨越多個機架,卻仍表現為單一運算領域,透過電氣、光學以及其他新興技術混合連接。
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.