[Submitted on 28 Jul 2026]
摘要:我們提出 fabric_ext,這是一個 eBPF 中介軟體編譯器與執行環境,旨在讓 OS 策略能擴展至 GPU-CXL 架構。fabric_ext 允許單一策略程式在 GPU 掛鉤、驅動程式/執行環境掛鉤、DPU/NIC 掛鉤,以及 CXL 交換器或近端記憶體掛鉤之間執行。其核心抽象為語意移動圖:邊緣描述位元組、步幅、重用距離、讀寫比例、來源與目的、排序需求、別名集合、擁有權,以及 Move、Quantize、Compress、Checksum、Filter、Reduce、Scatter/Gather、Replicate、Persist 等轉換。編譯器會將此圖降級為各裝置的 eBPF 程式、驗證器義務、一致性分類的 BPF map,以及 bpftime 與 dputime 的產物。在架構邊緣,fabric_ext 將近 Type-2 小型核心視為硬體 JIT 與狀態管理器:它將已驗證的移動描述器特製化為本機複製、放置、排序與轉換指令,而周圍的馮紐曼記憶體、DMA 與運算引擎島則執行資料流。由於此資料流為資料驅動,fabric_ext 也將觀測放置於該島旁,使佇列、DMA 完成、記憶體放置與擁有權轉移得以即時可見。典型壓力測試案例為 LLM 預填充:注意力串流 KV 區塊與歸約,而 FFN 串流啟動、權重與可壓縮中間結果,迫使單一請求跨越 GPU 張量執行、DPU/NIC 事件執行,以及 CXL 或交換器本機資料流島。
提交歷史
來自:Yiwei Yang [view email]
[v1]
2026 年 7 月 28 日 星期二 23:14:45 UTC (105 KB)
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.