[2026年7月29日提交]

作者：Tiancheng Hu、Jin Qin、Yuzheng Wang、Ke Liu、TangShengsheng Li、Sheng Wang、Zhongzhe Hu、Tianlun Hu、Wei Wang、Lijun Li、Jingbin Zhou、Xiaoming Bao、Hongwei Sun、Jieru Zhao、Huimin Cui、Tao Xie、Chenxi Wang

查看PDF HTML（实验性）

摘要：现代分布式AI工作负载横跨数百个加速器，通信已成为主要瓶颈。现有通信库仍以缓冲区为中心，因为用户缓冲区与通信缓冲区分别管理，导致冗余的数据拷贝或昂贵的用户缓冲区注册。本文提出StrataCL，一款面向生产级超节点、零冗余且原生于Fabric的通信库。StrataCL引入“分配即注册”机制实现用户缓冲区直接通信，并设计了采用工作负载均衡NPU核心划分与NPU驱动SDMA卸载的通信算子，以充分利用超节点架构特性。在华为CloudMatrix384上，StrataCL将集合通信总线带宽提升最高达1.6倍，将MoE分发/合并总线带宽提升最高达1.4倍。跨三种生产工作负载，StrataCL将LLM推理吞吐提升1.9倍，将P99 TTFT降低2.2倍，并将LLM与推荐系统训练迭代时间分别降低1.4倍与1.3倍。

提交历史

来自：Tiancheng Hu [查看邮件]
[v1] 2026年7月29日 周三 03:45:05 UTC (641 KB)