目前,大多数 数据中心 同时使用电子和光通信协议,分别用于不同的任务。 规模扩展 网络将数千台 AI 计算机连接在整个数据中心,对于长距离传输,光学 显然是首选方案。规模提升网络则将多台 GPU 连接在同一台超级计算机或机架内部,此时延迟至关重要,密集的铜质 互连(如 Nvidia 的 NVLink)长期以来一直是工程首选方案。

这种区分正在开始模糊,而 Nvidia 可能正在悄然试水光学规模提升方案。2025 年,该公司推出了 NVLink Fusion,允许超大规模数据中心和云服务商围绕 NVIDIA 的规模提升结构构建定制 AI 系统。今年夏天,其合作伙伴名单已扩展至多家 光子学 厂商,包括 Ayar LabsMarvell Technologies 以及 Lightmatter

随着 AI 需求增长,GPU 数量及其之间的连接带宽持续增加。电链路正被推向太比特每秒的速率。但更高频率会增加衰减、功耗和发热。为应对这一问题,铜缆必须变得更短更粗,这使得在拥挤的服务器机架中布线更加困难。与此同时,Nvidia 等公司正计划在机架中加入更多 处理器,从目前的 72 颗 GPU 增加到 2027 年的 576 颗。

“当信号频率提高时,铜的物理特性会发生变化,”Nvidia 高级经理 Jesse Clayton 表示。“可以通过限制电缆长度来缓解,目前我们所有的铜缆都在单个 NVL72 机架内,距离并不长,但我们已接近可承受的极限。”

工程师们将此称为“铜墙”。许多人现在认为,要跟上 AI 的发展,最终需要将 光互连 移至处理器更近的位置。

将光学引入 GPU

要以光的形式传输数据,工程师必须解决如何将电信号转换为光信号,并将 激光器、光子器件和电子芯片集成到单个封装中,同时不显著增加成本、功耗或制造复杂度。

这些障碍已不再难以逾越。

“我认为,比我记忆中的任何时候都更清楚的是,共封装光学 将会实现,”Keren Bergman 说,她是 哥伦比亚大学电气工程 教授。

参与 NVLink Fusion 生态系统的光子学公司之一 Ayar Labs,已开发出旨在与 GPU 和其他处理器并排放置的光学 芯粒,可在距离计算硅仅几英寸处将电信号转换为光信号。“最优的方式是让光子芯粒与电子芯粒混合键合在一起,”产品管理总监 Vishal Chandrasekar 表示。

他认为,光学规模提升已变得可行,因为围绕共封装光学的 半导体制造 生态系统已经成熟。 混合键合 的进步现在允许电子和光子 芯粒 分别制造,然后集成到位于 GPU 或交换机旁边的单个光学引擎中。

“过去几年真正发生的变化是,来自晶圆厂的工艺成熟度已显著提升,”Chandrasekar 说。他认为行业正朝着在未来几年内实现高容量光学规模提升系统的方向发展。

Rendering of a 3D photonic interposer with interconnects across the entire die area instead of the side of the package. Lightmatter 设计了一种 3D 光子连接器,其输入输出端口遍布整个芯片区域,而非仅位于封装边缘。Lightmatter

Lightmatter 采用不同的方案。该公司不是将光学芯粒放置在处理器旁边,而是构建一个光子中介层,直接作为封装基板。其理念是,未来处理器可直接堆叠在 硅光子 引擎之上。产品副总裁 Roy Kim 将这些中介层和光学芯粒描述为“光子路线图中的互补步骤”。

根据 Kim 的说法,封装已不再是主要障碍。通过标准 代工厂 和组装合作伙伴,光互连 现在可以像传统芯片生产一样进行制造、测试和集成,他说。

剩下的挑战是激光集成。如今的可插拔激光模块占用宝贵的机架空间,且难以扩展。Lightmatter 正在将大量激光器直接置于硅上,Kim 相信这很快就能支持更密集的光学规模提升 结构

光学规模提升的未来

就 Nvidia 而言,该公司正采取渐进式方式采用这些技术。Clayton 表示,该公司预计光学最终将进入规模提升网络,但前提是技术成熟度足以证明这一转变是合理的。

“我认为我们采取的策略是,在对我们的平台最有意义时再迁移到光学,”他说。“如果一次性迁移整个平台,将承担新设计的巨大风险。因此,从规模扩展领域起步,未来再迁移到规模提升,在我们看来是一种合理、稳健的做法。”

这种稳健的态度也是部分研究人员认为 NVLink Fusion 不仅仅是互操作性举措的原因之一。“Fusion 就像一个伞——你可以把铜缆放进去,也可以把光子学放进去。它对光子学非常友好,”Bergman 说。她表示,Fusion 并未将 Nvidia 绑定到特定互连技术,而是创建了一个生态系统,让电学和光学方案可以并行演进。

并非所有人都认为光子学将成为唯一答案。研究人员正通过信号传输、封装和收发器设计的进步继续改进电互连。其他团队则在追求 替代 技术。

在所有这些进步背后有一个更大的问题:光学规模提升能否成为整个行业都能采用的技术,而非仅是 Nvidia 生态系统的专有特性?

“当然可以,”Chandrasekar 说。“在 2028 年时间框架内,将会有多种高容量实现。”

如果这一情况发生,未来的 AI 系统可以跨越多个机架,同时表现为单一计算域,通过电学、光学以及可能的其他 新兴技术 连接。