現在、ほとんどのデータセンターでは、異なるタスクに応じて電子通信プロトコルと光通信プロトコルの両方が使用されています。スケールアウトネットワークはデータセンター全体で数千台のAIコンピュータを接続するため、長い距離では光が明らかに最適な選択肢となります。一方、スケールアップネットワークは単一のメガコンピュータやラック内の複数のGPUを接続し、レイテンシが重要となるため、NVIDIAのNVLinkのような高密度銅線インターコネクトが長らく工学的な解決策として選ばれてきました。

その区別は次第に曖昧になりつつあり、NVIDIAは静かにスケールアップ向けの光技術に足を踏み入れ始めている可能性があります。2025年に同社は、ハイパースケーラーやクラウドプロバイダーがNVIDIAのスケールアップファブリックを中心としたカスタムAIシステムを構築できるプログラムNVLink Fusionを発表しました。この夏、パートナー一覧にはフォトニクス企業であるAyar Labs、Marvell Technologies、Lightmatterなどが加わりました。

AIの需要が増大するにつれ、GPUの数とそれらを接続する帯域幅も増加し続けています。電気リンクはテラビット毎秒レベルの信号伝送へと押し上げられていますが、周波数の上昇に伴い減衰、消費電力、発熱が増大します。これに対応するため、銅ケーブルはより短く太くしなければならず、混雑したサーバーラック内での配線がますます困難になっています。同時にNVIDIAをはじめとする企業は、ラック内のプロセッサを現在の72 GPUから2027年までに最大576まで増やす計画を進めています。

「銅の物理特性は、その銅を横切る信号の周波数を上げると変化します」とNVIDIAのシニアマネージャーJesse Claytonは述べています。「ケーブル長を制限することでこれを緩和できます。現在、当社の銅配線はすべて単一のNVL72ラック内に収まっているため距離はそれほど長くありませんが、私たちが押し上げられる限界に近づきつつあります。」

エンジニアたちはこれを「銅の壁」と呼んでいます。AIの進化に対応するには、最終的に光インターコネクトをプロセッサ自体に近づける必要があると、多くの人が考え始めています。

GPUへの光技術の導入

データを光として伝送するには、電気信号を光信号に変換し、レーザー、フォトニックデバイス、電子チップを単一のパッケージに統合しつつ、コスト・消費電力・製造複雑性を爆発させない方法を見つける必要があります。

これらのハードルは、もはや克服不可能ではありません。

「これまで思い浮かぶどの時期よりも、コパッケージドオプティクスが実現すると結論づけられていると思います」と、コロンビア大学の電気工学教授であるKeren Bergmanは述べています。

NVLink Fusionエコシステムに参加しているフォトニクス企業の1社であるAyar Labsは、GPUやその他のプロセッサの隣に配置され、演算用シリコンからわずか数インチの距離で電気信号を光に変換する光チップレットを開発しています。「最も最適な方法は、フォトニックチップレットと電子チップレットをハイブリッドボンディングで結合することです」と、製品管理ディレクターのVishal Chandrasekarは語ります。

彼は、光によるスケールアップが実用的になった理由として、コパッケージドオプティクスをめぐる半導体製造エコシステムの成熟を挙げています。ハイブリッドボンディングの進歩により、電子チップレットとフォトニックチップレットを別々に製造した後、GPUやスイッチの隣に配置される単一の光エンジンに統合することが可能になりました。

「ここ数年で本当に起きたことは、ファブから出てくるプロセス成熟度が大幅に向上したことです」とChandrasekarは述べています。彼は、業界が今後数年以内に高ボリュームの光によるスケールアップシステムへ向かう道筋にあると信じています。

Rendering of a 3D photonic interposer with interconnects across the entire die area instead of the side of the package. Lightmatterは、チップ端ではなくダイ全体にわたって入出力ポートを配置した3Dフォトニックコネクタを設計しています。Lightmatter

Lightmatterは異なるアプローチを取っています。プロセッサの隣に光チップレットを配置するのではなく、パッケージング基板自体となるフォトニックインターポーザを構築しています。将来的には、プロセッサをシリコンフォトニクスエンジンの上に直接積層できるという考えです。製品担当副社長のRoy Kimは、これらのインターポーザと光チップレットを「フォトニクスロードマップにおける補完的なステップ」と位置づけています。

Kim氏によると、パッケージングはもはや主な障害ではありません。標準的なファウンドリとアセンブリパートナーを活用することで、光インターコネクトは従来のチップ製造に近い方法で製造・テスト・統合できるようになったと彼は述べています。

残る課題はレーザーの統合です。現在市販されているプラガブルレーザーモジュールはラック内の貴重なスペースを占有し、スケールしにくいため、Lightmatterは多数のレーザーをシリコン上に直接搭載するアプローチを進めています。Kim氏は、これにより将来的にさらに高密度な光によるスケールアップファブリックをサポートできると考えています。

光によるスケールアップの将来

NVIDIA自身は、これらの技術の採用に対して段階的なアプローチを取っています。Clayton氏は、同社は最終的にスケールアップネットワークに光を導入する見通しだが、それは技術が移行を正当化できるほど成熟した時点でのみ行うと述べています。

「当社はプラットフォームにとって最も理にかなうタイミングで光へ移行するアプローチを取ってきたと思います」と彼は語ります。「プラットフォーム全体を一度に移行すると、新規設計に多大なリスクを負うことになります。したがって、まずスケールアウト領域から始め、将来的にスケールアップへ移行するというのが、当社から見て合理的で慎重なアプローチです。」

この「ゆっくり着実」な姿勢が、一部の研究者にとってNVLink Fusionが単なる相互運用性戦略以上の意味を持つ理由の一つとなっています。「Fusionは一種のアンブレラのようなもので、銅線を入れることもフォトニクスを入れることもできます。非常にフォトニクスフレンドリーです」とBergman氏は述べています。特定のインターコネクト技術にNVIDIAをコミットさせるのではなく、Fusionは電気的アプローチと光学的アプローチが並行して進化できるエコシステムを創出していると彼女は指摘します。

すべての人がフォトニクスが唯一の答えになるとは考えていません。研究者たちは信号伝送、パッケージング、トランシーバ設計の進歩を通じて電気インターコネクトの改善を続けています。また、他のグループは代替技術を追求しています。

これらの進歩の根底にあるより大きな問題は、光によるスケールアップがNVIDIAのエコシステム固有の機能ではなく、業界全体で実現可能なものになるかどうかです。

「間違いなく可能です」とChandrasekar氏は述べています。「2028年頃には、非常に高いボリュームで複数の実装が行われるでしょう。」

それが実現すれば、将来のAIシステムは複数のラックにまたがりながらも、電気・光・その他の新興技術を組み合わせた接続により、単一のコンピューティングドメインとして動作するようになるかもしれません。