GenPageはNetflixが開発した生成AIシステムで、従来の多段階レコメンデーションパイプラインを置き換え、パーソナライズされたユーザーホームページを直接生成します。GenPageはユーザーの履歴とリクエストコンテキストをプロンプトとして活用し、ページ全体を生成することで、ユーザーエンゲージメントの向上とサービングレイテンシの削減を実現します。

Netflixの従来のソリューションは、「候補生成とランキングのための個別コンポーネントを持つ複雑な多段階パイプライン」に依存していました。このプロセスは各行および行内の各エンティティに対して繰り返され、最終段階でページレイアウトを担当していました。一方、GenPageは、アイテム選択、行構築、レイアウト生成という3つのレベルすべてを1つのモデル内に統合する単一ステップのアプローチを採用しています。

大規模言語モデルは、単一の生成モデルがプロンプトに対する応答を生成するだけで多様なタスクを実行できることを示しました。このプロンプト-レスポンスのパラダイムに着想を得て、私たちは単一の生成モデルを訓練し、1つの質問に直接答えることでホームページを構築するようにしました。

このユーザーとこのリクエストについてわかっているすべての情報を考慮したとき、ユーザーの満足度を最大化するためにどのようなホームページを生成すべきか？

ワークフローを単一ステップに簡素化するだけでなく、GenPageはページ全体の最適化を可能にすることで従来のアプローチを上回ります。訓練後の強化学習（RL）を通じて、個々の行内だけでなく、行間およびアイテムレベルでの相互作用を考慮することができます。

たとえば、ページ上部近くの「視聴を続ける」行は、ユーザーの即時的な意図を強く満たす一方で、ユーザーがページをどれだけ閲覧するかを減らす可能性があります。

Netflixはまた、GenPageが異なるコンテンツタイプに柔軟に適応でき、新しい製品体験やレイアウトバリエーションへの拡張が容易であることも強調しています。

本番環境での使用から得られた2つの主要な発見は、プロンプトの充実がモデルの容量拡大よりも影響が大きかったこと、そして訓練後のRLがホームページの多様性とカスタマイズを増加させるという予期せぬ利点をもたらしたことです。具体的には、Netflixのエンジニアは、モデルを120Mパラメータから900Mパラメータに拡大することとプロンプトの強化の両方がパフォーマンスを向上させたものの、プロンプトの強化がより大きな効果をもたらしたことを観察しました。

両者の差は顕著です。モデルを120Mから900Mパラメータに拡大するとWBC損失が約1.3%減少しますが、コンテキストの充実による累積効果は約6.9%に達します。いくつかのケースでは、単一の適切に設計されたコンテキスト追加が、約7.5倍のモデル容量拡大全体よりも大きな改善をもたらしました。

ただし、コンテキストの充実には収穫逓減があると指摘しています。入力コンテキストが飽和状態になると、モデル容量の拡大がさらなる改善の主な推進力になると考えられます。より広範には、プロンプトの充実が他の業界規模のパーソナライゼーション設定において、モデル拡大よりも効果的である可能性があると示唆しています。

GenPageの利点はA/Bテストを通じて検証され、コアとなるユーザーエンゲージメント指標で統計的に有意な改善が示されました。GenPageがもたらすもう1つの大きな利点は、一般的な想定とは異なり、エンドツーエンドのサービングレイテンシを20%削減したことです。

元の記事には、システムの設計、訓練、後処理の詳細や、遭遇したトレードオフや学んだ教訓など、ここで取り上げた内容よりもはるかに多くの情報が含まれています。包括的な概要については、ぜひ全文をお読みください。

About the Author

Sergio De Simone