GenPage 是 Netflix 开发的一套生成式 AI 系统，用于取代传统的多阶段推荐流水线，直接生成个性化的用户主页。GenPage 将用户历史和请求上下文作为提示，直接生成整个页面，从而提升用户参与度并降低服务延迟。

Netflix 之前的方案依赖“复杂、多阶段的流水线，包含候选生成和排序等独立组件”。这一流程需要针对每一行以及行中的每个实体重复执行，最后再由一个负责页面布局的阶段完成。相比之下，GenPage 采用单步方法，将项目选择、行构建和布局生成这三个层级统一在一个模型中：

大语言模型已经证明，单一生成模型只需通过生成对提示的响应，就能执行多种任务。受这种提示-响应范式的启发，我们训练了一个单一的生成模型，通过直接回答一个问题来构建主页：

根据我们对该用户和该请求所知的一切，我们应该生成什么样的主页才能最大化用户满意度？

除了将工作流简化为单步，GenPage 还能实现整页优化，超越了之前的方法。通过训练后的强化学习（RL），它不仅能考虑单行内的交互，还能兼顾跨行以及项目级别的交互：

例如，页面靠上的“继续观看”行可能强烈满足用户的即时需求，但也会减少用户浏览页面其他内容的量。

Netflix 还强调，GenPage 在适应不同内容类型方面更加灵活，也更容易扩展到新的产品体验和布局变体。

生产环境使用的两项关键发现是：丰富提示比扩展模型容量更有效，而训练后强化学习带来了额外、意想不到的好处——提升了主页的多样性和个性化程度。更具体地说，Netflix 工程师观察到，将模型从 120M 参数扩展到 900M 参数以及增强提示都能提升性能，但提示丰富带来的增益更大：

两者之间的差距非常明显。将模型从 120M 参数扩展到 900M 参数可将 WBC 损失降低约 1.3%，而累积的上下文丰富效果约为 6.9%。在某些情况下，单个精心设计的上下文添加带来的改进，超过了整个约 7.5 倍模型容量扩展带来的提升。

不过，他们也指出上下文丰富存在收益递减：一旦输入上下文达到饱和，扩展模型容量很可能成为进一步改进的主要驱动力。更广泛地说，他们认为在其他行业级个性化场景中，提示丰富可能比模型扩展更有效。

GenPage 的优势通过 A/B 测试得到验证，核心用户参与度指标出现了统计学意义上的显著提升。GenPage 带来的另一个重大优势是端到端服务延迟降低了 20%，这与生成模型天生较慢的普遍假设相反。

原文中还有更多无法在此涵盖的内容，包括系统设计、训练和后训练的细节，以及遇到的权衡和经验教训。请务必阅读全文以获取全面概览。

About the Author

Sergio De Simone