GenPage 是 Netflix 開發的生成式 AI 系統,用以取代傳統多階段推薦管線,直接 生成個人化使用者首頁。GenPage 利用使用者歷史與請求脈絡作為提示,產生整個頁面,進而提升使用者參與度並降低服務延遲。
Netflix 先前的解決方案仰賴「複雜的多階段管線,包含候選生成與排序等獨立元件」。此程序會針對每列以及列中的每個實體重複執行,最後再由一個負責頁面佈局的階段完成。在 GenPage 中,則採用單一步驟方法,將項目選擇、列建置與佈局生成三個層級整合在單一模型中:
大型語言模型已證明,單一生成式模型只需透過生成回應來回應提示,即可執行多樣化任務。受此提示-回應範式啟發,我們訓練單一生成式模型,透過直接回答一個問題來建置首頁:
根據我們對此使用者與此請求所知的一切,我們應該產生什麼樣的首頁,才能最大化使用者滿意度?
除了將工作流程簡化為單一步驟,GenPage 還透過全頁面最佳化超越先前方法。透過訓練後強化學習 (RL),它不僅能考量單一列內的互動,還能跨列與項目層級進行考量:
例如,位於頁面頂端的「繼續觀看」列可能強烈滿足使用者的立即需求,但也會降低使用者瀏覽頁面的程度。
Netflix 也強調,GenPage 在適應不同內容類型上更具彈性,且更容易擴展至新的產品體驗與佈局變化。
從實際上線使用的兩個關鍵發現是:豐富提示帶來的影響大於擴展模型容量,而訓練後的 RL 帶來額外且意料之外的好處——提升首頁多樣性與客製化程度。更具體地說,Netflix 工程師觀察到,雖然將模型從 1.2 億參數擴展到 9 億參數,以及強化提示都能改善效能,但提示豐富化帶來的增益更大:
兩者之間的差距相當明顯。將模型從 1.2 億參數擴展到 9 億參數,大約可降低 1.3% 的 WBC 損失,而累積豐富化脈絡的效益則約為 6.9%。在多個案例中,單一設計良好的脈絡新增所帶來的改善,超越整個約 7.5 倍模型容量擴展的效益。
然而,他們也指出,脈絡豐富化會有遞減效益:一旦輸入脈絡達到飽和,擴展模型容量很可能成為進一步改善的主要驅動力。更廣泛地說,他們認為在其他產業規模的個人化情境中,提示豐富化可能比模型擴展更有效。
GenPage 的效益已透過 A/B 測試驗證,顯示在核心使用者參與度指標上有統計顯著的改善。GenPage 帶來的另一大優勢是端對端服務延遲降低 20%,這與生成式模型天生較慢的常見假設相反。
原始文章中還有更多細節無法在此涵蓋,包括系統的設計、訓練與訓練後流程,以及遇到的權衡與經驗教訓。請務必閱讀完整文章以獲得全面概觀。
0 Comments
Log in to join the conversation.No comments yet. Be the first to share your thoughts.