Google AI profile image Stephanie Wong

我们正处于周末 AI 副项目的黄金时代。得益于氛围编程和 LLM,你可以凭借一杯咖啡的时间,把一个大胆的想法从空白屏幕变成一个可运行的应用程序。

但当你试图把这个随意的原型带进大型企业环境时,你就会撞上砖墙。僵化的基础设施、严格的合规规则,以及担心出问题的领导团队都会扼杀你的势头。

数据相当残酷:只有 5% 的 AI 原型能够进入生产阶段。其余 95% 都会消失在企业的炼狱中。

看到社交媒体上的人们快速发布 AI 功能,而你却困在无休止的企业审查循环中,这种感觉可能会让人抓狂。为了找出如何弥合这一差距,我深入研究了 YouTube 的工程团队,看看他们是如何应对这种速度与风险悖论的。

速度与风险的悖论

当你独自开发时,失败的代价很低。如果你的 AI 代理出现问题,你只需调整提示并重新启动即可。

但在公司内部,让不受约束的 AI 代理自由运行会造成巨大的影响范围。在我们 Emergent 的首播节目中,AI 工程负责人 Addy Osmani 谈到了在一个个人项目上运行十个并行代理的情况。由于更改没有正确隔离,技术债务立即堆积,并灾难性地破坏了他的两个应用程序。

现在想象一下这种风险在 YouTube 规模下的情况,你要处理一个有 20 年历史的代码库,服务数十亿用户。你不能让实验性代码随意运行。但传统的合规流程需要几个月的时间,而到你的演示真正获得批准时,AI 模型已经进化了,你的特性也过时了。

进入 YouTube 的 AI 原型开发堆栈

Benji Bear,Google Deepmind 和前 YouTube 工程师,通过彻底改变基础设施理念解决了这个问题。他的团队没有试图加快人工审查,而是将实验与主线生产服务器解耦。

他们构建了一个原型开发堆栈,解决了开发人员面临的两个最大瓶颈:

  • 安全、实时的数据层:开发者不必使用假数据在真空中进行测试,而是使用 Google AI Studio 模板来引导想法。这些模板会连接到一个安全的 Google Cloud 代理服务器,该服务器提供对实时组件(如播放列表、视频和频道)的预认证只读 API 访问。你可以获得技术准确性,而不会有污染或破坏核心数据库的风险。

  • 实时 UI 注入:为了了解功能对真实用户的实际感受,开发者使用客户端扩展包装器将实验性 UI 直接注入到他们的本地浏览器中。它与生产代码完全隔离,这意味着更新可以在几分钟内安全地进行分阶段测试。

通过转向这种设置,YouTube 从需要几个季度来验证一个功能,转变为在几周内将几个成功的原型(如 YouTube Recap)直接推向用户研究研究。

拥抱可丢弃的代码

要实现这一点,需要一个相当大的心理转变:你必须拥抱可丢弃的代码。

作为工程师,我们接受的训练是编写完美、永久的基础设施。但原型代码应该是混乱的。它的唯一目标是验证用户是否真正关心这个功能。试图清理并将混乱的、AI 生成的脚本直接强制放入企业代码库是一个架构陷阱。

相反,你可以使用 Google AI Studio 在第一天就建立一个高度准确的基线。运行你的用户测试,查看数据,如果这个想法成功了,就丢弃混乱的脚本。因为你已经证明了基线参数有效,所以为生产环境重写一个干净版本会变得更快、更便宜、更安全。

快速前进而不破坏事物

95% 的失败率不应该被视为一个错误——它应该是策略。AI 已经使生成代码变得极其廉价,将我们的角色从语法把关者转变为系统架构师。

我们现在的工作是设计只读沙箱和隔离管道,让我们的团队能够以超快的速度安全地失败。最大的风险不是用混乱的 AI 代码破坏服务器;而是因为你的验证循环太慢而错过技术浪潮。

要查看完整的技术分解、开发者访谈以及 AI 原型开发堆栈的深入探讨,请查看我们在 YouTube 上的 Emergent 首播节目 Emergent