对开源 AI 可行性迄今为止最严峻的考验正在发生。自 ChatGPT 发布以来，我已目睹多波反对开源 AI 的言论来来去去，但它们都没有在针对当时同级别闭源模型的潜在执行中找到明显的对应物。它之所以更真实，是因为新形式的监管正在被测试和实施，且监管极少。我将在此通过前之前会进行远超平常的政策类写作。

截至撰写本文时，多方消息来源都在引用白宫讨论如何通过新的行政命令管理开源模型。此处尚无官方信息，且它很可能仅影响 a) 中国起源模型和 b) 政府用途，但多米诺骨牌正是这样开始倒下的。

开源模型缺乏中央经济捍卫者来代表对其采取行动的潜在负面影响。从最近关于 Fable（以及 GPT-5.6）模型许可协议事件的报道来看，6 月 9 日发生的事情被更多提及：

据知情人士透露，会议上讨论了该计划将如何处理开源 AI 模型的问题。一位来自美国开源模型提供商 Reflection AI 的代表表示，应根据能力为开源模型提供框架豁免。该人士称，目前中国开源模型如 DeepSeek 已大幅领先于其他可用开源模型，而 Reflection 尚未推出公开模型。

任何形式的禁令都将对 AI 的长期发展轨迹造成巨大错误。

最可能的即将到来的行动是禁止或无限期推迟任何能力水平明显高于 GPT 5.5、Claude Opus 4.8 或GLM-5.2范围的开源权重模型。考虑到持续存在的能力差距，这应该会在未来 6 个月内发生。

目前，这些模型最可能来自中国公司，这使得前沿开源模型能力的话题与蒸馏等其他问题不可避免地联系在一起。政府“审查权”的能力阈值会随时间推移，但一旦确立，对开源模型的进展很可能远慢于闭源模型。这部分是因为闭源模型更容易保障安全，也因为闭源模型公司拥有更有效的游说能力。

因此，我们目前正处于两个同时展开的关键政策讨论都在影响开源模型——蒸馏与前沿能力。它们在性质、响应必要性和潜在响应空间上都截然不同。然而，它们共同构成了未来 6 个月内可能禁止开源模型的支持平台不断高涨的讨论点。

推动当今监管的主要驱动因素是一个不可避免的事实：一个开源权重模型很快将达到 Claude 的 Mythos 模型的能力水平。这个公开发布模型的实际性能很可能更加参差不齐，但只需该模型被新生的白宫 AI 模型检查器标记即可。由恐惧驱动的新习惯很难被扭转。

分享

蒸馏在很大程度上目前是一场监管俘获运动，因为摆在桌面上的唯一解决方案将极大地惠及推动它的组织。

具体来说，反对中国模型的政治运动由 Anthropic 领导，他们正在分享一系列博客文章和致代表们的信件，详细说明中国公司正在做什么。Anthropic 已检测到外国公司的使用，即人们前来支付其 API 使用费，最终关闭了使用，然后撰写了措辞强硬的政策行动建议，并分享了最少的技术证据。这场运动可能始于真正的商业担忧，但已演变为监管俘获的定义——如果被指控的中国模型制造商被禁，Anthropic 将在其产品中获得实质性的经济安全。

如果 Anthropic 以更中立的“你来决定怎么做”的方式呈现信息，社区会更有同情心。这更像是一份政策建议，而不是在快速演进技术前沿的信息分享练习。如果 Anthropic 的技术如他们所说那么强大——强大到像它这样的开源模型很可能应该被禁止——那么他们应该能够保护自己的 API。我继续等待他们解释为什么做不到。他们必须收回其中一项声明。

Anthropic 还以其他方式收紧对智能的访问权限——因此他们在中美竞争方面提出的政治建议，与更广泛的以安全为由限制相关技术竞争者访问的模式是一致的。当许多员工正迈向代际财富时，接受“额外安全关注”的公司文化很容易。但我不怪员工，Anthropic 的企业战略应放在这些更广泛的背景视角下来理解。Ben Thompson 的文章Anthropic 的安全超级能力是关于该主题的最佳写作。

Anthropic 实际上要求采取的行动是全面禁止几乎所有中国开源权重模型进入美国——因为围绕开源模型构建的任何产品都依赖于模型的持续改进、随着模型变好而提升的产品市场契合度和计算效率。这将摧毁美国正在兴起的开源模型经济，包括推理公司、微调公司、新产品以及介于其间的一切。作为一个社区，我们迫切需要坚守立场：对蒸馏对话做出任何让步都是不可接受的。

Anthropic 应该尝试保护其知识产权，但不应该要求政府巩固其地位，并在此过程中可能使美国与全球开源社区隔离。在我们掌握的信息下，蒸馏没有好的解决方案，除了让实验室自行执行。

我已就蒸馏进行了详细的写作。我直接写过它对模型能力和监管环境的影响，你可以在 Interconnects 的字里行间搜索更多提及。

蒸馏讨论中存在特别的混乱，即很可能存在对中国实验室将 Mythos 的狭义网络安全能力蒸馏到开源模型中的担忧。这更多反映了当前模型 API 的不安全性，而不是蒸馏风险。即使在 Claude Mythos 处于最受限的私人测试阶段，Discord 侦探也曾未经授权访问 Anthropic 的 Mythos。迄今为止，模型 API 仍不断被越狱并以非预期方式访问。

这使得能力落入坏人之手的风险扩散速度，远快于涉及对 1T+ 参数模型进行复杂微调的任何事情。我不是网络安全专家，但近年来“只有开源权重模型不安全而 API 是安全的”这种二分法被严重夸大。API 在概念上应该能够更安全，但这一点尚未得到证明。

如果 Anthropic 的模型中存在真正危险的能力，在讨论它被蒸馏之前，唯一合理的行动就是不要将其托管在可直接查询的 API 中。

这变得困难的地方在于，在讨论这些蒸馏问题的同时，我们正面临“如何处理达到 Mythos 通用能力水平的前沿开源权重模型？”这是一个难题，而人类自然倾向是想把针对另一个问题（蒸馏）提出的解决方案应用到这个新的、现实得多的问题（前沿能力）上。

我们需要为开源前沿能力制定正确的政策，但全面禁止很可能不是答案。如果模型在中国也没有被禁止，那么坏人仍然非常容易使用被禁的开源权重模型，这就抵消了安全潜力。

同时，如果我们单独禁止进口某些模型，全球开源社区仍将继续。美国在中国或其他更具风险敏感性的文化之前禁止这些模型的世界，很可能表明某种形式的 AI 恐惧症（或其他社会、政治势头）促使美国政府提前行动。这感觉像在美国快速运行反乌托邦剧本，因为我们的科技产业——经济的皇冠明珠——看起来更像中国体制，带有控制和政府投资。这些都是非常糟糕的结果！

为开源进度设置上限的唯一方式是就 AI 模型风险管理达成全球协议，而我们远未接近。其他延迟会使美国 AI 的 rollout 更不可预测且日益混乱。它会感觉很像 GPT-5.6 的 rollout，但这次不仅将开源、更廉价智能的上行限制在少数公司，所有坏人也都会立即获得访问权。开源模型通过广泛访问和理解来提升安全，而不是只削弱积极参与者。

现实是，没有办法阻止开源生态系统。构建最佳模型的人也在评估风险，因为中国非常注重风险敏感性，例如 Z ai 已经成为一家上市公司，面临全面压力——其中之一就是维持其飙升的股价。未来只会出现更多跨越令人担忧能力水平的模型。训练 AI 模型不是魔法，我们尚未看到随着所需投资增加而导致构建模型的准入下降（至少目前如此）。

对于开源的政策死亡螺旋——由相关且互补的、令人担忧的问题构成的双螺旋——短期出路之一，是美国的一家公司发布一个能力相近的开源模型。这将把焦点从“只有中国通过蒸馏构建开源模型”转向“我们都在这个共同的问题中，我们应该关注生态系统内复杂且不断移动的前沿问题”。这对开源而言是生死攸关的优先事项，像 Microsoft 和 Meta（商品化其互补品）这样有商业理由发布开源权重模型的公司应该尽快行动。我对 Meta 的信心较低，尤其是在新领导层下，但他们受益于 AI 的广泛访问，不应自设障碍。如果 Reflection 手头有一个尚可但非前沿的模型，他们可能需要发布它来挽救其提议的业务方向。

比训练新模型更短期的解决方案是构建联盟。开源是一种分散的技术，没有明确的所有权，但其好处将被许多人共享。这个“前沿实验室之外的其他人”需要从今天开始行动，思考如何继续安全地 rollout 开源权重模型（并向当权者游说其原则和价值观）。