オープンソースAIの存続可能性に対するこれまでで最も深刻な試練が、今まさに進行中だ。ChatGPTの登場以来、私は何度も繰り返される反オープンソースAIのレトリックを見てきたが、それらのどれも、当時の閉鎖型モデルを対象とした現実の行動に直結するような明確な類似例を持っていなかった。新しい規制の形態が、最小限の監視のもとでテストされ、実施されているため、より現実味を帯びている。私はこの問題が解決するまで、通常よりも政策関連の執筆を大幅に増やす予定だ。

執筆時点で、多くの情報源がホワイトハウスがオープンソースモデルを新しい大統領令で管理する方法について協議していると報じている。公式情報はなく、中国起源のモデルと政府利用のみに影響を与える可能性が高いが、これがドミノ倒しの始まりとなる。

オープンソースモデルには、自身に対する行動の潜在的な弊害を代表する中央集権的な経済的擁護者が存在しない。最近の報道では、Fable（およびGPT-5.6）のモデルライセンス契約をめぐる出来事について、6月9日に起きたことが詳述されている：

会議では、プログラムがオープンソースAIモデルをどのように扱うかという話題が出た、と会合に詳しい人物が述べた。米国のオープンソースモデルプロバイダーであるReflection AIの代表者は、能力に基づいてオープンソースモデルを枠組みから除外すべきだと主張したという。現在、DeepSeekのような中国のオープンソースモデルは、他の利用可能なオープンソースモデルに対してかなりのリードを保っており、Reflectionはまだ公開モデルをリリースしていない。

ここで何らかの形で禁止措置が取られることは、AIの長期的な軌道にとって大きな過ちとなるだろう。

最も可能性の高い次の措置は、GPT 5.5、Claude Opus 4.8、またはGLM-5.2の能力レベルを有意に超えるオープンウェイトモデルを禁止または無期限に延期することだ。一貫した能力ギャップを考慮すると、これは今後6ヶ月以内に起こる可能性が高い。

現時点では、これらのモデルは中国企業から提供される可能性が最も高く、このことがフロンティア級のオープンソースモデルの能力に関する議論を、蒸留などの他の問題と不可分に結びつける要因となっている。「政府による審査を受ける権利」の能力閾値は時間とともに変化するが、一度設定されれば、閉鎖型モデルよりもオープンソースモデルに対してはるかに緩やかに進展するだろう。これは、閉鎖型モデルの方がセキュリティ対策を講じやすいことと、閉鎖型モデル企業の方がはるかに効果的なロビー活動を行っていることによる。

したがって、我々は現在、オープンモデルに影響を与える2つの重要な政策議論が同時に進行している状況にある。それは蒸留とフロンティアレベルの能力だ。これらは性質、対応の必要性、対応可能な範囲が大きく異なるが、合わせて今後6ヶ月以内にオープンソースモデルの禁止を支持する声が急激に高まる要因となっている。

今日の規制を動機づけている主な要因は、オープンウェイトモデルがやがてClaudeのMythosモデルの能力に到達するという避けがたい現実だ。実際に公開されるモデルの性能はより不均一になる可能性が高いが、必要なのは新設されたホワイトハウスAIモデルチェッカーにそのモデルがフラグ付けされることだけだ。恐怖に動機づけられた新しい習慣を元に戻すのは難しい。

共有

蒸留は、議論のテーブルに上がっている唯一の解決策が、それを推進する組織に多大な利益をもたらすものであるため、現時点では主に規制の捕捉キャンペーンだ。

詳しく説明すると、反中国モデルを推進する政治キャンペーンはAnthropicが主導しており、同社は中国企業が何をしているかを詳述したブログ記事と議員への書簡を混ぜて共有している。Anthropicは外国企業による利用を検知し、それらの企業がAPIの利用料を支払っていた人々に対して利用を停止した上で、政策措置を強く求める勧告を書き、最小限の技術的証拠を共有した。このキャンペーンは当初、 genuine な事業上の懸念から始まった可能性もあるが、現在では規制の捕捉の典型例となっており、Anthropicは告発した中国のモデルメーカーが禁止されれば、自社製品に substantial な経済的安全保障を得ることになる。

もしAnthropicがより中立的な「あなたが判断せよ」という形で情報を提示していれば、コミュニティはより多くの共感を示しただろう。これは急速に進化する技術の最前線における情報共有というよりは、政策提言に近い。Anthropicの技術が彼らの言うほど強力で、オープンモデルが禁止されるべきレベルであるなら、彼らは自社のAPIを保護できなければならないはずだ。私は彼らがなぜそれができないのかを説明するのを待っている。彼らの声明のいずれかを撤回する必要がある。

Anthropicはまた、インテリジェンスへのアクセスを他の方法でもはしごを外している——つまり、中国との競争という文脈で彼らが提示する政治的提言は、安全保障という観点から関連技術への競合他社へのアクセスを制限する、より広範なパターンと一貫している。多くの従業員が世代を超えた富を手にできる軌道に乗っているとき、追加の安全重視という企業文化に共感するのは容易だ。私は従業員を非難するつもりはないが、Anthropicの企業戦略はこれらの広範で文脈的なレンズを通して理解されるべきだ。Ben Thompsonの記事Anthropic’s Safety Superpowerは、このテーマに関する最高の文章だ。

Anthropicが事実上求めている行動は、米国内のほぼすべての中国製オープンウェイトモデルを全面的に禁止することだ。オープンソースモデルを基盤とした製品はすべて、モデルの改善、製品市場適合性の向上、モデルが向上するにつれての計算効率の向上に依存しているからだ。これは、米国内で台頭しつつある推論企業、ファインチューニング企業、新製品など、オープンモデル経済全体を破壊することになる。我々コミュニティは、蒸留に関する会話で何かを譲歩することは容認できないというラインを必死に守る必要がある。

Anthropicは自社のIPを保護しようとすべきだが、政府に自社の地位を固定化させ、その過程で米国をグローバルなオープンソースコミュニティから孤立させる可能性のあることを求めるべきではない。蒸留については、我々が持っている情報に基づく良い解決策は存在せず、ラボに自己執行させる以外にない。

私は特に蒸留について長文で書いてきた。モデル能力への影響と規制環境について直接書いており、Interconnectsの行間からもさらに多くの言及を探すことができる。

蒸留の議論には特有の混乱があり、中国のラボがMythosの狭いサイバーセキュリティ能力をオープンソースモデルに蒸留するのではないかという意味のある懸念がある可能性が高い。これは蒸留のリスクというより、現在のモデルAPIのセキュリティの脆弱性をより鮮明に描き出している。Claude Mythosが最も制限されたプライベートベータ版であったときでさえ、Discord Sleuths Gained Unauthorized Access to Anthropic’s Mythosという事件が起きている。これまで、モデルAPIは意図しない方法で jailbreak され、アクセスされ続けている。

これは、1Tパラメータを超えるモデルの複雑なファインチューニングを伴うどのようなプロセスよりも、能力が悪意ある行為者に急速に流出するリスクを増大させる。私はサイバーセキュリティの専門家ではないが、オープンウェイトモデルだけが安全ではなく、APIは安全だという二分法は近年非常に誇張されてきた。APIは概念上はより安全になり得るはずだが、それはまだ実証されていない。

If Anthropic has a truly dangerous capability in their models, the only coherent action would be to not host it in a directly queryable API — before the discussion of it being distilled.

これが困難になるのは、これらの蒸留の問題と同時に、「Mythosレベルの一般能力を持つフロンティア級のオープンウェイトモデルをどのように扱うか？」という問題に直面していることだ。これは難しい問題であり、別の問題（蒸留）に対する提案された解決策を、新しい、はるかに現実的な問題（フロンティアレベルの能力）に適用したいという人間の自然な傾向がある。

我々はオープンソースのフロンティア能力に対する適切な政策を策定する必要があるが、全面的な禁止は答えではないだろう。もし中国でもモデルが禁止されなければ、悪意ある行為者が禁止されたオープンウェイトモデルを使用することは非常に容易であり、安全性の潜在的な効果を無効化する。

同時に、もし我々が特定のモデルの輸入を単独で禁止すれば、グローバルなオープンソースコミュニティは継続するだろう。米国が中国やその他のよりリスクに敏感な文化よりも先にこれらのモデルを禁止する世界は、AI恐怖症（またはその他の社会的・政治的勢力）が米国政府を早期に行動させたことを示唆するだろう。これは米国でディストピアをスピードランしているように感じられ、我々のテック産業——経済の宝珠——が中国のシステムにますます似てきているように見える。管理と政府投資という点で、これらは非常に悪い結果だ！

オープンソースの進歩に上限を設ける唯一の方法は、AIモデルのリスク管理に関するグローバルな合意であり、我々はそれに程遠い。他の遅延は米国内でのAI展開をより予測しにくく、ますます混乱させるだろう。それはGPT-5.6のロールアウトに似た感覚になるだろうが、オープンで安価なインテリジェンスの利点を数社の企業に制限するだけでなく、すべての悪意ある行為者も即座にアクセスできるようになる。オープンソースモデルは、肯定的な行為者だけを弱体化させるのではなく、幅広いアクセスと理解を通じて安全性を高める。

現実には、オープンソースエコシステムを止めることはできない。最高のモデルを構築している人々もリスクを評価しており、中国は非常にリスクに敏感で、例えばZ aiはすでに包括的な圧力にさらされる上場企業であり、急上昇する株価を維持することなどがその一つだ。懸念すべきレベルの能力を超えるモデルは、今後も増え続けるだろう。AIモデルのトレーニングは魔法ではなく、必要な投資が増大するにつれて、それらを構築するためのアクセスが減少している様子はまだ見られていない（まだ）。

このオープンソースに対する政策のデススパイラル——関連し補完し合う恐ろしい問題の二重らせん——から短期的に抜け出す方法の一つは、米国企業が同等の能力を持つオープンソースモデルをリリースすることだ。これにより、「中国だけが蒸留を通じてオープンソースモデルを構築している」という焦点から、「我々は皆この問題を抱えており、エコシステム内の複雑で流動的なフロンティアの問題に焦点を当てるべきだ」という方向にシフトする。これはオープンソースにとって存在に関わる優先事項であり、MicrosoftやMetaのように自社の補完財をコモディティ化する事業上の理由を持つ企業は、できるだけ早くそれを実行すべきだ。私は新しいリーダーシップのもとでのMetaにはあまり信頼を置いていないが、彼らはAIへの大規模なアクセスから恩恵を受けており、自らの足を引っ張るべきではない。Reflectionがフロンティア級ではないがまあまあのモデルを抱えているなら、提案する事業方向を救うためにリリースする必要があるかもしれない。

新しいモデルをトレーニングするよりも短期的な解決策は、連合を構築することだ。オープンソースは明確な所有権を持たない拡散した技術だが、その恩恵は多くの人々に共有される。この「フロンティアラボ以外のすべての人々」は、オープンウェイトモデルの安全な展開を継続する方法（および権力者に対して自らの原則と価値をロビー活動する）について、今日から取り組み始める必要がある。