米国政府が火曜日、Fable 5の輸出管理を解除したことを受けて、Anthropicは水曜日、7月1日に同モデルを復帰させると発表しました。現在、同社はこのプロセスがどのようなものになるか、および商務省がClaude Fable 5とClaude Mythos 5の両方に輸出管理を適用する原因となった「jailbreak」（またはAnthropicが好む呼び方ではbypass）に関する追加の詳細を明らかにしました。

7月1日、Fable 5は世界中のPro、Max、Team、Enterpriseプランの全ユーザー向けに、Claude Platform、Claude.ai、Claude Code、Claude Coworkで復帰します。ただし、悪いニュースもあります。7月7日まで、サブスクリプションプランを利用するユーザーは、週間の利用制限の最大50%までFable 5を使用できます。それ以降は、AnthropicのAPIプランへのアクセスと同じ料金で利用クレジット経由でのみ利用可能になります。

更新： 7月1日正午頃（太平洋時間）、Fableは実際に再び利用可能になりました。

標準的なEnterpriseユーザーについては、Fable 5は7月7日までであっても通常の利用枠には含まれません。アクセスは即座に利用クレジットで課金されます。ただし、プレミアムEnterpriseシートについては7月7日まで短い猶予期間があり、それらのユーザーはその間、サブスクリプションプランを通じてFable 5にアクセスできます。

当初、Fable 5は6月9日から6月22日まで無料で利用可能になる予定でした。

AWS、Google Cloud、Microsoft Foundryを通じてFable 5にアクセスしていた開発者向けのアクセスもまもなく再開されます。

Fable 5の提供停止前、Anthropicは100万入力トークンあたり10ドル、100万出力トークンあたり50ドルを請求していました。この価格は変更されない見込みです。

Anthropicによると何が起こったのか

今回の更新で、Anthropicはこれらすべてを引き起こした出来事に関する追加の詳細も公開しました。Anthropicは、Amazonの研究者が「Fable 5のセーフガードを回避する方法を見つけ出していた：ソフトウェアの脆弱性を特定するようプロンプトすること」と確認しています。あるケースでは — そしてこれが唯一のケースのようですが — 彼らはモデルに脆弱性の悪用方法を実演させました。

Anthropicは、政府およびAmazonを含むパートナーと協力して報告書をレビューし、Claude Opus 4.8、GPT-5.5、Kimi K2.7を含む他のモデルもFable 5の報告書に含まれていた同じ脆弱性を発見できたこと、そしてテストしたすべてのモデル（Claude Haiku 4.5のような基本モデルを含む）がこの脆弱性を悪用する方法を理解できたことを明らかにしました。

同社は、「報告された手法はMythosレベルの独自のサイバー能力を明らかにしたものではなく」、むしろFable 5のセーフガードが作動する境界線をわずかに下回るものであったと強調しています。

「新しい分類器により、Amazonの報告書に記載された特定の手法は99%以上のケースでブロックされます。」 — Anthropic。

Fable 5をオフラインにした後、Anthropicは政府と協力して、誰かが有害な出力を生成するようモデルに要求していることを検出できる改善された安全分類器を訓練しました。これにより、これらの種類のリクエストもブロックされるようになりました。同社は本質的に、モデルがブロックする無害なリクエストの数を増やしました。

Fable 5を復帰させる代償：より大きな安全マージン

同じ動作を示した他のすべてのモデルにとってこれが何を意味するのか疑問に思う人もいるでしょうが、現時点ではこれはFable 5にのみ適用され、米国政府はそれで問題ないようです。

「新しい分類器により、Amazonの報告書に記載された特定の手法は99%以上のケースでブロックされます」とAnthropicは書き、有害なものの大半をブロックするはずだが、モデルは依然としてすべての低リスクのサイバー防御能力をブロックするわけではないと述べています。同社は「安全マージンを増やすために、意図的に安全分類器が既知の良性のリクエストのセットでトリガーされるように設定した」と述べています。

Fable 5の発売時には、モデルが最も無害なリクエストでさえブロックするというユーザーフィードバックがすでにありました。この強化されたガードレールが今後どのように機能するかはまだわかりません。Anthropicはすでに発表の中でこれをほのめかしています。

「新しい分類器は、日常的なコーディングおよびデバッグタスク中に良性のリクエストをより頻繁にフラグ立てるという代償を伴います」と同社は書き、「すべてのセーフガードと同様に、悪用の試みと正当なリクエストをより適切に区別し、誤検知を減らすために、これを継続的に改善していきます」と述べています。

これが、AnthropicがFableを復帰させるために支払わなければならなかった代償のようです。

以前と同様、Fable 5は問題のあるリクエストをOpus 4.8にルーティングします — Anthropic自身がFable 5の動作を再現できる可能性があると認めているモデルです。これに意味を見出してみてください。ただし、米国政府には言わないでください。

そもそも「jailbreak」とは何か？

これらすべてが比較的軽微な問題から始まったように見えるため、Anthropicはこの発表を利用して、攻撃者に提供する内容に基づいてjailbreakをスコアリングする方法を提案しています。これには、jailbreakが解除する能力の向上、その能力の向上が適用される攻撃的なサイバーセキュリティタスクの数、jailbreakを武器化しやすさ、およびその手法を発見・取得しやすさなどが含まれます。

同社は、これは進行中の作業であり、これらの基準をどのように正確にスコアリングし、相互に比較検討すべきかは不明確であることを認めています。

自社モデルの監視のため、Anthropicはjailbreakの提出チャネルを24時間体制で監視するチームを新設しています。また、研究者が潜在的な脆弱性を提出できるHackerOne上の新しいプログラムも開始しています。

ワシントンとの良好な関係維持

米国政府に関しては、Anthropicは国家サイバー局長室、科学技術政策局、財務省、商務省などの機関との協力を継続し、先進的AIの革新とセキュリティの促進大統領令の一環としてホワイトハウスが確立した枠組みに焦点を当てると述べています。

「この協力と、当社が提案する業界コンセンサスフレームワークが、業界全体の体系的なルールの基礎となり、AIのリスクとメリットに関する効果的なグローバル協調のためのテンプレートの始まりを提供することを期待しています」とAnthropicは書き、これらのルールが「強力な規制として成文化され、フロンティアモデル開発者に平等に適用される」ことを望んでいると述べています。

Anthropicはもちろん、長らくAI安全規制の支持者であったため、これは驚くことではありません。ただし、同社が競合他社にもこれらのルールを適用するよう求めていることは偶然ではありません。

YOUTUBE.COM/THENEWSTACK

Tech moves fast, don't miss an episode. Subscribe to our YouTube channel to stream all our podcasts, interviews, demos, and more.

Group Created with Sketch.