Fable 5が復活。Anthropicが手放したもの

Fable 5が帰ってきた。6月12日の輸出規制で全世界から消えてから19日。米商務省は6月30日に規制を解除し、Anthropicは7月1日からFable 5の提供を再開した。Mythos 5も米国の承認済み組織への提供が続いている。だが復活したFable 5は、止められる前とは変わっている。セーフガードは厳しくなり、利用枠には上限がかかり、Anthropicは今後のフロンティアモデルについて政府への事前アクセスを約束した。規制を解くために、Anthropicは何を差し出したか。

何が変わったか

今回の再デプロイで、Anthropicはサイバーセキュリティ関連のリクエストを検知する安全分類器を再訓練した。Amazonの研究者が報告した手法は、99%以上の確率でブロックされるようになった。ブロックされたリクエストはOpus 4.8に自動転送され、ユーザーにはその旨が通知される。

引き換えに、誤検知は増えた。Anthropic自身がそう認めている。通常のコーディングやデバッグ作業がサイバーセキュリティ関連と誤判定され、Opus 4.8に回される場面が以前より多くなる。開発者にとって、Fable 5はコードを書く道具としてやや使いにくくなった。

利用条件も変わった。Pro、Max、Team、一部のエンタープライズプランでは、7月7日まで週間利用上限の最大50%をFable 5に充てられる。7月7日以降は利用クレジットへ移行する。6月9日の初回ローンチでは6月22日まで無料で使えたことを考えると、実質的な無料枠は縮小している。AWS、Google Cloud、Microsoft Foundryでの再開時期は未定だ。

あの脱獄は、本当に深刻だったのか

Anthropicはこの再デプロイ声明で、6月12日の規制に至った経緯を詳しく説明した。

きっかけは、Amazonの研究者がFable 5のセーフガードを迂回する方法を発見したという報告だった。Fable 5にソフトウェアの脆弱性を複数特定させ、1件についてはその脆弱性が実際に悪用されうることを実証するコードを生成させたとされる。

Anthropicの反論は明確だ。同社が検証したところ、Opus 4.8、GPT-5.5、Kimi K2.7といった下位モデルでも同じ脆弱性を特定できた。悪用の実証に至っては、テストしたすべてのモデル（Haiku 4.5、Sonnet 4.6、Opus 4.6〜4.8、GPT-5.4〜5.5、Kimi K2.7）が同じ出力を再現した。報告された手法はMythos固有のサイバー攻撃能力を露出させるものではなく、通常の防御的セキュリティ作業の範囲内だったと結論づけている。

米商務省のCAISI（AI標準・イノベーションセンター）も、改良前・改良後の両方のセーフガードを検証し、その強度を認めた。

この検証結果を踏まえると、6月12日の輸出規制は脅威に比して過大だった可能性がある。Anthropicはそれを直接は言わない。だが声明は、規制の根拠となった脱獄が「セーフガードの境界線上の事例」であり、「危険とは言いがたいが念のためブロックされていた種類の動作」へのアクセスを許したにすぎないと、繰り返し述べている。

脱獄に「深刻度」をつける

Anthropicが今回の声明で打ち出した中で最も影響の大きい提案は、AIモデルの脱獄を客観的に評価する業界共通のフレームワークだ。Amazon、Microsoft、Google、その他のProject Glasswingパートナーと共同で策定を進めている。

背景にあるのは、6月12日に起きたことへの根本的な不満だろう。脱獄の深刻度を測る共通基準がないまま、政府が個別のインシデント報告をもとにフロンティアモデルの提供停止を命じた。開発企業はどの脱獄に最優先で対処すべきかの基準を持たず、政府にも介入すべき閾値がない。基準がない状態が、リリース3日での全面停止という結果を生んだ。

提案されている評価軸は4つ。能力獲得（既存ツールでは得られない能力をどれだけ上乗せするか）、能力獲得の範囲（同じ手法で何種類の攻撃に使えるか）、武器化の容易さ（実際の攻撃に転用するのにどれだけの労力がかかるか）、発見可能性（その手法を独力で見つけるのがどれだけ容易か）。

ソフトウェアの脆弱性にはCVSSという共通のスコアリング基準がある。セキュリティ研究者も企業もこの共通の尺度で脆弱性の深刻度を伝え合っている。AIの脱獄にはそれがない。Anthropicの提案は、そのCVSSに相当するものを脱獄にも作ろうという試みだ。

最も深刻な脱獄（電力網や金融システムに壊滅的な被害を与えうるもの）に対しては、深刻度が確認され次第、即座に緩和策の展開を開始するとしている。脱獄報告の主要チャンネルを24時間体制で監視するチームも新設する。あわせて、セキュリティ研究者がFable 5の脱獄を報告できるHackerOneプログラムも立ち上げた。

フレームワークの詳細は未公開で、策定の主導者もタイムラインも明かされていない。参加企業間で同じ脱獄のスコアが食い違った場合にどう調整するのかも、まだ見えない。それでも、脱獄が発見されるたびに政治的な判断で対応が決まる現状と比べれば、技術的な基準で議論を始められること自体に意味がある。

政府への約束

Anthropicが規制解除と引き換えに政府へ差し出したものは、セーフガードの強化だけではない。今後のフロンティアモデルに対する事前評価アクセスの提供、脱獄や悪用パターンの迅速な情報共有、政府との共同研究への専任チームとコンピュート資源の提供、そして業界共通のセキュリティ基準の策定に参加する意思を表明した。

これは、フロンティアモデルの公開前に政府が検証する仕組みを、Anthropicが自ら提案したことを意味する。6月2日の大統領令「先進的人工知能のイノベーションと安全保障の推進」（Promoting Advanced Artificial Intelligence Innovation and Security）が定めた事前評価の枠組みは、建前上「任意」だ。だがFable 5の一件を経験した後で「任意」を辞退する選択肢は、事実上なくなった。

Anthropicはこの声明で「業界全体に等しく適用される強い規制として法制化されるべきだ」と述べている。自社だけが政府に譲歩する状態は競争上不利になる。同じルールをOpenAI、Google、Metaにも課せという意思表示だ。

誰のための復活か

Fable 5は使えるようになった。それは確かだ。3週間使えなかった分、7月1日以降に触れるユーザーの多くは歓迎するだろう。

だが3週間の空白は無傷では済まない。Fable 5が止まっている間に、OpenAIのGPT-5.5-CyberがUCバークレーのCyberGymベンチマークでMythos 5を上回ったと報じられている。中国のオープンソースモデルも着実に能力を上げている。フロンティアモデルが政治的な判断で止まりうるという前例は、米国のAI開発企業にとって競争上のリスクそのものだ。

Anthropicの立場からすれば、今回の対応は最善手に近い。規制を解いてもらい、Fable 5を全世界に戻し、脱獄評価のフレームワークという業界全体の議論を主導する立場を取った。6月12日以降は交渉の前面に立つ人物をCEOのダリオ・アモデイ氏から共同創業者のトム・ブラウン氏に切り替え、政権との関係修復を進めてきた。

利用者の視点では、Fable 5が戻ったこと自体は朗報だが、フロンティアAIモデルの公開と停止が政府の裁量で決まる仕組みはそのまま残っている。脱獄評価フレームワークが機能すれば、少なくとも「なぜ止めたのか」の説明責任は生まれる。止めるかどうかの判断が、一企業の競合による報告と政治的な圧力で決まるのか、技術的な基準で決まるのか。今回Anthropicが提案したフレームワークは、その分岐点にある。

参照元

Redeploying Fable 5

関連記事

• トランプ氏「1週間前は脅威だった」。Anthropic問題の経緯と構造
• 「言語が違う」。AnthropicとトランプのAI戦争、Claudeが止まった日
• Fable 5とMythos 5の輸出規制が全面解除。18日ぶりにアクセス再開へ
• Fable 5輸出規制、G7同盟国の例外要請も拒否
• Mythos配布から外された欧州、AI主権の空白が露呈する
• AnthropicのClaude Mythosが「すべての主要OS・ブラウザ」で数千のゼロデイ脆弱性を発見、危険すぎて一般公開せず
• Mythos 5が限定復活、Fable 5はまだ止まっている
• 基準なき規制がフロンティアAIを止めている
• Anthropic従業員「狙い撃ちされている」。Fable停止から6日、社内の混乱
• AIがGitHubを圧倒し、MicrosoftはAWSに頼った