AI規制

「AIにもモデルリスクがある」。2008年危機の当事者が語った重み

AI

「AIにもモデルリスクがある」。2008年危機の当事者が語った重み

カナダのマーク・カーニー（Mark Carney）首相がFable 5停止を2008年の金融危機になぞらえた。リーマン・ショックの渦中で二国のG7中央銀行を率いた人物の警告は、ほかの誰のものとも重さが違う。G7エビアン・サミット開幕を目前に控えた発言の意味を読む。 「誰も悪くない。だが教訓を無視すれば、我々が悪くなる」 現地時間6月14日、アイルランドのウェストポートでカーニー首相が記者団に語った。Fable 5とMythos 5の停止について問われ、特定の企業や政府を批判するのではなく、構造そのものに矛先を向けた。 カーニー氏の言葉はこうだった。特定のモデルへの過度な依存で今まさに起きている事態は、少数への集中が引き起こすリスクの見本だ、と。そして「モデルリスク」という金融の専門用語を持ち出した。AIインフラの冗長性と多様性を確保すべきであり、それはリーマン・ブラザーズの破綻後に金融規制が銀行システムに求めたものと同じ原則だ、と。 この発言が異例なのは、語っている人物の経歴にある。 なぜこの人物の言葉が重いのか カーニー氏は2008年、42歳でカナダ銀行（中央銀行）総
Anthropicが技術者をD.C.に飛ばした。Fable 5復旧交渉の行方

AI

Anthropicが技術者をD.C.に飛ばした。Fable 5復旧交渉の行方

Fable 5とMythos 5の全面停止から3日。Anthropicの上級技術スタッフがワシントンD.C.に入り、ホワイトハウス関係者と直接会談に臨んでいると報じられた。対立は対話の局面に移りつつある。 金曜日から続く水面下の接触 6月14日、Anthropicに近い関係者の証言として報じられた。同社の上級技術スタッフがワシントンに飛び、ホワイトハウス関係者と対面での協議に入っている。金曜日（6月12日）にトランプ政権側が最初の接触を図って以降、技術スタッフはバーチャル会議を重ねてきたという。 双方が問題解決に意欲を示しているという。 ただし、その間にも認識のずれは表面化している。政権側は「Anthropicが真剣に取り組んでいない」と主張していた。Anthropicに近い関係者は「金曜日の段階からバーチャルで対話を続けてきた」としている。技術者がD.C.に赴いたこと自体が、この認識の溝を埋めるための動きだろう。 止まった3日間で動いたもの 停止の経緯と背景についてはこれまでの記事で詳しく報じた。ここでは、この3日間で浮上した新たな事実を確認する。 停止翌日の報道で
AIの脅威を認め、それでも規制しない。トランプ大統領令の意味

AI

AIの脅威を認め、それでも規制しない。トランプ大統領令の意味

AIがソフトウェアの脆弱性を自律的に発見し、攻撃コードまで書く。この現実に米政府が正面から向き合った。だが大統領令が企業に求めるのは、あくまで「任意の協力」だ。規制なき安全保障は成立するのか。 何が起きたか 現地時間2026年6月2日、トランプ大統領が大統領令「先進的AIのイノベーションと安全保障の促進」（Promoting Advanced Artificial Intelligence Innovation and Security）に署名した。連邦政府のサイバー防衛を強化し、フロンティアAIモデルの事前評価枠組みを構築し、AI犯罪の取り締まりを強化する。 この枠組みは完全に任意だ。大統領令は「対象フロンティアモデル」の開発企業に、公開の最大30日前に政府へアクセスを提供するよう求める。だが同じ文書がこうも明記する。「本令のいかなる条項も、AIモデルの開発・公開・リリース・配布に対する義務的な政府認可、事前承認、許可制度の創設を認めるものと解釈してはならない」。 規制はしない。だが安全は確保したい。大統領令はこの矛盾を抱えたまま署名された。 半年前の大統領令との落差
Fable 5停止が浮き彫りにした「AIは誰のものか」。欧州の政治家が一斉に動いた

AI

Fable 5停止が浮き彫りにした「AIは誰のものか」。欧州の政治家が一斉に動いた

米国政府がAnthropicのFable 5とMythos 5を止めてから24時間も経たないうちに、ヨーロッパの政治家たちが一斉に声を上げた。左右を問わない。現職閣僚も、野党指導者も、元首相も。口にした言葉はそれぞれ違うが、指し示す先はひとつだった。AIは国家インフラになった、そしてそのインフラを他国が握っている、と。 何が起きたか 経緯を手短に振り返る。6月9日にリリースされたFable 5は、Anthropicが一般公開した初のMythosクラスのモデルだった。リリース前に米国政府への通知は済んでおり、反対はなかった。それが6月11日木曜夜、Amazonのアンディ・ジャシー（Andy Jassy）CEOが政権幹部に電話をかけたことで状況が変わる。自社の研究者がFable 5のセーフガードを突破し、サイバー攻撃に転用可能な情報を引き出したという報告だった。少なくとも5社が追随して懸念を伝え、翌金曜の夕方にはハワード・ラトニック（Howard Lutnick）商務長官からダリオ・アモデイ（Dario Amodei）CEOへ輸出規制の書簡が届いた。同日夜、Fable 5とMytho
米政府がFable 5とMythos 5を輸出規制。リリース3日で全ユーザーのアクセス停止へ

AI

米政府がFable 5とMythos 5を輸出規制。リリース3日で全ユーザーのアクセス停止へ

6月9日に一般公開されたばかりのClaude Fable 5が、わずか3日で使えなくなった。 6月12日、ハワード・ラトニック（Howard Lutnick）商務長官がAnthropicのCEOダリオ・アモデイ（Dario Amodei）氏宛てに書簡を送り、Fable 5とMythos 5を輸出規制の対象に指定した。米国外への提供はもちろん、米国内の外国籍の人物への提供も禁止される。Anthropicの外国籍社員すら対象だ。外国籍のユーザーだけを選別する手段がない以上、Anthropicは全ユーザーのアクセスを止めるしかなかった。他のClaudeモデルには影響しないとしている。 波乱のリリースから72時間 Fable 5とMythos 5は同一の基盤モデルだ。違いはセーフガードの有無だけで、Fable 5にはサイバーセキュリティ、生物・化学、AI蒸留（高性能モデルの出力を使って別のAIを訓練する手法）に関するリクエストを検知する分類器が搭載されている。該当するリクエストを検知すると、応答をClaude Opus 4.8に自動的に切り替える仕組みだった。Mythos 5はこの制限
Anthropic CEOが自らAI規制を求めた。その提言の中身

AI

Anthropic CEOが自らAI規制を求めた。その提言の中身

Anthropicのダリオ・アモデイ（Dario Amodei）CEOが2026年6月10日、個人ブログに約1万語のエッセイ「Policy on the AI Exponential」を公開した。AI規制、雇用政策、バイオ医療、市民的自由、地政学の5分野にわたる政策提言だ。エッセイの公開に合わせ、Anthropicはフロンティアモデルの第三者テストに関する立法提案と、雇用喪失に対する政策フレームワークも発表している。 「透明性」では足りなくなった エッセイの核心は一文に集約できる。「透明性の先へ進むべき時が来た」。 アモデイ氏は2024年から2025年にかけて、AIの規制はまず透明性から始めるべきだと主張してきた。リスクの形がまだ見えない段階で細かなルールを決めれば、的外れなコンプライアンスに労力を費やすだけで本当の危険は素通りする。Anthropicが2025年にカリフォルニア州SB 53（AI透明性法）を支持し、ニューヨーク州RAISE法、イリノイ州SB 315の成立を後押ししたのは、その思想の延長線上にある。 しかし今回、アモデイ氏はその立場を明確に更新した。 転機は
OpenAI、連邦AI安全規制の独自案を提言

AI

OpenAI、連邦AI安全規制の独自案を提言

トランプ大統領がAI大統領令に署名した翌日、OpenAIは連邦政府に対し「義務的な第三者評価」を柱とする独自のAI規制フレームワークを提言した。大統領令が「任意」にとどめた評価プロセスを「義務」に引き上げ、監督の主体をNSAではなくNISTのAI標準・イノベーションセンター（CAISI）に置くべきだと主張している。 大統領令の翌日、OpenAIが突きつけた「対案」 2026年6月2日、トランプ大統領は大統領令「先進的AIのイノベーションと安全保障の促進」に署名した。高度なサイバー能力を持つフロンティアAIモデルについて、開発企業が一般公開の最長30日前に政府へ自主的に提供し、安全性評価を受ける枠組みを構築する内容だ。 翌3日、OpenAIは「A blueprint for democratic governance of frontier AI」と題する政策提言書を公開した。公開日はCEOサム・アルトマン（Sam Altman）氏のワシントン訪問に重ねられた。アルトマン氏は同日、ホワイトハウス高官やマイク・ジョンソン（Mike Johnson）下院議長、ハキーム・ジェフリーズ（
AI企業の株式50%を国民へ、サンダース議員が法案提出

AI

AI企業の株式50%を国民へ、サンダース議員が法案提出

バーニー・サンダース（Bernie Sanders）上院議員が、AI大手企業の株式半分を公的に没収する法案を発表した。3月のデータセンター建設凍結法案から3か月足らず。84歳の独立系議員は「止める」から「奪う」へ、戦略のギアを上げた。 「利益」ではなく「株式」を差し出せ サンダース議員は6月1日、ニューヨーク・タイムズへの寄稿とXへの投稿で「American AI Sovereign Wealth Fund Act」（米国AIソブリン・ウェルス・ファンド法）の概要を公表した。 I will soon be introducing a bill to give the public a 50% ownership stake in the largest AI companies
AnthropicとOpenAI、米中間選挙を巡る政治活動で対立

AI

AnthropicとOpenAI、米中間選挙を巡る政治活動で対立

AIの未来を左右するのは技術でも論文でもなく、政治資金かもしれない。AnthropicとOpenAIがそれぞれ後ろ盾になるスーパーPACが、2026年の米中間選挙で激突している。狙いは同じ「AI政策に影響を与えること」。なのに両者は手を組むどころか、互いを潰しにかかっている。 シリコンバレーの内戦が議会に飛び火した AI業界が選挙に本格参入した2026年の米中間選挙で、2つのスーパーPAC（特定の候補者と直接連携しない代わりに、企業や個人から無制限に資金を集められる政治資金団体）が異常な対立を見せていると報じられている。 一方はAnthropicが少なくとも2000万ドル（約32億円）を拠出した Public First。元民主党下院議員のブラッド・カーソン（Brad Carson）氏と元共和党下院議員のクリス・スチュワート（Chris Stewart）氏が共同で率い、AI規制の強化を掲げる。もう一方はOpenAI共同創業者で社長のグレッグ・ブロックマン（Greg Brockman）氏夫妻やベンチャーキャピタルのアンドリーセン・ホロウィッツ（Andreessen Horowit
トランプ政権、AIモデルの事前審査を本気で検討し始めた

AI

トランプ政権、AIモデルの事前審査を本気で検討し始めた

「規制しない」と言ってきたトランプ政権が、AIモデルの公開前に政府が中身を点検する仕組みを本気で協議している。きっかけはアンソロピック（Anthropic）の「Claude Mythos」。シリコンバレーと政権の関係が、見えない場所で書き換わり始めている。 「規制しない大統領」が方針を曲げる瞬間 トランプ政権は、AIモデルが公開される前に政府がその中身を審査する仕組みを検討している。米政府高官と協議に詳しい関係者がNYTに語った内容は、これまでの規制最小路線と真正面からぶつかる。 検討されているのは、テック企業幹部と政府関係者で構成するAIワーキンググループを設置する大統領令だ。連邦政府による正式なAIモデル審査プロセスもこの枠組みで議論される見込みで、先週はホワイトハウスがAnthropic、Google、OpenAIの幹部にこの構想を説明した。 参考にされているのは英国のモデルだという。複数の政府機関がAIモデルの安全基準への適合を確認する英国型の仕組みは、開発スピードを大きく落とさず最低限の歯止めをかける現実解として、政権内で支持を広げている。 トランプ氏は2025年
GPT-5.5、Mythos並のサイバー攻撃能力を英国AISIが確認

AI

GPT-5.5、Mythos並のサイバー攻撃能力を英国AISIが確認

英国のAI Security Institute（AISI）が4月30日に公開したGPT-5.5の評価で、32ステップの企業ネットワーク攻撃を完走した2番目のモデルとなった。Mythos Previewに続く到達は、サイバー攻撃能力の飛躍が業界全体の傾向であることを示している。 「2番目」の意味は思ったより重い 英国のAI Security Institute（AISI）が4月30日、OpenAIのGPT-5.5に関するサイバー能力評価を公開している。AISIは英国の科学・イノベーション・技術省（DSIT）の傘下にある政府系研究機関で、2025年2月にAI Safety InstituteからAI Security Instituteへ改名した経緯がある。日本のAIセーフティ・インスティテュート（AISI）とは別組織だ。 注目すべきは「2番目」という結果が持つ意味だ。4月にAISIは、AnthropicのClaude Mythos Preview が同研究所の企業ネットワーク攻撃シミュレーション「The Last Ones（TLO）」を初めて完走したと発表していた。当時の懸念は
See all