Anthropicアモデイ氏、AI不信は「信頼の危機」。投資家に公開反論

AI業界のリスク発信がAIへの反発を招いたという批判に、アモデイ氏が真正面から反論した。問題の根はメッセージングではなく、テック企業が約束を果たしていないことだと。

投資家との公開議論

Anthropicのダリオ・アモデイ（Dario Amodei）CEOが、普段はほとんど使わないというXで長文の投稿を行った。

きっかけは投資家ギャヴィン・ベイカー（Gavin Baker）氏の批判だ。ベイカー氏はAtreides Managementの創業者兼CIOで、Anthropicの将来的な企業価値がNVIDIAを超えうると主張してきた人物でもある。そのベイカー氏がAll-In PodcastとXで、アモデイ氏のリスク重視の発信がAIへの反発を招き、特にデータセンター建設への反対を助長していると批判した。

ベイカー氏によれば、アモデイ氏は「議論に負けた」。世界で最も重要な企業のひとつのCEOになろうとしているのだから、もっと業界のためにポジティブな発信をすべきだ。

背景にはもうひとつの火種があった。ベイカー氏はAll-In Podcastで、信頼できる複数の人物から「ダリオは社内でAnthropicが世界で唯一残る企業になりうると語った」と聞いたと明かした。Anthropicの研究者ショルト・ダグラス（Sholto Douglas）氏がこれをXで即座に否定し、ベイカー氏も訂正を認めた。

だが同時に「シリコンバレーの真剣な人々の多くがそう信じている。ダリオの公的発信と整合するからだ」と付け加えた。

アモデイ氏の投稿は、この批判に対する全面的な反論だった。

「規制か自由か」は誤った二者択一

アモデイ氏が最初に退けたのは、「規制すれば少数の企業に権力が集中する。自由にすれば分散する」という前提そのものだった。

シリコンバレーには「規制＝規制の取り込み＝権力集中」という短絡的な等式があるが、それは単純化しすぎた世界観だと指摘した。テック業界の外にいる多くの人は、規制は企業の権力を制約し一般の人々に恩恵をもたらすものだと考えている。アモデイ氏自身はどちらの見方にも全面的には同意しないとしつつ、だからこそAnthropicは政策提案を慎重に設計してきたと主張した。

具体例として、Anthropicが支持したカリフォルニア州のSB53や、かつて議論を呼んだSB1047を挙げた。いずれも一定の収入・モデル訓練コスト以下の企業は適用対象外としており、フロンティア企業を減速させ、小規模な競合を有利にする意図がある。

AIは規制の有無にかかわらず、構造的に権力を集中させる技術だというのがアモデイ氏の根本的な認識だ。スケーリングの経済がそれを駆動する。オープンウェイトはその解決策としては不十分で、結局のところ大量の計算資源とチップを持つフロンティアラボとハードウェア企業に集中が移るだけだと論じた。

信頼の危機

投資家が「もっと明るいことを言え」と求めたのに対し、アモデイ氏は自身の発信が「過度にネガティブだ」という前提を認めなかった。

リスクとベネフィットの両方について大きなエッセイをそれぞれ1本ずつ書いてきたし、リスクについて語るインタビューでも利点や解決策に触れるようにしていると主張した。エッセイ「Machines of Loving Grace」（慈しみの機械）を書いた理由は、AI業界が技術の可能性について十分に明るい将来像を描けていないと感じたからだという。

だが、アモデイ氏はAIに対する世論がネガティブであること自体は認めた。問題はその原因の診断だ。

I think it is fundamentally a crisis of trust. I think that ordinary people don't trust companies, governments, or the tech industry and always suspect that we are cooking up some new way to screw them over.

「根本的に信頼の危機だ」とアモデイ氏は書いた。一般の人々は企業も政府もテック業界も信用しておらず、常に「何か新しい方法で搾取されるのではないか」と疑っている。その不信は何十年もかけて蓄積されたもので、AIはその最新の対象にすぎない。

派手なマーケティングキャンペーンで信頼は取り戻せない。「AIが癌を治す」と言えば、今の時点ではむしろ嘘に聞こえる。信頼を回復する唯一の方法は実際に成果を出すことであり、Anthropicに対する最も正確な批判は「大きな約束をまだ果たしていない」ことだと述べた。

自制と独立した制約は違う

アモデイ氏は直近数か月の政策動向が自分の望む規制の方向には進まなかったと率直に認めた。一方で、フロンティアモデルの発売前テストに関するトランプ政権の方針には支持を表明し、Google DeepMindのデミス・ハサビス（Demis Hassabis）CEOが提唱するFINRA（金融業界の自主規制機関）型のAI監督組織にも肯定的な姿勢を示した。

リプライでは構造的な批判も出た。あるユーザーは「フロンティア企業が自らを不利にするルールを誠実に提案できることは認める」としつつ、核心を突いた。その企業がルールの定義・閾値・評価・前提条件に大きな影響力を持ち続ける限り、自制と独立した制約は別物だ。別のユーザーはAnthropicが挙げたドル建ての閾値がすぐに陳腐化する点を指摘し、規制が良いか悪いかより、うまく設計されたルールが実際に集中した権力を制約できるのかを問うべきだと述べた。

7月のオープンウェイト書簡では50社超が署名する中、Anthropicだけが加わらなかった。アモデイ氏はそのとき「禁止は求めていない」と表明し、チップ輸出規制・蒸留取り締まり・安全テスト義務化の3点を提示した。今回のXでの議論は、その延長線上にある。

アモデイ氏は信頼を取り戻す唯一の方法は「実際に何かを成し遂げること」だと繰り返した。空手形は切らない、だが成し遂げたときは全力で伝えると。

Anthropicに限らず、AI企業が約束を語るほど信頼が遠のくという構造は変わっていない。言葉で解決できる段階はとうに過ぎている。

関連記事

• Anthropic、オープンウェイト禁止は求めず。チップ規制と安全テストを主張
• OpenAIも署名、35社に拡大。オープンウェイトAI擁護書簡の1週間
• ハサビスとアモデイ、規制を求めるAI企業の急転換
• 豪州、AIデータセンターに「電力自給」を義務化へ
• Fable級に中国はいつ届くか。マスク氏の「来年Q1」をZ.ai創業者が否定
• G7で浮上した「AIのキルスイッチ」問題
• 米政府がFable 5とMythos 5を輸出規制。リリース3日で全ユーザーのアクセス停止へ
• Anthropic CEOが自らAI規制を求めた。その提言の中身
• トランプ政権、AIモデルの事前審査を本気で検討し始めた
• Anthropic、従業員出資の政治資金団体「AnthroPAC」を設立──AI規制の戦場は選挙へ