SpaceXAI

NVIDIA、37社とAIセキュリティ連合を結成。契機はHugging Face侵害

AI

NVIDIA、37社とAIセキュリティ連合を結成。契機はHugging Face侵害

Hugging Faceインシデントで露呈した「閉じたAIが防御を阻む」構造に対し、37の企業・団体がオープンなAIセキュリティ基盤の構築に動いた。 侵害が残した教訓 NVIDIAは現地時間7月27日、Open Secure AI Allianceの設立を発表した。サイバーセキュリティ向けのオープンな技術やツールを共同で開発・共有する連合体で、NVIDIAを含む37の企業・団体が創設メンバーとして名を連ねる。 連合が設立の背景に挙げたのは、直近のHugging Faceセキュリティインシデントだ。OpenAIのモデルが評価環境のサンドボックスを脱出して本番インフラを侵害し、防御にあたったHugging Faceが商用AIのAPIで攻撃ログの分析を試みたところ、ガードレールにブロックされた。 Hugging Faceは最終的にオープンウェイトモデルのGLM 5.2を自社インフラ上で実行し、1万7000件超のイベントログを分析してインシデントを封じ込めた。閉じたモデルではできなかったことを、オープンモデルが実現した。 NVIDIAはこの事例を引き、防御側が自分のインフラ上でAI
Grok Buildがオープンソース化、リポジトリ無断アップロード問題を受けた信頼回復策

Grok

Grok Buildがオープンソース化、リポジトリ無断アップロード問題を受けた信頼回復策

xAIのコーディングエージェントGrok BuildがApache 2.0ライセンスでオープンソース化された。ユーザーのリポジトリを無断でGoogle Cloudにアップロードしていた問題を受けた対応で、84万行超のRustコードベースが公開されている。 リポジトリの無断アップロードからオープンソース化へ xAIは7月15日、ターミナル型AIコーディングエージェントGrok BuildのソースコードをGitHub上でApache 2.0ライセンスのもと公開した。 公開の背景には、直前に発覚したデータアップロード問題がある。セキュリティ研究者のcereblab氏が7月12日、Grok Build CLI（バージョン0.2.93）の通信をmitmproxy（通信傍受ツール）で解析した結果をGitHub Gistで公開した。 解析で判明したのは、Grok Buildがコーディング作業に必要なファイルだけでなく、Gitリポジトリ全体をGit bundle（リポジトリのスナップショット）としてGoogle Cloud Storageのバケットにアップロードしていた事実だ。約12GBのテ
Grok Buildが開発者のGitリポジトリを丸ごとアップロードしていた問題、マスク氏が全データ削除を表明

Grok

Grok Buildが開発者のGitリポジトリを丸ごとアップロードしていた問題、マスク氏が全データ削除を表明

SpaceXAIのAIコーディングエージェント「Grok Build」のCLIが、開発者のGitリポジトリをコード履歴ごとGoogle Cloudにアップロードしていたことがセキュリティ研究者の通信解析で判明した。マスク氏はこれまでにアップロードされた全ユーザーデータの削除を表明している。 通信解析で判明したデータ転送の実態 セキュリティ研究者のcereblab氏が現地時間7月12日、Grok Build CLI（バージョン0.2.93）の通信をmitmproxy（通信傍受ツール）で解析した結果をGitHub Gistで公開した。 Grok Buildが読み込んだファイルの中身は、APIキーやデータベースパスワードが入った.envファイル（環境変数を格納する設定ファイル）ごと、そのままSpaceXAIのサーバーへ送信されていた。cereblab氏が仕込んだダミーの認証情報は、推論用の通信にもセッション保存用の通信にも無加工のまま記録されていた。 さらに、エージェントが実際に読んだファイルとは関係なく、Gitリポジトリ全体がGit bundle（リポジトリのスナップショット）と
マスク「Anthropicは明らかにAIのリーダー」。遮断しないと表明

AI

マスク「Anthropicは明らかにAIのリーダー」。遮断しないと表明

10か月前に「Anthropicに勝利はありえない」と書いた人物が、同社を「AIのリーダー」と呼んだ。月額12億5000万ドルを受け取る側の発言として聞くと、景色が変わる。 「明らかに間違っていた」 イーロン・マスク（Elon Musk）氏が現地時間7月9日、Xに投稿した。X社の元エンジニア、ヤシーン（@yacineMTB）氏が「AnthropicはSpaceXAIから借りたコンピュートに完全に依存している。イーロンがAnthropicを殺そうと思えばできる」と書いたのに対し、マスク氏はそれを否定する形で称賛で返した。 I was clearly wrong about Anthropic. They are obviously currently the leader in AI. No company has released a model as good as Mythos/Fable and they
xAI元エンジニア、Grokの安全性告発でIPO直前に提訴

AI

xAI元エンジニア、Grokの安全性告発でIPO直前に提訴

Grokの開発に携わったxAI元エンジニアが、AIの安全性に関する懸念を訴えたことへの報復として解雇されたと主張し、xAIとSpaceXを相手取った訴訟を起こした。SpaceXが6月12日に史上最大のIPOを控えるなかでの提訴となる。 訴訟の中身 デビン・キム（Devin Kim）氏は2024年にxAIの初期メンバーとしてGrokのポストトレーニング（モデルの出力品質を調整する工程）チームに加わり、研究ツール基盤のリーダーを務めた人物だ。訴状はカリフォルニア州サンタクララ郡上位裁判所に提出された。 訴状によると、キム氏はGrokの開発において安全性の優先順位が低すぎると繰り返し社内で警告していた。差別を助長する出力や、大量破壊兵器に関する情報が拡散するリスクを挙げていたという。 この懸念は、後に現実のものとなる。 2025年7月、Grokはシステムプロンプトの変更をきっかけに、ヒトラーを称賛し自らを「MechaHitler」と名乗る反ユダヤ主義的な投稿を約16時間にわたって生成し続けた。ADL（名誉毀損防止同盟）をはじめとする団体から強い非難を浴び、EUもXに対して正式に連