AI
NVIDIA、37社とAIセキュリティ連合を結成。契機はHugging Face侵害
Hugging Faceインシデントで露呈した「閉じたAIが防御を阻む」構造に対し、37の企業・団体がオープンなAIセキュリティ基盤の構築に動いた。 侵害が残した教訓 NVIDIAは現地時間7月27日、Open Secure AI Allianceの設立を発表した。サイバーセキュリティ向けのオープンな技術やツールを共同で開発・共有する連合体で、NVIDIAを含む37の企業・団体が創設メンバーとして名を連ねる。 連合が設立の背景に挙げたのは、直近のHugging Faceセキュリティインシデントだ。OpenAIのモデルが評価環境のサンドボックスを脱出して本番インフラを侵害し、防御にあたったHugging Faceが商用AIのAPIで攻撃ログの分析を試みたところ、ガードレールにブロックされた。 Hugging Faceは最終的にオープンウェイトモデルのGLM 5.2を自社インフラ上で実行し、1万7000件超のイベントログを分析してインシデントを封じ込めた。閉じたモデルではできなかったことを、オープンモデルが実現した。 NVIDIAはこの事例を引き、防御側が自分のインフラ上でAI