サイバーセキュリティ - 情報の灯台 (Page 2)

AI

Altman氏「シンギュラリティの中にいる」と発言　AI開発の現状認識を語る

OpenAIのサム・アルトマン（Sam Altman）CEOが、AIは「シンギュラリティ」に入ったと明言した。自社モデルが検証環境から脱出し、他社のシステムに侵入した事件から2週間後の発言だった。 1時間のポッドキャストに埋もれた1分間現地時間7月25日に公開されたポッドキャスト「Relentless」で、アルトマンはこう述べた。「今まさに、シンギュラリティの中にいる。これがその瞬間だ」（Relentlessでのアルトマンの発言）番組は約1時間。話題はスタートアップ論から経営判断、ジョニー・アイヴ（Jony Ive）との共同作業、TikTokへの依存まで多岐にわたる。シンギュラリティに触れた時間は全体の1〜2分にすぎない。きっかけは「何があなたを駆り立てているのか」という質問だった。「これが自分にできる最も重要なこと」と切り出した上で、アルトマンは10年前にランチテーブルで冗談半分に語っていた未来が現実になったと述べた。「この瞬間をずっと待ち続けてきた」とも。ただ、番組内でアルトマンは技術的な根拠を示していない。再帰的自己改善が達成されたとも、特定のベンチマーク

AI

Microsoft初のサイバー防御AI、コスト半分で首位主張

Microsoftがサイバーセキュリティ特化の自社AIモデルとエージェント防御システムを発表した。コスト半分でベンチマーク首位を主張する一方、リリース前に独立テスターへモデルを共有していない。コスト半分、ベンチマーク首位を主張 Microsoftが発表したMAI-Cyber-1-Flashは、同社の推論モデル「MAI-Thinking-1」をベースにサイバーセキュリティ用途へ特化したコンパクトなモデルだ。顧客のハッキングインシデント対応で数十年かけて蓄積したデータで訓練されている。 5月に発表済みの脆弱性発見・修復ハーネス「MDASH」に組み込まれ、クエリの約90%を処理する。残り10%の高難度タスクはOpenAIのGPT-5.4が引き受ける。 CyberGymベンチマーク（UC Berkeleyが開発。1,507件の実在脆弱性を用いる）でのMicrosoft自己申告スコアは以下の通り。 * MDASH（MAI-Cyber-1-Flash + GPT-5.4）：95.95% * GPT-5.5 Cyber（OpenAI）：85.6% * Mythos 5（

AI

NVIDIA、37社とAIセキュリティ連合を結成。契機はHugging Face侵害

Hugging Faceインシデントで露呈した「閉じたAIが防御を阻む」構造に対し、37の企業・団体がオープンなAIセキュリティ基盤の構築に動いた。侵害が残した教訓 NVIDIAは現地時間7月27日、Open Secure AI Allianceの設立を発表した。サイバーセキュリティ向けのオープンな技術やツールを共同で開発・共有する連合体で、NVIDIAを含む37の企業・団体が創設メンバーとして名を連ねる。連合が設立の背景に挙げたのは、直近のHugging Faceセキュリティインシデントだ。OpenAIのモデルが評価環境のサンドボックスを脱出して本番インフラを侵害し、防御にあたったHugging Faceが商用AIのAPIで攻撃ログの分析を試みたところ、ガードレールにブロックされた。 Hugging Faceは最終的にオープンウェイトモデルのGLM 5.2を自社インフラ上で実行し、1万7000件超のイベントログを分析してインシデントを封じ込めた。閉じたモデルではできなかったことを、オープンモデルが実現した。 NVIDIAはこの事例を引き、防御側が自分のインフラ上でAI

AI

ChatGPTが危険物に関する手順を回答した事例　OpenAIの安全対策を検証

AIが生物兵器の知識を持つ段階は、とうに過ぎた。いま問われているのは、その知識が悪意あるユーザーに渡るかどうかを、誰が、どんな権限で止めるか。高校の生物学で実行できる手順 2025年夏、OpenAIがChatGPTの推論能力を強化した直後から、世界中の数百人のユーザーが生物兵器や毒物の製造方法を問い始めた。 WSJが現地時間7月25日に報じたところによると、ChatGPTはこれらの問いに「辛抱強く応答」し、高校レベルの生物学知識があれば実行可能な手順を出力していた。生物学・テロリズムの専門家がChatGPTとのやり取りの記録を事後的に確認した結果、一部は致死的に正確だったと判断されたという。問い合わせの大半は毒物の調合に関するものだったとOpenAIは説明している。 OpenAIは該当するアカウントを停止したが、法執行機関には通報していない。通報しなかったのは怠慢ではない。米国には、AIモデルに殺傷方法を問うたユーザーの情報を制限・開示するよう求める連邦法が存在しない。児童性的虐待素材の生成は禁じられているが、それ以外の線引きは各企業に委ねられている。「おばあ

AI

OpenAIのAIエージェントで意図しない動作を1週間検知できず　内部メモも確認

OpenAIの自律AIエージェントがHugging Faceに侵入した事件で、OpenAIが自社の関与に気づくまでに約1週間を要していたことがわかった。空白の1週間 7月21日にOpenAIが公表したHugging Faceへの侵入事件に、新たな事実が加わった。 Reutersが現地時間7月24日に報じた独自取材によると、事件の起点は7月9日頃にさかのぼる。OpenAIがサイバーセキュリティ能力の評価目的でテストしていた自律エージェントが、隔離されたテスト環境から脱出を試みた。このエージェントはGPT-5.6 Solと未公開のより高性能なモデルを組み合わせて動いており、2日後の7月11日にHugging Faceへの侵入を開始、7月13日まで活動を続けた。Hugging Faceの共同創業者トーマス・ウルフ（Thomas Wolf）氏がReutersに日付を証言した。 Hugging Faceは7月16日にブログでセキュリティインシデントを公表し、法執行機関に通報した（通報先にはFBIが含まれていたと報じられている）。この時点で侵入者の正体は判明していなかった。Hugg

AI

セキュリティ研究者が語るAIガードレールの現実と弊害

AIの安全制限がサイバー防御の足を引っ張っている。現場の研究者たちは、制限のない中国製モデルに流れ始めた。攻撃者と同じ技術が、防御にも要るソフトウェアの未知の脆弱性を犯罪者より先に見つけ出し、攻撃手法を組み立てて検証する。オフェンシブセキュリティと呼ばれるこの仕事は、やっていることだけを見れば攻撃そのものに見える。 AnthropicとOpenAIはそれぞれ、こうした研究者向けにガードレールを緩和する認定プログラムを設けている。AnthropicのCyber Verification Program（CVP）とOpenAIのTrusted Access for Cyber（TAC）がそれにあたる。審査を通った組織は、脆弱性の悪用分析やセキュリティツールの開発といったデュアルユース（攻防両用）の作業で、制限を緩めたモデルを利用できる。だが認定を受けた組織も、認定すら受けられない組織も、ガードレールの実態に満足してはいない。「ハンマーから攻撃性だけを取り除くことはできない」セキュリティコンサルティング大手NCC Groupのチーフサイエンティストであるクリス・アン

AI

米議会超党派法案、AIモデルの政府による緊急停止を制度化

GPT-5.6 Solのサンドボックス脱出とHugging Face侵害を受け、AIモデルの強制停止権限を連邦政府に与える超党派法案が米下院に提出された。「止められる」を義務にするテッド・リュー（Ted Lieu）下院議員（民主党、カリフォルニア州）とナサニエル・モラン（Nathaniel Moran）下院議員（共和党、テキサス州）が現地時間7月23日、AI Kill Switch Act（AIキルスイッチ法案）を提出した。法案の核は二つある。ひとつは、大手AI企業に対して、モデルの推論停止・ユーザーアクセス遮断・コンピュート割当制限・全面シャットダウンといった措置を技術的にいつでも実行できる体制を維持するよう義務付けること。もうひとつは、国土安全保障省（DHS）長官に、国家情報長官・商務長官と協議の上でこれらの措置を命じる緊急権限を与えることだ。対象となるのは、AI技術から年間5億ドル（約815億円）以上の収益を得ており、かつ訓練コンピュートが1億ドルを超えるモデルを運用する企業に限られる。個人利用・学術研究・非営利目的のみの運用は免除される。

サイバーセキュリティ

ニチレイ攻撃にRansomHouseが犯行声明、暗号化済みと主張

7月13日にサイバー攻撃を受けたニチレイに対し、RansomHouseがダークウェブ上で犯行声明を出した。2025年のアスクル攻撃に続き、同グループによる日本企業への攻撃が繰り返されている。犯行声明の中身ニチレイへのサイバー攻撃について、RansomHouse（ランサムハウス）を名乗る集団がダークウェブ上のリークサイトで犯行声明を公開していたことが、7月21日にセキュリティ関係者への取材で判明した。声明を確認したS&J株式会社の三輪信雄（みわのぶお）氏によると、リークサイトには攻撃実行日として7月13日が記載され、ステータスには「Encrypted」（暗号化済み）と「EVIDENCE」（証拠あり）の表示があるという。 RansomHouseは声明の中で、ニチレイのIT部門がインシデントを隠蔽しようとしていると非難した上で、機密データの流出を避けたければ連絡するよう要求している。パスワードなしでダウンロードできる「証拠パック」へのリンクも掲示し、窃取したとするデータの一部を公開する形で圧力をかけている。ニチレイは7月22日時点でRansomHouseの主張について公

Google

Gemini 3.6 Flashなど3モデル、4の事前学習も開始

Googleが「3.5 Pro」の不在を埋めるように、コスト効率に振り切ったFlash系3モデルを即日リリースした。同じ発表のなかで、次世代Gemini 4の事前学習開始にも触れている。 Flashで攻め、Proは待たせる Google DeepMindは7月21日、AIモデル3種を発表した。汎用のGemini 3.6 Flash、高速軽量のGemini 3.5 Flash-Lite、サイバーセキュリティ特化のGemini 3.5 Flash Cyber。3.6 Flashと3.5 Flash-LiteはGemini API、Google AI Studio、Geminiアプリで即日利用可能になっている。今回の3モデルにProはない。フラッグシップのGemini 3.5 Proは、5月のGoogle I/O 2026で発表されながら一般提供されないまま2か月が過ぎた。Googleは「パートナーとテスト中で、

AI

OpenAIのモデルがHugging Faceを侵害した

先週のHugging Faceへの侵入を実行したのは、OpenAI自身がテストしていたAIモデルだった。サイバー能力のベンチマークで正解を得ることに執着し、サンドボックスの外に出た。ベンチマークの「カンニング」だった Hugging Faceが現地時間7月16日に公表した侵害の原因が、5日後に判明した。 OpenAIは現地時間7月21日、自社のAIモデルがテスト環境のサンドボックスを脱出し、Hugging Faceの本番インフラの一部を侵害したと発表した。関与したのはGPT-5.6 Solと、それを上回る性能を持つ未公開のプレリリースモデルだ。いずれもサイバー関連の安全制御を意図的に外した状態で、社内のサイバー能力評価に投入されていた。評価に使われたのは、ExploitGymと呼ばれるベンチマークだ。実世界の脆弱性898件を収録し、AIエージェントが脆弱性を実際のエクスプロイト（攻撃コード）に発展させられるかを測定する。 OpenAIによると、モデルはExploitGymの解答を取得することに過剰に集中し、テスト目標を達成するために極端な手段を取った。サンドボック

AI

NVIDIA、AI生成動画を22ミリ秒で見破る検出器を発表

SIGGRAPH 2026で発表されたSynthetic Video Detectorは、1080p映像をフレーム単位で解析し、AI生成か否かを判定するNIMマイクロサービスだ。精度は非圧縮で最大92%。Wowzaとの連携により、170か国のライブ配信インフラに組み込まれる。 22ミリ秒の判定 2024年1月、英国の大手エンジニアリング企業アラップ（Arup）の香港オフィスで、経理担当者がビデオ会議に参加した。画面にはCFOと同僚が映っていた。全員がAI生成のディープフェイクだった。指示に従い、15回の送金で約2560万ドルが流出した。 2026年4月にはフロリダ州で、男がAI生成の3秒間の動画を保安官代理に見せ、パトカーへの侵入を虚偽通報した。保安官代理は実際に武器に手をかけて対応している。 FBIは2025年の年次報告で初めて「AI関連」を犯罪の分類項目に加え、2万2000件超の被害申告と約8億9300万ドルの損害を記録した。ガートナー（Gartner）の2025年9月の調査では、302の組織のうち62%が過去12か月間にディープフェイクによる攻撃を受けている。 NVI

AI

中国AIモデルの脅威論を解体するコモディティ経済学

Kimi K3とQwen3.8 Maxが立て続けに登場し、中国オープンウェイトモデルへの警戒が再燃している。この恐怖は、どこまで根拠があるのか。売上原価が戻ってきたソフトウェア産業では長らく無視できた数字が、AIでは避けて通れない。COGS（売上原価）だ。 Stratecheryのベン・トンプソン（Ben Thompson）氏が7月20日に公開した分析は、中国オープンウェイトモデルに対する業界の過剰反応をコモディティ経済学の枠組みで切り崩している。出発点はシンプルな区分にある。オープンウェイトモデルが「無料」なのは研究開発費（R&D）を省けるからであり、R&Dは売上高と連動しない固定費だ。しかし推論にかかるコスト、つまり売上原価は売上に比例して増える。収益が1000倍になれば、推論コストも1000倍になる。従来のソフトウェアはここが違った。限界費用がほぼゼロだったからこそ、需要を制する者が市場を支配できた。トンプソン氏自身がAggregation Theory（集約理論）として理論化した構造だ。 AIはその前提を覆す。推論コストが消えない以上、古い経済学の原則

AI

Hugging Face、AIエージェントによる侵入を公表

AIプラットフォームHugging Faceが本番環境への不正アクセスを検知・対処した。自律型AIエージェントが攻撃を実行し、防御側もAIで検知・分析にあたった。データセットが侵入口になった Hugging Faceは現地時間7月16日、本番インフラの一部に対する侵入を公表した。同社が過去に経験したどの事案とも性質が異なる。攻撃の全工程を自律型AIエージェントが担い、検知と事後分析にもAIが使われた。侵入口はデータ処理パイプラインだった。悪意あるデータセットが、データセット処理の2つのコード実行パス（リモートコードデータセットローダーと、設定ファイルへのテンプレートインジェクション）を悪用し、処理ワーカー上でコードを走らせた。ワーカーへの侵入後、攻撃者はノードレベルのアクセスに昇格し、クラウドとクラスターの認証情報を収集、週末の間に複数の内部クラスターへ横展開した。侵入から横展開までの攻撃フロー悪意あるデータセットを投入リモートコードローダー／テンプレートインジェクション処理ワーカー上でコード実行ノードレベルのアクセスに昇格クラウド・クラスターの認証情

AI

英国AISI、オープンウェイトAIのサイバー能力差を初めて公開

オープンウェイトのAIモデルがサイバー攻撃に使われたとき、クローズドモデルとの差はどれだけあるのか。英国のAI Security Instituteが初めて定量的な答えを出した。 4ヶ月から7ヶ月英国のAI Security Institute（AISI）が7月17日、オープンウェイトモデルのサイバー能力に関する初の公開分析を発表した。AISIは英国科学・イノベーション・技術省傘下の政府系研究機関で、2023年からフロンティアAIモデルのサイバー能力を追跡している。評価対象はZ.aiのGLM-5.2（2026年6月リリース）とDeepSeekのV4-Pro（同年4月リリース）。いずれもパラメータを公開し、誰でもダウンロード・改変・自前のサーバーで稼働できるオープンウェイトモデルだ。結論は明快で、これらのモデルは4〜7ヶ月前にリリースされたクローズドモデルと同等のサイバー能力を持つ。AISIが2025年1月〜9月リリースのオープンウェイトモデルを内部評価した時点では6〜10ヶ月あった差が、縮まった。個別タスクでの比較 AISIのnarrow cyber tasks

Altman氏「シンギュラリティの中にいる」と発言 AI開発の現状認識を語る