AI
Copilot for Wordに自己増殖型AIワーム。144日経っても直らず
Word文書に隠した命令がCopilotを乗っ取り、生成した文書を次の感染源に変える。マイクロソフトはモデル更新を含む対策を重ねたが、攻撃の手口を変えるだけで再現できる状態が続いている。 文書が文書を汚染する ノルウェーのデータサイエンティスト、ホーコン・モーロイ(Håkon Måløy)氏が現地時間7月28日、Copilot for Wordを経由してWord文書間を自己増殖するAIワームの実証結果を公開した。応用AIと機械学習の博士号を持つモーロイ氏が「Context Collapse」と名付けたシリーズの第3弾にあたる。 Part 1ではCopilotのメモリ汚染、Part 2ではメール経由の命令注入を扱い、いずれも緩和済みとなった。今回は公開時点で未修正のまま残っている。 攻撃者はWord文書に悪意のある命令を仕込む。白背景に白文字、フォントサイズ8で記述するため肉眼ではまず見えないが、Copilot for Wordはテキストの色やサイズといった書式情報をすべて除去してからLLM(大規模言語モデル)に渡すため、Copilotには読める。 被害者がこの文書をCopi