バックドア

AIモデルのバックドア、1時間・100ドルで仕込めたとの報告

AI

AIモデルのバックドア、1時間・100ドルで仕込めたとの報告

オープンウェイトのAIモデルに、わずかな時間とコストでバックドアを埋め込めることが実証された。従来のソフトウェアとは異なり、モデルの中身を検証する手段はまだ存在しない。 10個の訓練データで、コードが汚染された セキュリティ研究者のケイティ・パクストンフィア(Katie Paxton-Fear)氏が、オープンウェイトのAIモデルにバックドアを仕込んだ。所要時間は約1時間、費用は100ドル(約1万6000円)未満。マンチェスター・メトロポリタン大学のサイバーセキュリティ講師であり、コード解析ツールを開発するSemgrepのセキュリティアドボケートでもある同氏は、7月14日に一連の投稿で実験の経緯を公開した。 🧵Can we trust Chinese open weight models? Was a question a lot of people asked after GLM 5.2 was released, scoring very well on coding benchmarks, and suspiciously