AI
Amazonが「人による監視」を信用しない理由
AIエージェントの暴走を防ぐ最後の砦は、人だと信じられてきた。その信頼に疑問を突きつけたのが、Amazon自身のセキュリティ責任者だ。 「人はそんなに一貫していない」 エリック・ブランドワイン（Eric Brandwine）氏はAmazonセキュリティ部門のバイスプレジデント兼ディスティングイッシュトエンジニアだ。インタビューで語った内容は率直だった。AIエージェントが企業のITシステム内で自律的に動く時代に、「human-in-the-loop（人による監視）はゴールドスタンダードとは限らない」と言い切った。 ブランドワイン氏の論点はこうだ。AIエージェントに承認判断を繰り返し求められる立場に人を置けば、最初はきちんとやる。しばらくすると「まあまあ」になる。そしてすぐに、雑になる。 これは推測ではない。2017年のAWS re:Inventでブランドワイン氏自身が講演で取り上げた概念が、そのまま当てはまる。「逸脱の正常化」（normalization of deviance）だ。 アラームが鳴っても飛び上がらなくなる この概念を提唱したのは社会学者ダイアン・ヴォーン（