LLM - 情報の灯台 (Page 6)

AI

AIで10倍速く書ける、10倍の後始末をしながら　大手テック企業が明かした現実

AIは仕事を奪うのではなく、別の仕事を生み出している。その「別の仕事」がどれほど厄介か、まだ多くの人は気づいていない。効率化が生む逆説ノースカロライナ州ダーラムで開催されたAll Things AIカンファレンスで、Netflix、Meta、IBMのエンジニアたちが口を揃えた言葉がある。「AIは準備に手間がかかる」。 GitHub - generative-computing/mellea: Mellea is a library for writing generative programs.Mellea is a library for writing generative programs. - generative-computing/melleaGitHubgenerative-computing 3,400人以上が参加したこのイベントで繰り返し引用されたのがジェボンズのパラドックスだった。1865年、イギリスの経済学者ウィリアム・スタンレー・ジェボンズが発見したこの逆説は、蒸気機関が効率化されればされるほど、石炭消費が増加するという現象を指す。効率が上がる

AI

Claude Codeの品質低下をAMDのAI責任者が指摘　ログを基に検証

「2月以降、Claude Codeは複雑なエンジニアリング業務を任せられる代物ではなくなった」――AMDのAIグループ責任者がそう断じた。感情論ではない。6,852セッション、23万件超のツール呼び出しを解析した数字が、その劣化を裏付けている。「Claudeはもう信用できない」と告発したのは誰か GitHubのclaude-codeリポジトリに、4月2日付（米国時間）で投稿された一本のIssue（#42796）が波紋を広げている。投稿者はステラ・ローレンゾ。半導体大手AMDでAIグループのシニアディレクターを務める人物であり、社内でClaude Codeを大規模に運用してきた当事者だ。タイトルは率直そのものだ。「2月のアップデート以降、複雑なエンジニアリング業務にClaude Codeは使えない」。 https://github.com/anthropics/claude-code/issues/42796 ここで重要なのは、その主張の裏付けが「最近どうも調子が悪い」式の印象論ではなかったことだ。ローレンゾのチームは、自分たちが業務で蓄積してきた6,852セッション分の

AI

AIの回答を十分に検証しない人が7割超　「認知的降伏」研究の結果

AIが間違えても、8割の人がそのまま信じる。ウォートン・スクールの研究が突きつけた、人間の思考の脆さ。「考える」をAIに明け渡す時代 AIが正解を出せば従い、間違えても従う。ペンシルバニア大学ウォートン・スクールのスティーブン・ショーとギデオン・ネイヴが、人間がいかにAIに思考を丸投げするかを実験で叩き出した。論文のタイトルは「Thinking—Fast, Slow, and Artificial」。ダニエル・カーネマンの名著『ファスト＆スロー』が提唱した二重過程理論——直感的な「システム1」と熟慮的な「システム2」——に、AIという第三の認知システム「システム3」を加える枠組みだ。この論文の核にあるのが「認知的降伏（cognitive surrender）」という概念。AIの出力を検証もせずに受け入れ、自分の直感も熟慮も放棄する状態を指す。電卓やGPSのように道具を戦略的に使う「認知的オフローディング」とは本質的に異なる。オフローディングでは人間が主導権を握っている。降伏では、主導権そのものが消える。認知的降伏とは、AIの出力を批判的に評価せず受容する行動傾向であ