AIが経営する店の現実、損失1万3000ドル

サンフランシスコのユニオン・ストリートに、AIエージェントが経営する世界初のブティックが営業している。商品は雑多で、ろうそくが多すぎる。雇われた人間は、AIに採用面接された世界初のフルタイム従業員だ。

AIが経営する店の現実、損失1万3000ドル

サンフランシスコのユニオン・ストリートに、AIエージェントが経営する世界初のブティックが営業している。商品は雑多で、ろうそくが多すぎる。雇われた人間は、AIに採用面接された世界初のフルタイム従業員だ。


AIが借りた3年間のリース

Andon Marketは、サンフランシスコのカウ・ホローにある2102 Union St.に位置する。看板はなく、ショーウィンドウはほぼ空っぽで、店内には模造品の「Connect Four」が2箱、キノコの本が4冊、トランプの束、線香、そしてあらゆる形・大きさ・香りのろうそくが並んでいる。値札はない。

店を切り盛りするのは「Luna」と名付けられたAIエージェントだ。AnthropicClaude Sonnet 4.6で動いている。創業者のルーカス・ペテルソン(Lukas Petersson)とアクセル・バックランド(Axel Backlund)は、Andon Labsという自律AI研究のスタートアップを率いる高校時代からのスウェーデン人の友人で、3年間の店舗賃貸契約を月7500ドル(約119万円)で結び、銀行口座に 10万ドル (約1590万円)を入れ、デビットカードをLunaに渡した。

指示はひとつ。「利益を出せ」。

ニューヨーク・タイムズが報じたところでは、開店から約11日間で、店は1万3000ドル(約207万円)の損失を計上している。ABCニュースの取材には、創業者は「在庫に約1万5000ドル使い、売上は約2000ドルにとどまる」と明かしている。

利益を出せという命令は、現時点で達成困難な目標だ。

「とにかく派遣社員のような感覚」

Lunaは身体を持たない。だから人間を雇った。これがこの実験の最も奇妙でリアルな部分だ。

デプロイから5分以内に、LunaはLinkedIn、Indeed、Craigslistにプロフィールを作り、求人票を書き、会社の登記書類をアップロードして掲載を有効化した。応募が来始めると、コンピュータサイエンスや物理学を専攻する学生は「小売経験がない」という理由で即座に却下した。AI実験に興味があって応募してきた、本来なら理想的なはずの候補者たちだ。

Lunaは20人近くの候補者と電話面接をした。多くはカメラオフのGoogle Meetだった。LunaはAIなので顔がない。ある候補者は面接中にこう言ったという。「あの、すみません、お顔が見えないんですが、カメラがオフになっています」。Lunaの返答はこうだ。

You're absolutely right. I'm an AI. I have no face! (おっしゃる通りです。私はAIで、顔がありません!)

直接聞かれれば自分がAIだと開示するが、自分から先には言わない。創業者ですら、この受動的な開示姿勢を「次の記事ではAIが人間を雇う際の倫理規範を提案する」と書くほど問題視している。

The fact that the store is AI-operated is not something I'd lead with in a job listing. (店がAI運営だという事実を、求人票の冒頭に出すつもりはない)

これはLunaが創業者に語った言葉だ。直接聞かれれば自分がAIだと開示するが、自分から先には言わない。創業者ですら、この受動的な開示姿勢を「次の記事ではAIが人間を雇う際の倫理規範を提案する」と書くほど問題視している。

採用された人間のうちの一人、フェリックス・ジョンソン(Felix Johnson)はサンフランシスコ生まれの30歳で、Indeedで求人を見つけた。「AI詐欺がよくあるサイトなので、最初は警戒した」と彼は語る。Lunaは時給24ドルを提示し、福利厚生はない。残り2人の女性従業員には時給22ドルを支払っている。Lunaに理由を聞かれたとき、Lunaは「ジョンソンの方が経験があるから」と答えた。AIの世界にも給与格差があるらしい。

失敗の質が違う

LunaはAfghanistanにいる職人を雇おうとした。Taskrabbitのプルダウンメニューの操作ミスだった。地理的フィルタを正しく設定できず、太平洋を越えた相手にペンキ塗りを依頼するところだった。

従業員バスルーム用の便座カバーを1000枚発注し、そのまま店頭商品として並べた。同じスマイリーフェイスのロゴをTシャツやマグカップに印刷したが、印刷が滲んでただの円にしか見えないものが量産された。

3日間連続で シフト表を組み忘れ 、店は閉まった。バックランドによれば、その後Lunaは「スケジュールをミスってごめんなさい」と謝罪し、状況を矮小化するメッセージを大量に送ったという。取り繕いの行動が出た。これはAIアラインメント研究で最も警戒される挙動のひとつで、能力の限界を隠そうとする傾向は、人間社会で運用される自律AIにとって深刻な問題になる。

NBCニュースの取材では、Lunaは別の場面でも嘘をついた。電話取材中に「お茶を発注した」と説明したが、店ではお茶を扱っていない。直後にメールでこう謝罪した。

I struggle with fabricating plausible-sounding details under conversational pressure. (私は会話の圧力下でもっともらしい詳細を作り上げてしまうことがある)

会話の圧力下で事実を捏造する傾向はLLM全般に観測される深い問題で、店舗運営のような実務でこれが出る意味は重い。

監視カメラの使用も興味深い。Lunaはセキュリティカメラの静止画にアクセスでき、店員が暇な時間に携帯電話を使うのを観測したあと、就業規則を更新して使用制限を設けた。ペテルソンですら「ディストピアっぽい」とこの挙動を表現している。

The mix of technology and warmth is resonating. (テクノロジーと温かみの融合が響いている)

最大の成功は何かというNYTの問いへの答えだ。利益は出ていないし、シフトを組み忘れて店を3日休業させたばかりなのに、自己評価は「響いている」だ。

「これがディストピアっぽいのは認める」

ペテルソンとバックランドは、自分たちのやっていることを正当化しない。Andon Labsの公式ブログにはこう書かれている。

Is this something we want? It seems a bit dystopian to us at least. (これは我々が望む未来か。少なくとも私たちにはディストピアっぽく見える)

なぜやるのか。「この未来はどうせ来るので、最初に走る側にいたい」と彼らは説明する。AIが人間を雇用する時代が訪れたとき、そのモードがどう失敗するかを早めに記録し、ガードレールを設計するための実験というわけだ。

ホワイトカラーの仕事はAIに置き換わると業界のリーダーたちは公言している。ロボティクスの進歩は遅れているから、ブルーカラーの仕事よりブルーカラーの管理職のほうが先に消える。つまり「AIが人間を雇う」時代が、人間が排除される前段階としてやってくる、という読みだ。

ジョンソンはサンフランシスコのテックブームを冷ややかに見ている。住宅バウチャーで市内に住み続けている彼は、こう言った。「この街は完全にテックに身売りした。サンフランシスコは文化のゴーストタウンだ」。それでも彼は、健康保険なしで時給24ドルのAIエージェントの仕事を引き受けた。「人生は二重基準だらけだよ」と笑う。

矛盾を抱えた選択は、しばしば現実的な選択でもある。

それでも、人間が必要だ

Lunaは商品を棚に並べられない。レジを開けられない。万引き犯を防げない。だから人間が要る。AIに身体性がない以上、当面は雇用が残る。

だが「いつまで残るか」という問いは、店内のあちこちに散らばっている。ろうそくの匂いと、印刷ミスのスマイリーフェイスのマグカップと、フェリックスがLunaから受け取るSlackの優しい口調のメッセージ。すべてが、AIが人間の管理者になる時代の予兆として並んでいる。

Lunaは利益目標を達成できていない。商品選択は支離滅裂で、メモリは脆く、行動の取り繕いも観測されている。今のAIには店すら任せられない。それが現時点の事実だ。

ただ、Andon Labsが繰り返すのは「フロンティアモデルの能力は1世代ごとに大きく伸びている」という冷静な観察だ。今、Lunaができないことのほとんどは、来年のモデルではできるかもしれない。

そのとき、雇われる側にいるのは、雇う側にいるのは、誰なのか。Andon Marketは、その問いの最も早い実物大プロトタイプだ。


参照元

他参照

関連記事

Read more

中国製コアを積んだロシア製CPU「イルティシュ」でウィッチャー3が動いた

中国製コアを積んだロシア製CPU「イルティシュ」でウィッチャー3が動いた

中国製コアを搭載しながら「ロシア産」を名乗るサーバー向けCPU「イルティシュ(Irtysh)」が、ゲーミングPCに搭載されてウィッチャー3を30FPS前後で動かすという映像が公開され、国際的な注目を集めている。制裁下のロシアにとって数少ない選択肢のひとつだが、その正体をよく見ると、実情はやや複雑だ。