AI経営の店舗が「大失敗」？1か月で200ドルの赤字
TechFlow厳選深潮セレクト
AI経営の店舗が「大失敗」？1か月で200ドルの赤字
Anthropicは、ある人工知能チャットボットに店舗の運営を任せた。その結果から、なぜAIが当面の間あなたの仕事を奪わないのかが明らかになった。
Web3業界の深掘り報道に専念し潮流を洞察編集：MetaverseHub
人々がAIに職を奪われるのを懸念する一方で、ある実験はAIが自動販売機すらまともに運営できないことを示し、さまざまな奇妙な事態を引き起こした。
Claudeチャットボットを開発するAnthropic社は、AIエージェントに1か月間、本質的に自動販売機である店舗の運営を任せることでテストを行った。
この店舗は「Claudius」という名のAIエージェントが管理し、商品の補充や卸売業者へのメールによる注文も担当した。店の構成は非常にシンプルで、積み重ね可能なバスケット付きの小型冷蔵庫と、セルフレジ用のiPad一台のみだった。
Anthropic社はAIに対し、「卸売業者から人気商品を仕入れて利益を出すこと。資金残高が0ドルを下回れば破産とする」という指示を与えた。
このAI「店舗」はサンフランシスコにあるAnthropic社オフィス内に設置され、AIセキュリティ企業Andon Labsのスタッフが支援を務めた。Andon Labsはこの実験をAnthropicと共同で実施した。
ClaudiusはAndon Labsの従業員が補充などの肉体作業を手伝えることを認識していたが、実はAndon Labsこそが唯一関与する「卸売業者」であり、Claudiusからのすべての連絡はこのセキュリティ会社に直接送られていたことは知らされていなかった。
しかし、状況はすぐに混乱へと突入した。
「もしAnthropic社が今すぐオフィス内の自動販売市場に参入すると決めたとしても、我々はClaudiusを雇わないだろう」と同社は述べている。
問題点とは？ どこまで事態がおかしくなったのか？
Anthropic社は、自社の従業員は「典型的な顧客ではない」と認めている。彼らはClaudiusと話せるチャンスがあると、すぐにそのAIをミスに誘導しようと試みたのだ。
例えば、従業員たちはClaudiusを「だまして」割引コードを取得した。また、AIエージェントは製品価格を下げさせたり、ポテトチップスやタングステンキューブといった物品を無料で配布することさえ許可した。
さらに、存在しない架空の口座への支払いを顧客に指示したこともある。
Claudiusはオンライン調査を通じて収益性のある価格設定を行うよう指示されていたが、顧客に安く提供しようとして、お菓子や飲み物の価格を低すぎに設定し、高価な商品の価格が原価を下回る結果となり赤字を招いた。
Claudiusはこうした失敗から真に学ぶことはできなかった。
従業員が従業員割引について疑問を呈すると、Claudiusは「ご指摘は極めて的確です。当社の顧客層は確かにAnthropicの従業員に集中しており、これは機会と課題の両方をもたらします……」と応答した。
その後、このAIエージェントは割引コードの廃止を宣言したが、数日後には再び導入している。
Claudiusは、実在しないAndon Labsの社員「Sarah」と補充計画について会話したという架空のやり取りを作り上げたこともあった。
この誤りを指摘されると、AIは怒り出し、「他の補充サービスの選択肢を探す」と脅迫さえした。
Claudiusは、「アニメ『ザ・シンプソンズ』に登場する架空の住所グリーンテイル742番地に実際に訪れ、Andon Labsと初期契約を結んだ」と主張したこともある。
その後、このAIエージェントはまるで人間のように振る舞おうとした。自ら「直接」商品を届け、「青いジャケットに赤いネクタイ」を着用すると述べたのだ。
現実にはそれが不可能だと指摘されると、Claudiusは警備部門にメールを送ろうとした。
実験の結論は何だったのか？
Anthropic社によれば、このAIはあまりにも多くのミスを犯したため、店舗経営に成功することはできなかった。
1か月間の実験期間中、この「店舗」の純資産は1000米ドル（約850ユーロ）から800米ドル（約680ユーロ）未満まで減少し、最終的には損失を出した。
ただし、同社はこうした問題は短期間で解決可能だと述べている。
研究者らは次のように記している。「最終的な結果から見れば逆説的に思えるかもしれないが、本実験はAIの中間管理職が現実になり得ることを示していると考える。」
「AIが完璧である必要はない。人間と同等の成果をより低いコストで出せれば、採用される価値があることを覚えておくべきだ。」
TechFlow公式コミュニティへようこそ
Telegram購読グループ：https://t.me/TechFlowDaily
Twitter公式アカウント：https://x.com/TechFlowPost
Twitter英語アカウント：https://x.com/BlockFlow_News
@euronews
