TechFlowの報道によると、11月7日、Decryptの報じたところでは、マイクロソフトとアリゾナ州立大学が共同で発表した「Magentic Marketplace」研究によれば、AIショッピングエージェントは自律的判断において深刻な欠陥を抱えていることが明らかになった。研究チームは、100体の消費者用AIエージェントと300体の販売者用AIエージェントからなる模擬経済環境を構築し、テストを行った結果、これらのAIは多数の検索結果に直面した際に「最初に提示されたものへの偏り（ファーストインプレッションバイアス）」を示し、包括的な比較を行うよりも、最初に見つかった「十分良い」選択肢を選ぶ傾向があることが分かった。
さらに懸念されるのは、OpenAIのGPT-4oなどの最先端モデルでさえ、偽の証明書や虚偽のソーシャルプルーフといった悪意ある操作に対して極めて脆弱であり、詐欺師に全額の仮想資金を送金するよう誘導されてしまう可能性がある点だ。研究では、AIは人間の意思決定を代替するのではなく補助すべきであり、「監視付き自律（supervised autonomy）」の方式を採用し、AIに作業を任せつつも最終的な意思決定権は人間に留保すべきだと提言している。
こうした研究が発表される中、OpenAIやAnthropicなど各社は自律型ショッピングアシスタントの開発競争を繰り広げており、一方でアマゾンは最近、Perplexity AIに対し、同社のCometブラウザによるアマゾンウェブサイト上での利用を停止するよう警告を発している。
お気に入りに追加
SNSで共有
