深潮 TechFlow 消息，11 月 7 日，據Decrypt報道，微軟與亞利桑那州立大學合作發佈的"Magentic Marketplace"研究顯示，AI購物代理在自主決策方面存在嚴重缺陷。研究團隊構建了一個包含100個消費者AI代理和300個商家AI代理的模擬經濟環境，測試結果表明這些AI在面對大量搜索結果時容易出現"首提偏見"，傾向於選擇第一個"足夠好"的選項而非進行全面比較。

更令人擔憂的是，OpenAI的GPT-4o等領先模型極易受到惡意操控，通過假證書、虛假社會證明等手段可被誘導將全部虛擬資金轉給騙子。研究建議AI應輔助而非替代人類決策，推薦採用"監督自主"模式，讓AI處理任務但保留人類最終決策權。

這一研究發佈之際，OpenAI和Anthropic等公司正競相推出自主購物助手，而亞馬遜最近向Perplexity AI發出了停止令，要求其Comet瀏覽器停止在亞馬遜網站上的使用。