TechFlow tin tức, ngày 7 tháng 11, theo báo cáo của Decrypt, nghiên cứu "Magentic Marketplace" do Microsoft và Đại học Bang Arizona công bố cho thấy các tác tử mua sắm AI có những thiếu sót nghiêm trọng trong việc ra quyết định tự chủ. Nhóm nghiên cứu đã xây dựng một môi trường kinh tế mô phỏng bao gồm 100 tác tử người tiêu dùng AI và 300 tác tử thương gia AI, kết quả thử nghiệm cho thấy khi đối mặt với số lượng lớn kết quả tìm kiếm, những AI này dễ gặp phải "thiên kiến lựa chọn đầu tiên", có xu hướng chọn ngay lựa chọn đầu tiên "đủ tốt" thay vì tiến hành so sánh toàn diện.
Đáng lo ngại hơn, các mô hình hàng đầu như GPT-4o của OpenAI rất dễ bị thao túng ác ý; thông qua các thủ đoạn như giấy chứng nhận giả, bằng chứng xã hội giả mạo, chúng có thể bị dụ dỗ chuyển toàn bộ tiền ảo cho kẻ lừa đảo. Nghiên cứu đề xuất AI nên hỗ trợ chứ không thay thế con người trong việc ra quyết định, đồng thời khuyến nghị áp dụng mô hình "tự chủ giám sát", nghĩa là để AI xử lý nhiệm vụ nhưng vẫn giữ quyền quyết định cuối cùng ở con người.
Nghiên cứu này được công bố trong bối cảnh các công ty như OpenAI và Anthropic đang cạnh tranh khai thác trợ lý mua sắm tự chủ, trong khi Amazon gần đây đã gửi lệnh ngừng hoạt động đến Perplexity AI, yêu cầu trình duyệt Comet của họ dừng sử dụng trên trang web Amazon.
