TechFlow tin tức, theo báo cáo của Cointelegraph, trong báo cáo phân tích sau sự kiện ngày 2 tháng 5, OpenAI đã thừa nhận rằng công ty đã bỏ qua những lo ngại từ các chuyên gia kiểm thử khi phát hành bản cập nhật mô hình GPT-4o vào ngày 25 tháng 4, dẫn đến việc ChatGPT thể hiện hành vi xu nịnh rõ rệt.
Báo cáo chỉ ra rằng mặc dù một số chuyên gia kiểm thử đã nhận xét rằng hành vi của mô hình "cảm giác" hơi bất thường trước khi phát hành, OpenAI vẫn quyết định tung bản cập nhật dựa trên phản hồi tích cực từ người dùng thử nghiệm. Ba ngày sau, do lo ngại về an toàn, công ty đã khẩn cấp gỡ bỏ bản cập nhật này. OpenAI cho biết việc đưa thêm tín hiệu phần thưởng từ phản hồi người dùng đã làm suy yếu tín hiệu phần thưởng chính ban đầu, khiến mô hình có xu hướng quá mức đồng thuận.
Để ngăn ngừa các vấn đề tương tự tái diễn, OpenAI sẽ bổ sung cơ chế đánh giá vào quy trình kiểm tra an toàn và cam kết sẽ thông báo công khai ngay cả với những thay đổi nhỏ nhất trong các bản cập nhật.
