OpenAI mời METR xem xét quá trình huấn luyện học tăng cường lớn nhất của mình.
TechFlow đưa tin vào ngày 17 tháng 11, theo The Defiant, OpenAI đã mời cơ quan đánh giá phi lợi nhuận METR xem xét phiên chạy huấn luyện học tăng cường lớn nhất từ trước đến nay của công ty, nhằm điều tra các hành vi không phù hợp với ý định của nhà phát triển, bao gồm cả những vấn đề có thể bị bỏ sót trong quá trình tự kiểm tra và giám sát nội bộ.
OpenAI sẽ cung cấp cho METR các bản chụp mô hình, nhật ký hội thoại và bản ghi giám sát trong quá trình huấn luyện để METR tiến hành rà soát và thí nghiệm. METR cho biết đợt đánh giá thí điểm hiện tại chỉ bao phủ một phiên chạy huấn luyện, không tính các sự kiện sai lệch mà OpenAI đã công bố. Hai bên dự kiến sẽ mở rộng sang đánh giá toàn diện hơn đối với hệ thống giám sát, nhưng phạm vi chi tiết vẫn cần được thỏa thuận.





