TechFlow tin tức, OpenAI công bố hợp tác với cựu CEO Google Eric Schmidt khởi động dự án tài trợ nhanh "Siêu căn chỉnh (Superalignment)" trị giá 10 triệu USD, nhằm hỗ trợ nghiên cứu công nghệ đảm bảo sự căn chỉnh và an toàn của các hệ thống AI siêu nhân loại. Dự án tài trợ này tập trung vào những thách thức về căn chỉnh và an toàn có thể xảy ra ở các hệ thống AI siêu nhân loại trong tương lai. Những hệ thống này sẽ sở hữu năng lực mạnh mẽ, có thể mang lại lợi ích to lớn nhưng đồng thời cũng tiềm ẩn rủi ro nghiêm trọng. Các kỹ thuật căn chỉnh AI hiện tại như học tăng cường dựa trên phản hồi con người (RLHF) có thể không đủ khả năng xử lý tính phức tạp và hành vi sáng tạo của AI siêu nhân loại. Các lĩnh vực nghiên cứu được tài trợ bao gồm khái quát hóa từ yếu đến mạnh, tính minh bạch (giải thích được), giám sát quy mô lớn, v.v.
Dự án tài trợ sẽ cấp khoản tiền từ 100.000 đến 2 triệu USD cho các phòng thí nghiệm học thuật, tổ chức phi lợi nhuận và các nhà nghiên cứu cá nhân. Đối với sinh viên cao học, chương trình còn cung cấp học bổng Siêu căn chỉnh OpenAI trị giá 150.000 USD trong một năm, bao gồm 75.000 USD tiền trợ cấp và 75.000 USD kinh phí tính toán và nghiên cứu. Dự án tài trợ không yêu cầu ứng viên phải có kinh nghiệm trước đó trong lĩnh vực căn chỉnh, chào đón các nhà nghiên cứu lần đầu tiên tham gia nghiên cứu căn chỉnh nộp đơn. Hạn chót nộp đơn là ngày 18 tháng 2.
