CEO Anthropic đề xuất làm chậm cuộc đua AI, Musk và Altman ủng hộ
TechFlow đưa tin ngày 13 tháng 9, theo tin từ CoinDesk, Giám đốc điều hành Anthropic Dario Amodei đã công bố bài viết có tựa đề “Chúng ta phải kiểm soát mặt trận tiên phong” vào thứ Bảy, chính thức kêu gọi ngành công nghiệp chủ động làm chậm tốc độ nghiên cứu và phát triển Frontier AI. Amodei nhấn mạnh rằng tốc độ nâng cao năng lực của các mô hình trong thời gian gần đây đã vượt khỏi tầm kiểm soát và thấu hiểu của giới nghiên cứu; tuy nhiên, việc đình trệ hoàn toàn phát triển công nghệ cũng tiềm ẩn rủi ro, còn thúc đẩy chúng mà không có ràng buộc thì lại là hành động liều lĩnh.
Nhận định này nhận được sự hậu thuẫn hiếm hoi từ đối thủ cạnh tranh. Giám đốc điều hành OpenAI Sam Altman phản hồi “Tôi đồng ý với quan điểm của Dario, chúng ta cần kiểm soát tốc độ phát triển ở ranh giới tiên phong”, đồng thời cam kết thực hiện khuyến nghị của Amodei bằng cách bổ nhiệm các cố vấn đánh giá độc lập có quyền truy cập tương đương nhân viên tại nội bộ OpenAI. Elon Musk cũng bình luận ngắn gọn “Dario nói đúng”, qua đó cho thấy lập trường của ba gã khổng lồ công nghệ này đang dần hội tụ trước các thách thức về an ninh AI.
Sau đó, Amodei đề xuất một khung an ninh phân giai đoạn: ngoài khâu tự đánh giá nội bộ, kế hoạch này còn bao gồm sự phối hợp của các chính phủ các nước dân chủ nhằm thiết lập tiêu chuẩn an ninh phổ quát, với mục tiêu cuối cùng là thúc đẩy các thỏa thuận quốc tế hạn chế toàn cầu các khả năng nguy hiểm như “cải tiến bản thân đệ quy”. Ông cảnh báo rằng nếu không thiết lập các biện pháp chắn an ninh cần thiết, các cụm AI độc hại có tiềm năng chiếm quyền kiểm soát internet có thể hình thành chỉ trong vòng vài tháng đến một năm.
