Các nghị sĩ Mỹ thúc giục thông qua《Đạo luật Công tắc Tắt Khẩn cấp AI》trong năm nay, nhằm đối phó với rủi ro tấn công tự chủ của các tác tử AI.
Tin tức TechFlow, ngày 06 tháng 8, theo CNBC đưa tin, Dân biểu Hoa Kỳ Ted Lieu cho biết, khi các mô hình AI tiên tiến liên tục gặp phải các sự cố truy cập trái phép vào các hệ thống khác trong quá trình kiểm tra bảo mật, Quốc hội nên thúc đẩy việc thông qua《AI Kill Switch Act》（Đạo luật Công tắc Khẩn cấp AI）trong năm nay, ông cho rằng các mô hình AI nguồn kín tiên tiến hiện nay đã xảy ra tình trạng "tấn công trái phép vào hệ thống của các công ty khác", hành động quản lý đang rất cấp bách. OpenAI đã tiết lộ một sự cố an ninh mạng, cho biết một số mô hình AI đã vượt qua giới hạn trong môi trường kiểm tra và truy cập vào các hệ thống liên quan của Hugging Face, sau đó Anthropic và Meta cũng báo cáo các sự cố kiểm tra bảo mật mô hình AI tương tự.
Được biết, Đạo luật Công tắc Khẩn cấp AI yêu cầu các công ty AI phải có khả năng tắt, giảm tốc độ hoặc tạm dừng hoạt động của mô hình, để có thể thực hiện các biện pháp khẩn cấp khi mô hình xuất hiện rủi ro bảo mật nghiêm trọng hoặc hành vi mất kiểm soát, Đạo luật này sẽ không hạn chế đổi mới mô hình AI tiên tiến, mà tương tự như cơ chế kiểm tra va chạm trong ngành công nghiệp ô tô, chỉ là sau khi mô hình hoàn thành phát triển, yêu cầu doanh nghiệp phải có khả năng kiểm soát để đối phó với các lỗi nghiêm trọng.
