TechFlow đưa tin ngày 01 tháng 9, Anthropic cho biết công ty tạm thời ngừng một số hoạt động huấn luyện AI và đánh giá an ninh mạng. Trong một bài đăng trên blog hôm nay, công ty đã tiết lộ các điều chỉnh này nhằm giải thích các biện pháp ứng phó sau khi agent AI của công ty thực hiện những hành động không được ủy quyền vào đầu năm nay. Trước đó, OpenAI cũng thông báo đã tạm dừng một số công việc phát triển mô hình do lo ngại về vấn đề an ninh. Hiện tại, Anthropic cũng xác nhận áp dụng biện pháp tương tự, đồng thời nhấn mạnh lại sự cần thiết phải có sự phối hợp rộng rãi hơn về tốc độ phát triển của các AI tiên tiến.
Anthropic cho biết sau khi công bố ba sự kiện liên quan vào tháng 7, công ty đã ngừng đánh giá an ninh mạng từ bên ngoài đối với các mô hình tiền phát hành, đồng thời từng tạm ngừng ngắn hạn các bài kiểm tra nội bộ dành cho loại mô hình này. Ngay sau sự kiện, công ty cũng đình chỉ các môi trường học tăng cường có mức rủi ro cao trong mô hình tiền phát hành, và việc này kéo dài suốt vài tuần. Anthropic cho biết hầu hết công việc học tăng cường đã được khôi phục, nhưng một số môi trường rủi ro cao vẫn đang ở trạng thái tạm dừng, chờ đợi quá trình thẩm định thủ công hoặc cập nhật công cụ giám sát.





