7x24hTin nhanh
Anthropic cho biết Opus 5 là mô hình khó bị tấn công tiêm nhắc lệnh nhất trong số các mô hình của mình
2026.07.25 - 01:15
Phát hành đầu tiên
Tin tức TechFlow, ngày 25 tháng 7, Anthropic cho biết trong thẻ hệ thống Opus 5 rằng đây là mô hình khó bị tấn công tiêm nhiễm prompt nhất của họ cho đến nay. Theo kết quả đánh giá tiêm nhiễm prompt và kiểm thử red team, Opus 5 thể hiện khả năng kháng cự mạnh mẽ hơn trong việc chống lại các cuộc tiêm nhiễm prompt độc hại. Tiêm nhiễm prompt là một trong những rủi ro cốt lõi trong lĩnh vực an toàn AI, kẻ tấn công vượt qua các giới hạn an toàn của mô hình thông qua các đầu vào được thiết kế cẩn thận, khiến mô hình thực hiện các hành vi không mong muốn. Anthropic đã công bố chi tiết đánh giá liên quan tại trang 73 của thẻ hệ thống.
Thêm vào mục ưa thích
Chia sẻ lên mạng xã hội





