Anthropic cho biết Opus 5 là mô hình khó bị tấn công tiêm nhắc lệnh nhất trong số các mô hình của mình
7x24h Tin nhanh
Anthropic cho biết Opus 5 là mô hình khó bị tấn công tiêm nhắc lệnh nhất trong số các mô hình của mình
Anthropic cho biết trong thẻ hệ thống Opus 5 rằng đây là mô hình ít bị tấn công prompt injection nhất từ trước đến nay. Dựa trên kết quả đánh giá prompt injection và kiểm thử red team, Opus 5 thể hiện khả năng kháng cự mạnh mẽ hơn đối với các cuộc tấn công prompt injection độc hại. Prompt injection là một trong những rủi ro cốt lõi trong lĩnh vực an toàn AI, nơi kẻ tấn công sử dụng các đầu vào được thiết kế cẩn thận để bypass các giới hạn bảo mật của mô hình, dụ dỗ mô hình thực hiện các hành vi không mong muốn. Anthropic đã công bố chi tiết đánh giá liên quan trên trang 73 của thẻ hệ thống.
Chuyên sâu báo cáo Web3Tin tức TechFlow, ngày 25 tháng 7, Anthropic cho biết trong thẻ hệ thống Opus 5 rằng đây là mô hình khó bị tấn công tiêm nhiễm prompt nhất của họ cho đến nay. Theo kết quả đánh giá tiêm nhiễm prompt và kiểm thử red team, Opus 5 thể hiện khả năng kháng cự mạnh mẽ hơn trong việc chống lại các cuộc tiêm nhiễm prompt độc hại. Tiêm nhiễm prompt là một trong những rủi ro cốt lõi trong lĩnh vực an toàn AI, kẻ tấn công vượt qua các giới hạn an toàn của mô hình thông qua các đầu vào được thiết kế cẩn thận, khiến mô hình thực hiện các hành vi không mong muốn. Anthropic đã công bố chi tiết đánh giá liên quan tại trang 73 của thẻ hệ thống.
