TechFlow Logo
Войти/ Регистрация
Газ ETH
Gwei
Страх
gas
24/7Новости

Anthropic заявляет, что Opus 5 является наиболее устойчивой к атакам методом инъекции промптов моделью в своей линейке.

2026.07.25 - 01:15
Эксклюзив
Поделиться

TechFlow сообщает: 25 июля Anthropic в системной карточке модели Opus 5 указала, что данная модель является наиболее устойчивой к атакам методом инъекции промптов среди всех созданных на сегодняшний день. Согласно результатам оценки уязвимости к инъекциям промптов и тестирования красной командой, Opus 5 демонстрирует более высокую сопротивляемость вредоносным внедрениям промптов. Инъекция промптов является одним из ключевых рисков в области безопасности искусственного интеллекта, при котором атакующие с помощью специально составленных входных данных обходят ограничения безопасности модели, побуждая её выполнять непредусмотренные действия. Anthropic опубликовала соответствующие детали оценки на странице 73 системной карточки.


В избранное
Поделиться

Новости 24/7