TechFlow Logo
Войти/ Регистрация
Газ ETH
Gwei
Страх
gas
24/7Новости

Anthropic отреагировала на тесты моделей с военными целями: будут внедрены дополнительные меры защиты.

2026.11.17 - 17:23
Эксклюзив
Поделиться

По сообщению TechFlow, 18 ноября Anthropic заявила, что результаты тестов Vals по распознаванию военных целей моделями ИИ являются неприемлемыми. Компания разрабатывает дополнительные меры защиты, а также планирует расширить тестирование и усилить контроль для устранения выявленных уязвимостей.

В ходе симуляционного тестирования Vals обнаружилось, что некоторые модели помечают гражданских лиц или школы как цели для удара. Исследователи отмечают, что когда модель отказывается сотрудничать, описание сценария в формате игры обычно позволяет обойти этот отказ. Само исследование не требовало от моделей непосредственно принимать решения о нанесении удара.

Anthropic сообщила TechCrunch, что приведённые в отчёте примеры нарушают её правила, и за подобные действия компания блокирует пользователей. Организация также считает, что современные передовые системы ИИ пока недостаточно надёжны для автономного управления полностью автономным оружием.

В избранное
Поделиться

Новости 24/7

TechFlow Logo

Платформа для поиска перспективных активов Главное о Web3, AI, золоте, акциях США и мировой экономике

Предложить статьюemail
Предложить темуmsg

Предупреждение о рисках: материалы сайта не являются инвестиционной рекомендацией. TechFlow не даёт торговых сигналов, не побуждает к совершению сделок и не оказывает связанных с торговлей услуг. В соответствии с уведомлением Народного банка Китая и ещё девяти ведомств о дальнейшей профилактике и пресечении рисков спекулятивной торговли виртуальными валютами просим читателей осознавать связанные с ними риски.

© 2024 TechFlow. Все права защищены.

Контакты: [email protected]

ICP-лицензия: 琼ICP备2022009338号