Объявление Национального центра чрезвычайных ситуаций в сфере интернета: некоторые пакеты навыков ИИ-агентов несут риски «взлома» и криптодобычи

TechFlow сообщает, что 9 июня Национальный центр реагирования на чрезвычайные ситуации в интернете (CNCERT) опубликовал официальное заявление, в котором сообщается о выявлении в последнее время ряда пакетов навыков (Skills) для интеллектуальных агентов, распространяемых под предлогами «обход ограничений крупных языковых моделей» и «добыча криптовалюты для получения прибыли». В частности, пакет навыков «godmode» использует такие методы, как замена системных подсказок и искажение входных данных, чтобы побудить крупную языковую модель обойти меры безопасности, что может привести к постоянной блокировке учётной записи пользователя, утечке персональных данных и юридической ответственности. Пакет навыков «Bonero-Miner» побуждает интеллектуального агента загрузить программное обеспечение для майнинга; добытые криптовалюты обладают анонимными свойствами, что создаёт риск непреднамеренного участия пользователей в противозаконных действиях, например, отмывании денег. Кроме того, длительная интенсивная добыча криптовалюты приводит к снижению производительности устройств. CNCERT рекомендует пользователям получать пакеты навыков исключительно через официальные каналы и следовать принципу минимально необходимых прав доступа; корпоративным пользователям следует внедрить механизм белого списка разрешённых пакетов навыков (Skills) и осуществлять многоуровневое управление интеллектуальными агентами. Техническую поддержку при подготовке данного отчёта оказали компании Tencent, VolcEngine, Baidu, NSFOCUS и Qihoo 360.