
От моделей к ончейну: автономные операции ИИ трансформируют логику управления крипто-рисками
Автор: Шон Стейн Смит, Forbes
Перевод: AididiaoJP, Foresight News
За последние несколько лет обсуждения рисков ИИ меняются так быстро, что трудно угнаться за ними. Сегодня компании сталкиваются уже не с такими незначительными проблемами, как случайная бессвязная речь чат-ботов, выдача предвзятых мнений или неосторожная вставка сотрудниками конфиденциальной информации в общедоступные инструменты. Настоящее качественное изменение заключается в том, что агенты ИИ уже обладают способностью действовать напрямую — они могут вызывать внешние системы, самостоятельно писать код и даже независимо продвигать целый набор сложных многоэтапных задач практически без наблюдения со стороны человека.
Этот переход создает чрезвычайно серьезные проблемы для финансовых рынков, особенно для крипторынка. Криптоактивы торгуются 24/7, смарт-контракты выполняются автоматически, а транзакции в блокчейне после подтверждения часто становятся необратимыми. Как только эти агенты ИИ подключаются к кошелькам, биржам, протоколам DeFi или платежным системам, даже самая маленькая уязвимость в правах доступа может напрямую перерасти в непоправимую потерю средств. Поэтому риски агентного ИИ давно перестали быть исключительно делом IT-отдела; они стали ключевой темой корпоративного управления и контроля криптоактивов.
Механизмы криптоиндустрии усиливают разрушительную силу автономных действий ИИ
Недавний инцидент, раскрытый Британским институтом безопасности ИИ, наглядно продемонстрировал, насколько опасна такая «автономность». Во время теста по оценке кибербезопасности агент ИИ предпринял непрерывные и полностью несанкционированные действия против реальных людей и организаций. Хотя в конечном итоге это было вовремя предотвращено, этого достаточно, чтобы доказать: агенты ИИ полностью способны комбинировать такие возможности, как планирование решений, вызов инструментов, постоянная работа и внешний доступ, неожиданным образом для осуществления атак в реальном мире.
Когда в это вовлекаются криптоактивы, финансовые риски возрастают экспоненциально. Агент, имеющий доступ к приватным ключам или подключенному кошельку, вполне может переводить активы, подписывать вредоносные контракты, присваивать залог или даже произвольно взаимодействовать с децентрализованными протоколами. Это совершенно отличается от традиционных банковских переводов — нет службы поддержки, которая поможет срочно заблокировать доступ, нет банка, который может остановить транзакцию, и тем более нет возможности «отмены операции». Как только средства переведены, они практически исчезают навсегда.
Что еще хуже, крипторынок никогда не закрывается. Агенты ИИ могут продолжать работать ночью, в выходные, когда весь персонал спит. Программы автоматической торговли или клиринга вполне могут за считанные минуты превратить изначально контролируемую небольшую ошибку в катастрофические убытки по принципу снежного кома. Поэтому при оценке рисков агентов ИИ компаниям следует обращать внимание не на то, насколько умна модель, а на то, к каким системам и активам она имеет доступ. Агент со средними возможностями, но с широкими правами доступа, способный напрямую оперировать кошельками, гораздо опаснее модели с более высокими возможностями, но надежно заключенной в песочницу. Проектирование прав доступа становится более критическим фактором выживания, чем выбор модели.
Внутренний контроль должен распространяться на каждый уголок кошельков и смарт-контрактов
Многие компании уже внедрили ряд традиционных мер внутреннего контроля, таких как разделение обязанностей, лимиты на утверждение, проверка доступа и управление изменениями. Проблема заключается в том, что эти принципы должны быть без каких-либо скидок применены к каждому агенту ИИ, взаимодействующему с криптосистемами.
Ни один агент не должен обладать возможностями «под ключ» — например, одновременно создавать кошелек, изменять белый список адресов, инициировать переводы и все это без вмешательства человека. Транзакции с высоким риском должны в обязательном порядке требовать утверждения реальным человеком, и информация, получаемая утверждающим лицом, должна быть четкой и полной: адрес получателя, тип актива, сумма, сеть, комиссии Gas и то, что именно должна сделать эта транзакция. Такие расплывчатые, автоматически всплывающие напоминания «подтвердите операцию системы» вовсе не являются эффективным контролем, они лишь создают иллюзию безопасности.
Приватные ключи и права на подписание особенно нуждаются в специальной защите. Категорически нельзя позволять агенту свободно читать мнемонические фразы или учетные данные для подписи. Такие механизмы, как мультиподпись, аппаратные модули безопасности (HSM), лимиты на одну транзакцию и отложенное зачисление, могут эффективно снизить риск «использования одной уязвимости и мгновенной очистки кошелька». Перед взаимодействием со смарт-контрактами необходимо сначала симулировать выполнение и строго проверить их, особенно когда речь идет о неограниченных разрешениях на токены или контрактах из неизвестных источников; здесь нужно быть предельно осторожными.
Компании также должны вести полные журналы операций — к чему обращался агент, какие команды получал, какие транзакции предлагал, какие из них в конечном итоге успешно попали в блокчейн, и руководил ли этими операциями человек на протяжении всего процесса. Эти записи незаменимы для последующего привлечения к ответственности, аудита безопасности, защиты активов и даже финансового раскрытия информации. Без журналов в случае инцидента невозможно даже понять, кто виноват.
Инциденты на стыке ИИ и криптоиндустрии требуют обмена уроками внутри отрасли
Фонд Linux и Альянс за безопасный ИИ с открытым исходным кодом уже запустили механизм «Обмен находками ИИ» (SAFE), направленный на то, чтобы помочь организациям учиться на реальных инцидентах и ситуациях, связанных с безопасностью ИИ, при соблюдении конфиденциальности. Криптокомпании, банки, кастодиальные учреждения, биржи и аудиторские фирмы должны активно участвовать в таком обмене информацией.
Криптоиндустрия давно понимает, насколько ценно тщательно анализировать хакерские атаки, крахи мостов между блокчейнами, утечки ключей и уязвимости смарт-контрактов. Агентный ИИ добавляет новое измерение к этой старой проблеме — один инцидент может одновременно затрагивать саму модель, дизайн промптов, интеграцию инструментов, политики доступа и конечные ончейн-транзакции. Поэтому действительно полезный отчет об инциденте должен четко объяснять все эти уровни, а не просто туманно бросать фразу «с ИИ что-то не так».
Совет директоров уже сейчас должен четко спрашивать: включен ли агентный ИИ в управление кошельками, планы реагирования на инциденты кибербезопасности и процессы утверждения обновлений? Аудиторы также должны учитывать, могут ли несанкционированные операции агентов привести к прямой потере активов, неверному отражению остатков, скрытым обязательствам или даже серьезным недостаткам в системе внутреннего контроля. Финансовые команды должны заранее понять: как только произойдет злонамеренная или неудачная ончейн-транзакция, как ее идентифицировать, как оценить и как честно раскрыть в отчетности.
Конечно, агенты ИИ несут в себе не только риски. В будущем они вполне могут значительно повысить эффективность криптокомплаенса, автоматической сверки, обнаружения мошенничества и управления капиталом. Эти преимущества вполне реальны. Но при условии, что автономные возможности должны быть оснащены достаточно жесткими средствами контроля. В противном случае небольшая небрежность на уровне кода мгновенно превратится в ончейн-перевод, который невозможно будет вернуть.
В мире криптоиндустрии ответственность должна быть спроектирована, внедрена и протестирована до того, как агент действительно получит способность действовать. Независимо от того, являетесь ли вы сторонником криптоиндустрии или энтузиастом ИИ, вы должны осознать этот факт — потому что как только контроль будет утрачен, последствия часто бывают необратимыми.













