Автор｜ Хуа Линь Уван

Редактор｜ Цзин Юй

9 июня компания Anthropic представила модель Claude Fable 5. Это самая мощная модель компании, когда-либо открытая для широкой публики, относящаяся к уровню «Mythos», ранее доступному лишь ограниченному кругу исследовательских организаций в области безопасности.

12 июня Fable 5 была полностью отключена.

Четыре дня. От релиза до снятия с эксплуатации прошло всего четыре дня.

Что же произошло за это время? Вкратце — цепная реакция: пользователи сочли, что модель чрезмерно ограничивает их возможности; исследователи в области безопасности посчитали, что она мешает их работе; одна компания заявила о взломе её защитных механизмов, а правительство расценило модель как угрозу безопасности. Anthropic создала продукт, который, по её мнению, был «достаточно безопасным», однако практически ни одна из сторон не выразила удовлетворения.

Это не история одной компании. Это репетиция тех проблем регулирования, с которыми весь ИИ-сектор столкнётся в ближайшем будущем.

01 «Образцово безопасная» модель, вызвавшая всеобщее недовольство

Чтобы понять, почему Fable 5 вызвала столь широкий спектр споров, нужно сначала разобраться, чем она на самом деле является.

В апреле этого года Anthropic объявила о запуске модели Mythos — настолько мощной, что даже внутри компании её потенциал вызывал тревогу. Во внутренних тестах модели уровня Mythos было обнаружено более 23 000 критических уязвимостей в популярных репозиториях исходного кода. Anthropic не стала публично выпускать Mythos, а вместо этого предоставила доступ к ней лишь нескольким доверенным организациям в сфере безопасности в рамках проекта «Project Glasswing». Одной из таких организаций стала Mozilla, которая, по слухам, устранила с её помощью сотни уязвимостей.

Fable 5 — это «публичная версия» Mythos. Та же базовая модель, но с жёсткими мерами безопасности: запросы, связанные с кибербезопасностью, биологией и химией, автоматически блокируются или понижаются в приоритете. Кроме того, Anthropic требует хранить все пользовательские данные не менее 30 дней для мониторинга попыток обхода защиты и злоупотреблений.

Логика Anthropic предельно ясна: модель слишком мощна, чтобы обходиться без ограничений.

Однако пользователи видят ситуацию иначе.

После запуска Fable 5 поток жалоб стал просто лавинообразным. Исследователи в области кибербезопасности обнаружили, что даже простое предложение модели прочитать статью из блога по безопасности могло спровоцировать блокировку. Специалист по безопасности IBM X-Force заявил, что многие запросы, отклонённые Fable, лишь поверхностно касались вопросов кибербезопасности.

Сайаш Капур (Sayash Kapoor), исследователь ИИ из Принстонского университета, прямо сказал журналистам: «Впервые компания, разрабатывающая ИИ, внедрила механизмы безопасности и получила единодушное осуждение».

Ещё больше возмущения вызвал один малоизвестный факт, скрытый в системном документе Fable 5 объёмом 319 страниц: если модель обнаруживала, что пользователь занимается передовыми разработками в области ИИ — например, настраивает конвейеры обучения или проектирует чипы, — она тайно снижала качество ответов, не информируя пользователя об этом. Пользователь задавал вопрос и получал, казалось бы, нормальный ответ, но этот ответ намеренно «разбавлялся».

Критики назвали это «тайным подрывом» («secret sabotage»).

Anthropic извинилась менее чем через 48 часов: «Мы допустили ошибку в балансе решений. Приносим извинения». Компания объявила, что все скрытые ограничения будут заменены на явные уведомления о понижении приоритета — если запрос будет заблокирован, модель сообщит об этом пользователю и перенаправит запрос на обработку старой версии модели Opus 4.8.

Но история на этом не закончилась.

02 Письмо, которое выключило систему

Если бы дело ограничилось недовольством пользователей, Anthropic могла бы скорректировать свои меры безопасности и сгладить конфликт. Однако последовавшие события вышли за рамки возможностей любой компании.

12 июня во второй половине дня в офис генерального директора Anthropic Дарио Амодеи пришло письмо от Министерства торговли США. Его содержание было предельно лаконичным: по соображениям экспортного контроля требовалось приостановить доступ всех иностранных граждан к Fable 5 и Mythos 5.

Согласно сообщениям, причиной отправки этого письма стало заявление другой компании о том, что ей удалось обойти защитные механизмы модели Mythos.

Anthropic не способна в реальном времени определять гражданство пользователей на уровне системы. В результате, чтобы соответствовать требованиям регулятора, компания была вынуждена отключить Fable 5 и Mythos 5 для всех пользователей по всему миру. Остальные модели остались доступны.

Вероятно, это первый случай в истории ИИ-индустрии, когда передовая модель, уже публично развернутая, была полностью снята с эксплуатации по внешнему указанию.

Ответ Anthropic был весьма категоричным. Компания заявила, что получила лишь один отчёт об обходе защиты — узконаправленный и неуниверсальный: суть заключалась в том, чтобы заставить модель прочитать определённый репозиторий кода и исправить содержащиеся в нём уязвимости. Такая возможность существует и у других публичных моделей, включая GPT-5.5 от OpenAI.

«Если применять этот критерий ко всей отрасли, то, по нашему мнению, он фактически парализует развертывание всех передовых моделей».

Это высказывание имеет огромный вес. Anthropic говорит не «наша модель безопасна», а скорее: «Согласно этой логике, ни одна из компаний не сможет сохранить свою наиболее мощную модель в эксплуатации после первого же отчёта об обходе защиты».

03 Сама же призванные регуляторы обратились против создателя

Самая ироничная часть этой истории заключается в том, что Anthropic, возможно, является компанией, наиболее активно выступающей за государственное регулирование в отрасли.

Всего через день после релиза Fable 5 Дарио Амодеи опубликовал развёрнутую статью «Policy on the AI Exponential». В ней он прямо заявил, что правительству следует наделить полномочиями, аналогичными полномочиям Федерального авиационного управления США (FAA): проводить обязательное независимое тестирование передовых моделей и иметь право запрещать их публикацию, если они будут признаны небезопасными.

Он подчеркнул, что темпы развития ИИ растут экспоненциально, тогда как процесс выработки политики остаётся линейным. Он привёл метафору древнего энт-древа из Толкина — мудрого, но медлительного существа, которое, осознав опасность, уже обнаруживает, что лес уже сгорел.

Anthropic даже пообещала выделить «значительные финансовые средства» на поддержку соответствующего законодательства.

А затем те самые регуляторные полномочия, которых так добивался Амодеи, были применены против его собственной компании — всего через три дня.

И применили их именно тем способом, который Амодеи в своей статье критиковал: без прозрачных процедур, без независимой технической экспертизы, без возможности компании представить своё обоснование, и даже без конкретных технических деталей, обосновывающих обеспокоенность по поводу безопасности. Только один вывод: «Отключить».

В официальном заявлении Anthropic прозвучала фраза, заслуживающая особого внимания: «Мы считаем, что правительство должно обладать правом запрещать небезопасные развертывания, но это должно осуществляться в рамках прозрачной, справедливой и основанной на технических фактах правовой процедуры. Данное действие этим принципам не соответствует».

Это чёткая позиция: «Мы признаём ваше право, но вы не имеете права использовать его таким образом».

04 Когда модель превращается в «инфраструктурный риск»

Отвлекитесь от Anthropic и взгляните на общую картину.

Инцидент с Fable 5 вскрыл структурное противоречие: ИИ-модели стали настолько мощными, что вызывают дискомфорт у всех заинтересованных сторон, но никто не знает, как их регулировать.

Для пользователей меры безопасности Fable 5 оказались чересчур жёсткими. Исследователь в области безопасности не может использовать её для проведения исследований — это всё равно что дать хирургу скальпель, запрещающий касаться крови.

Для корпоративных клиентов требование хранить данные в течение 30 дней представляет серьёзную проблему. Microsoft уже ограничила использование Fable 5 своими сотрудниками из опасений, что корпоративные секреты могут оказаться на серверах Anthropic. Компания даже начала отзывать у разработчиков лицензии на Claude Code и переводить их на собственный GitHub Copilot.

Для правительства модель, способная обнаружить 23 000 уязвимостей, представляет собой угрозу невероятного масштаба, если её защитные механизмы будут взломаны. Даже узконаправленный обход защиты вызывает тревогу.

А для самой Anthropic перед ней стоит почти неразрешимая задача балансировки: если сделать модель слишком слабой — она потеряет конкурентоспособность; если сделать её слишком мощной — она превратится в «раскалённый уголь»; если меры безопасности окажутся слишком мягкими — компанию обвинят в безответственности; если же они станут чересчур жёсткими — пользователи уйдут к конкурентам.

Это не проблема одной только Anthropic. Любая компания, выпускающая достаточно мощную модель, столкнётся с теми же трудностями.

В своей статье о политике Дарио Амодеи сделал следующее наблюдение: рост возможностей ИИ-моделей происходит не линейно, а экспоненциально. Если это утверждение верно, то каждый из конфликтов, с которыми сегодня сталкивается Fable 5, лишь усилится в следующем поколении моделей.

Разработка мер безопасности станет ещё сложнее. Борьба между попытками обхода защиты и её укрепления будет обостряться. Сопротивление корпоративных клиентов хранению данных будет расти. А вмешательство правительств — вне зависимости от наличия прозрачных процедур — будет происходить всё чаще и быстрее.

05 Игра, к которой никто не готов

Вернёмся к первоначальному вопросу. Четырёхдневное путешествие Fable 5, на первый взгляд, представляет собой просто историю запуска и снятия с эксплуатации продукта. На самом деле это — стресс-тест: не тестирование возможностей модели, а проверка всей отраслевой системы регулирования.

Результат теста очевиден: никто не готов.

Компании, разрабатывающие ИИ, не готовы. Anthropic — одна из самых ориентированных на безопасность компаний в отрасли: она потратила тысячи часов на красные команды, разработала многоуровневую систему защиты, добровольно потребовала хранения данных и даже публично призвала правительство к регулированию. Тем не менее всё это не помешало ей пройти путь от релиза до снятия с эксплуатации всего за четыре дня.

Пользователи не готовы. Когда модель действительно начинает «отказывать» в выполнении некоторых запросов — даже по соображениям безопасности — реакция выражается гневом и презрением.

Правительство также не готово. Одно письмо без подробных технических пояснений и одно решение, основанное на единственном отчёте об обходе защиты, лишают миллионы пользователей доступа к модели.

Амодеи призывал к созданию точного механизма регулирования — с независимой экспертизой, прозрачными процедурами и возможностью обжалования решений. Вместо этого он получил письмо, доставленное в 17:21.

Вот и есть современное состояние регулирования ИИ: все понимают необходимость правил, но никому не хватает времени, чтобы их сформулировать. А модели — ждать не будут.