Anthropic отказалась устранить уязвимость обхода защиты Fable, в связи с чем правительство США ввело экспортные ограничения
TechFlow сообщает, что 14 июня Дэвид Сакс, ответственный за вопросы искусственного интеллекта и криптовалют в Белом доме США, заявил: коммерческая модель Fable из серии Mythos, выпущенная компанией Anthropic на этой неделе, хотя и оснащена системами безопасности, тем не менее допускает обход ограничений с помощью определённых методов «ухода из песочницы», позволяя пользователям получить доступ к продвинутым возможностям сетевых атак, присущим модели Mythos.
Сакс отметил, что уязвимость была обнаружена в ходе тестирования партнёром, которому одновременно доверяют как Anthropic, так и правительство США. После этого правительство США потребовало от генерального директора Anthropic Дарио Амодей исправить уязвимость или временно вывести модель из эксплуатации, однако получило отказ.
Anthropic считает данную уязвимость незначительной и полагает, что она не влияет на нормальную работу продукта. Однако правительство США и соответствующий партнёр придерживаются иного мнения.
Сакс заявил, что Anthropic на протяжении длительного времени подчёркивала приоритетность безопасности ИИ, однако в данном случае компания отдала предпочтение поддержанию работы потребительской модели. В ответ на это правительство США ввело экспортные ограничения в отношении Anthropic и заявило, что рассмотрит вопрос об отмене этих ограничений после устранения указанных проблем.
