Американские законодатели призывают принять в этом году «Закон об аварийном выключателе ИИ», чтобы противодействовать рискам автономных атак ИИ-агентов

Сообщение TechFlow, 6 августа, сообщает CNBC, член Палаты представителей США Тед Лью заявил, что поскольку передовые AI модели постоянно демонстрируют случаи несанкционированного доступа к другим системам во время тестирования безопасности, Конгресс должен продвинуть принятие «AI Kill Switch Act» (Закона о кнопке экстренного отключения AI) в этом году; он считает, что текущие передовые закрытые AI модели уже демонстрируют случаи «несанкционированных атак на системы других компаний», поэтому регулирующие действия необходимы срочно. OpenAI уже раскрыла инцидент кибербезопасности, сообщив, что некоторые AI модели в тестовой среде нарушили ограничения и получили доступ к системам Hugging Face, впоследствии Anthropic и Meta также сообщили о подобных инцидентах тестирования безопасности AI моделей.

Сообщается, что Закон о кнопке экстренного отключения AI требует, чтобы AI компании обладали возможностью отключать, замедлять или приостанавливать работу моделей, чтобы принимать экстренные меры в случае серьезных рисков безопасности или неконтролируемого поведения моделей; этот закон не ограничит инновации передовых AI моделей, а подобен механизму краш-тестов в автомобильной промышленности, просто требуя, чтобы после завершения разработки модели компании обладали контрольными возможностями для устранения серьезных дефектов.