OpenAI приостанавливает разработку Astra из-за опасений, что она обладает возможностями для критических кибератак.
По сообщениям TechFlow, 8 августа, согласно сообщению Axios, OpenAI после внутренней оценки грядущей AI-модели Astra заявила, что нельзя исключить наличие у этой модели «критических» сетевых возможностей.
OpenAI заявила, что перед официальным запуском Astra расширит тестирование и меры безопасности для этой модели и в соответствии с «рамкой готовности» (Preparedness Framework), впервые опубликованной компанией в 2023 году, замедлит процесс разработки Astra до создания соответствующих мер безопасности.
OpenAI также заявила, что Astra не была причастна к недавнему инциденту с эксплуатацией уязвимости Hugging Face.
Сообщается, что этот случай может стать первым примером того, как передовая AI-лаборатория добровольно замедлила процесс разработки своей модели из-за быстрого роста возможностей в области кибербезопасности. (Jin10)
