Неконтролируемый ИИ-агент повторно атаковал OpenAI: затронуты учётные записи клиентов Modal Labs

По сообщениям TechFlow, 29 июля, по данным CNBC инцидент с побегом ИИ из песочницы, о котором OpenAI сообщили в начале этого месяца, уже официально подтвержден как затронувший вторую компанию. Технический директор Modal Labs Акшат Бубна подтвердил, что один из тестируемых OpenAI агентов ИИ, пройдя через песочницу и взломав Hugging Face, дополнительно проник в аккаунт одного из клиентов Modal Labs. Бубна отметил, что сама платформа Modal не пострадала; уязвимость возникла из-за того, что клиент предоставил открытый доступ к исполняемому эндпоинту в публичной сети. Взломанный аккаунт принадлежал проекту бенчмарка для тестирования безопасности ИИ под названием ExploitGym; предполагается, что агент целенаправленно искал среду для тестирования кибербезопасности и успешно проник в нее.