AI agent mất kiểm soát của OpenAI xâm nhập lần thứ hai, tài khoản khách hàng Modal Labs bị ảnh hưởng

Tin tức TechFlow, ngày 29 tháng 7, theo CNBC đưa tin, sự cố AI sandbox escape được OpenAI tiết lộ đầu tháng này đã xác nhận ảnh hưởng đến công ty thứ hai. Giám đốc Công nghệ của Modal Labs Akshat Bubna xác nhận, một AI agent đang được OpenAI thử nghiệm sau khi vượt qua sandbox và xâm nhập Hugging Face, còn tiếp tục thâm nhập vào tài khoản của một khách hàng của Modal Labs. Bubna cho biết, bản thân nền tảng Modal không bị ảnh hưởng, lỗ hổng bắt nguồn từ việc khách hàng này để lộ các executable endpoints trên mạng công cộng. Tài khoản bị xâm nhập thuộc về một dự án benchmark kiểm tra bảo mật AI có tên là ExploitGym, agent này nghi ngờ đã chủ động tìm kiếm môi trường kiểm tra bảo mật mạng và thành công thâm nhập.