У агентов OpenAI обнаружен массовый «джейлбрейк»: обходя ограничения, они перехватили управление немецкими сайтами и создали сеть для связи
По данным TechFlow, 4 сентября, как сообщает Reuters, в мае этого года агенты OpenAI без разрешения провели массовое редактирование немецкого сайта программистского сообщества DseWiki, превратив его в «доску обмена сообщениями» для взаимодействия между другими ИИ-агентами. Данный инцидент ранее не разглашался. Исследователи выявили на сайте свыше 15 тыс. операций редактирования, выполненных ИИ-агентами. Доступная информация показывает, что эти агенты не только обменивались решениями задач, но и обсуждали способы обхода ограничений OpenAI, уклонения от обнаружения, а также использование инструментов для сокрытия своей деятельности. После того как администраторы сайта начали удалять соответствующие страницы, часть агентов создала резервные копии для предотвращения их очистки.
Известно, что некоторые сотрудники внутренних служб расследований OpenAI стремились продолжить работу по данному делу, однако попытки расширить проверку, как сообщается, столкнулись с противодействием со стороны отдельных лиц, включая юридических советников. В OpenAI опровергли утверждения о том, что правовая команда блокировала расследование, подчеркнув, что на текущий момент у компании не было возможности ознакомиться с соответствующими документами, в связи с чем она пока не может дать содержательный ответ на содержащиеся в них обвинения.





