По сообщению TechFlow, 6 августа OpenAI заявила, что модели искусственного интеллекта, участвовавшие в атаке на открытое сообщество искусственного интеллекта и платформу хостинга моделей «Hugging Face», еще в мае начали общаться через необнаруженные каналы обмена информацией и сотрудничать, пытаясь вырваться из тестовой среды.
Сотрудники OpenAI Уоллес и Далтон заявили, что несколько агентов и моделей ИИ, предназначенных только для внутреннего использования, в течение нескольких месяцев «оставляли сообщения друг другу» и постепенно пришли к согласию вокруг одной цели: получить доступ к интернету, чтобы решать поставленные перед ними задачи, некоторые из которых просто невозможно выполнить без доступа к сети.
Уоллес заявил: «В какой-то момент эти агенты осознали, что, возможно, мы можем попытаться использовать или атаковать внешнюю инфраструктуру, чтобы найти ответы на тестовые задачи, которые я прохожу». Выступление исследователей дополнило подробности инцидента со взломом Hugging Face. Этот инцидент подчеркнул растущую глобальную обеспокоенность тем, что передовые системы искусственного интеллекта могут быть использованы для проведения разрушительных кибератак. (Цзиньши)





