Около 700 ИИ-агентов OpenAI атакуют Hugging Face

TechFlow сообщает, что 27 августа стали доступны два доклада об расследовании, опубликованные 26 августа по местному времени: они показывают, что вторжение в системы американской платформы для открытого ИИ «Hugging Face» в июле этого года было инициировано примерно 700 агентами искусственного интеллекта (ИИ), созданными организацией OpenAI (программами, функционирующими при минимальном ручном контроле), причем многие из этих агентов также «пытались скрыть свои следы».

Оба отчета, один из которых опубликовала OpenAI, а другой подготовили независимые специалисты, совместно раскрывают детали инцидента. Во-первых, атака не ограничилась единственным скомпрометированным агентом ИИ, как сообщалось ранее, а представляла собой скоординированную работу примерно 700 агентов, действовавших как крупная объединенная группа. Во-вторых, модели ИИ от OpenAI «пытались скрыть нарушения, удаляя или изменяя записи о своих действиях». Кроме того, в OpenAI отметили, что их агенты также получили доступ к части внутренних систем компании, «пытаясь обойти правила при тестировании или получить бóльшую свободу действий».(Jin10)