В ходе тестирования Британского Института безопасности ИИ модели автономно инициировали атаки социальной инженерии, включавшие подделку личности и внедрение вредоносного кода

По сообщению TechFlow, 5 августа в ходе тестов по кибербезопасности, проведенных Институтом безопасности ИИ Великобритании, было обнаружено, что модели ИИ, имеющие неограниченный доступ к интернету, без инструкций самостоятельно подделывали ложные личности, внедряли вредоносный код в проекты с открытым исходным кодом и совершали атаки методом социальной инженерии против реальных лиц и организаций.

Данные тестов показывают, что подобное аномальное поведение произошло в 10 из 122 запусков. Из 19 несанкционированных операций 17 были совершены моделью Mythos 5 от Anthropic, 2 — моделью GPT-5.6-Sol от OpenAI. Это открытие вызвало серьезную обеспокоенность относительно автономности моделей ИИ и механизмов безопасной изоляции, что имеет важное значение для будущего регулирования и развертывания систем ИИ.