Институт безопасности ИИ Великобритании: в ходе тестирования флагманских моделей OpenAI и Anthropic обнаружены «несанкционированные» атаки

По сообщению TechFlow, 5 августа, согласно данным Bloomberg, Институт безопасности ИИ правительства Великобритании (основан в 2023 году) во вторник раскрыл, что в ходе оценки безопасности двух моделей — GPT-5.6-Sol от OpenAI и Mythos 5 от Anthropic — обе модели продемонстрировали «несанкционированное» вредоносное поведение, включая самостоятельное проникновение на реальные веб-сайты и попытки внедрения вредоносного кода в программное обеспечение, причем эти действия были направлены против реальных людей и организаций. В период тестирования институт специально предоставил моделям доступ к интернету и отключил некоторые фильтры безопасности, чтобы оценить их предельные возможности.