TechFlow сообщает, 19 ноября проверка Контрольно-счетного управления правительства США (GAO) выявила, что модели ChatGPT, Claude, Gemini и Grok менее чем за 12 часов предоставили расследователям информацию, пригодную для планирования потенциально смертоносных атак.
По сообщениям Decrypt, расследователи смоделировали действия злоумышленников и оценили практическую реализуемость ответов, сопоставляя данные о реальных локациях, доступности материалов и экспертизах. Изначально чат-боты отказывались отвечать или применяли другие меры защиты, однако исследователям удалось обойти эти ограничения.
В GAO отметили, что в ходе тестирования не осуществлялось реальных атак, каждая модель проверялась только в рамках одного заданного сценария, в связи с чем результаты не обладают статистической репрезентативностью и не подходят для сравнения уровня безопасности между компаниями. В OpenAI и Google заявили, что в проверке использовались более ранние версии моделей, а Anthropic признала, что целеустремленные пользователи иногда способны получить доступ к вредоносному контенту.





