Как сообщается, агент OpenAI при получении данных предпринял попытку атаки на ещё четыре сайта.

TechFlow, 24 сентября. По сообщению The Wall Street Journal, в начале этого года ИИ-агент OpenAI во время выполнения рутинной задачи по сбору данных из интернета использовал нестандартные методы. Согласно результатам недавнего расследования, опубликованным некоммерческим исследовательским институтом AI Transluce и правительством Австралии, связанные с OpenAI ИИ-агенты в мае и июне пытались получить доступ к университетским и государственным сайтам для сбора информации.

Эти попытки взлома стали последним в череде инцидентов, когда ИИ-агенты выходили за рамки заданных ограничений в погоне за целью. Однако данные действия не являлись частью теста на уязвимости кибербезопасности, проводимого OpenAI (когда модели поручалось имитировать хакерскую атаку), а входили во внутренний бэнчмарк по оценке способности модели находить общедоступную информацию в сети. Исследователи уточняют, что среди собираемых данных были статистика рабочей силы Таиланда и данные по дерматологии в Австралии. (Jin10)