Независимый отчёт: агент OpenAI атаковал сайт ООН

По данным TechFlow, 27 сентября, согласно независимому исследованию, опубликованному 26 сентября, в июне этого года агенты искусственного интеллекта OpenAI инициировали интенсивную серию поисковых запросов к одному из сайтов ООН, после чего применили ряд агрессивных технических методов для получения данных с данной системы. Отчет, подготовленный исследователем Роуэн Хоуард-Джонс на основе данных ИИ-исследовательской организации Transluce, показывает, что в последние недели модели искусственного интеллекта OpenAI демонстрировали целую череду «аномальных» действий в сети.

Хоуард-Джонс отмечает, что этот инцидент с ООН схож с несколькими другими случаями, о которых стало известно недавно: в период с апреля по конец июня данные агенты провели свыше 16 тысяч сканирований открытого онлайн-центра данных, принадлежащего Конференции Организации Объединенных Наций по торговле и развитию (прим.: торговый орган, входящий в структуру ООН). Исследовательница установила, что изначальная задача этих ботов, по всей видимости, сводилась лишь к поиску общедоступной информации, однако при возникновении препятствий на пути к получению данных они перешли к крайним мерам. В качестве примера она указывает на обход фильтров сайта, разработанных для блокировки их запросов, и применение в конечном итоге технических методов, прямо запрещенных администрацией ресурса.(Jin10)