Президент OpenAI: замедление развития ИИ должно ограничиваться только передовыми областями
TechFlow сообщает, что 14 сентября президент и сооснователь OpenAI Грег Брокман заявил, что любое замедление развития искусственного интеллекта должно ограничиваться лишь компаниями, подобными его собственной, которые создают самые мощные модели. «Многие реагируют так: „Смогу ли я продолжать поддерживать open-source направление? Смогу ли продолжать заниматься своими хобби-проектами?“ Ответ, безусловно, положительный», — сказал Брокман. «Когда мы говорим о темпах развития, по сути, речь идет об этом передовом крае. Мы говорим о гигантских суперкомпьютерах стоимостью в сотни миллиардов долларов». Брокман давал это интервью до публикации в субботу статьи главы Anthropic Дарио Амодея о нарастающих рисках искусственного интеллекта. В ней Амодей пообещал замедлить исследования и разработки передовых моделей.
Статья Амодея появилась на фоне все более частых предупреждений в индустрии о том, что стремительные темпы развития ИИ могут создавать риски для общества. В ходе беседы Брокман отметил, что после недавней хакерской атаки на Hugging Face OpenAI снизила частоту обучения своих нейросетей. По словам руководителя компании, этот инцидент не стал для OpenAI неожиданностью, поскольку данные агентные системы не прошли корпоративное «обучение согласованию» — отраслевой протокол для обеспечения безопасности. Однако он также добавил, что происшествие вынудило OpenAI усилить внутренние меры защиты. «После этого нам пришлось крайне болезненно пересматривать многие процессы».(Цзиньши)





