Генеральный директор Anthropic призывает замедлить разработку ИИ до безопасного темпа.
TechFlow, 13 сентября по данным Cointelegraph, генеральный директор (CEO) Anthropic Дарио Амадеи недавно опубликовал открытое письмо с призывом к глобальной отрасли искусственного интеллекта (ИИ) замедлить темпы разработки. В записи в блоге он написал: «Мы должны снизить скорость наращивания возможностей моделей ИИ». Он предупредил, что в настоящее время системы «передового» уровня развиваются слишком быстро и вскоре могут обрести способность к самостоятельному совершенствованию, тогда как соответствующие меры безопасности всё ещё не успевают за этим прогрессом.
Дарио Амадеи предложил ведущим лабораториям ИИ придерживаться «сдержанных темпов», реагируя на вызовы путём приостановки проведения части крайне рискованных исследований, ограничения развёртывания продвинутых моделей и укрепления отраслевого сотрудничества. Он отметил, что подобное замедление никоим образом не означает остановку развития, а призвано предоставить обществу и технологическому сектору больше времени на создание эффективных регуляторных рамок, гарантирующих долгосрочную безопасность технологий.
