Генеральный директор Anthropic предложил замедлить гонку в сфере ИИ, его поддержали Маск и Альтман
TechFlow сообщает, что 13 сентября со ссылкой на CoinDesk генеральный директор Anthropic Дарио Амодэй опубликовал в субботу статью под названием «Нам необходимо контролировать передовой ИИ», официально призвав отрасль сознательно замедлить темпы исследований и разработок в сфере передового искусственного интеллекта (Frontier AI). Амодэй подчеркнул, что недавние темпы совершенствования моделей уже превысили рамки понимания и контроля со стороны исследователей: хотя полный отказ от технологического развития несет риски, его бесконтрольный прогресс также является безрассудством.
Эта точка зрения нашла редкую поддержку у конкурентов. Генеральный директор OpenAI Сам Альтман отреагировал: «Я согласен с Дарио, нам нужно регулировать темпы развития передового ИИ», и пообещал внедрить в OpenAI независимых экспертов-оценщиков с корпоративными правами доступа, аналогичными доступу сотрудников, следуя рекомендации Амодэя. Илон Маск также кратко заметил: «Дарио прав», что обозначило сближение позиций трех технологических гигантов перед лицом проблем безопасности ИИ.
Впоследствии Амодэй предложил поэтапную структуру безопасности: кроме внутренней независимой оценки она включает координацию единых стандартов безопасности при участии правительств демократических стран, а конечная цель заключается в продвижении глобальных ограничительных соглашений по таким опасным функциям, как «рекурсивное самосовершенствование». Он предупредил, что без установления необходимых защитных механизмов злонамеренный рой ИИ, обладающий потенциалом перехвата управления интернетом, может сформироваться всего за несколько месяцев или год.
