Сооснователь и генеральный директор Anthropic: мы должны замедлить темпы роста возможностей ИИ-моделей

TechFlow сообщает, 12 сентября сооснователь и генеральный директор Anthropic отметил: «Нам следует замедлить темпы развития возможностей ИИ-моделей». Замедление не означает отказ от обучения моделей или технологического прогресса, а необходимо для того, чтобы у компании было достаточно времени на процедуры выравнивания и защиты моделей. Предлагается, чтобы каждая ведущая ИИ-компания взяла на себя обязательство предоставить постоянно действующей группе независимых экспертов-оценщиков непрерывный доступ с привилегиями на уровне штатных сотрудников. Также предложено лидерам ИИ-отрасли в странах демократического мира скоординировать усилия и установить единые стандарты безопасности.