TechFlow Logo
Войти/ Регистрация
Газ ETH
Gwei
Страх
gas
24/7Новости

Главный ученый OpenAI прокомментировал споры вокруг Astra: мониторинг цепочки рассуждений по-прежнему остается приоритетом исследований.

2026.09.02 - 06:20
Поделиться

TechFlow, 2 сентября. Главный исследователь OpenAI Якуб Пашоцкий заявил о намерении избежать гонки за «недоступностью моделей для мониторинга», спровоцированной вводящими в заблуждение сообщениями. По его словам, глубина вычислительного графа текущих передовых моделей, включая Astra, отличается от аналогичного показателя GPT-4 не более чем в два раза. С момента выхода первых моделей для рассуждений OpenAI придерживается курса на сохранение и использование мониторинга цепочки мыслей, полагая, что эта технология позволяет отслеживать, как способность моделей к согласованию (alignment) обобщается на основе тренировочного распределения.

Пашоцкий также отметил, что мониторинг цепочки мыслей остается достаточно уязвимым, и общая тенденция не внушает оптимизма; тем не менее, его все еще можно укрепить через дальнейшие исследования, и он уже стал ключевой задачей в текущем научно-исследовательском плане OpenAI.

Ранее издание The Information сообщало, что в архитектуре Astra применяется подход recurrent depth, при котором одна и та же группа слоев Transformer задействуется для многократных вычислений. Благодаря этому часть рассуждений может происходить непосредственно внутри модели без необходимости прописывать всю логику в виде явной цепочки мыслей, что породило опасения по поводу того, будет ли модель со временем становиться всё сложнее поддаваться контролю.

В избранное
Поделиться

Новости 24/7

TechFlow Logo

Платформа для поиска перспективных активов Главное о Web3, AI, золоте, акциях США и мировой экономике

Предложить статьюemail
Предложить темуmsg

Предупреждение о рисках: материалы сайта не являются инвестиционной рекомендацией. TechFlow не даёт торговых сигналов, не побуждает к совершению сделок и не оказывает связанных с торговлей услуг. В соответствии с уведомлением Народного банка Китая и ещё девяти ведомств о дальнейшей профилактике и пресечении рисков спекулятивной торговли виртуальными валютами просим читателей осознавать связанные с ними риски.

© 2024 TechFlow. Все права защищены.

Контакты: [email protected]

ICP-лицензия: 琼ICP备2022009338号