TechFlow, 2 сентября. Главный исследователь OpenAI Якуб Пашоцкий заявил о намерении избежать гонки за «недоступностью моделей для мониторинга», спровоцированной вводящими в заблуждение сообщениями. По его словам, глубина вычислительного графа текущих передовых моделей, включая Astra, отличается от аналогичного показателя GPT-4 не более чем в два раза. С момента выхода первых моделей для рассуждений OpenAI придерживается курса на сохранение и использование мониторинга цепочки мыслей, полагая, что эта технология позволяет отслеживать, как способность моделей к согласованию (alignment) обобщается на основе тренировочного распределения.
Пашоцкий также отметил, что мониторинг цепочки мыслей остается достаточно уязвимым, и общая тенденция не внушает оптимизма; тем не менее, его все еще можно укрепить через дальнейшие исследования, и он уже стал ключевой задачей в текущем научно-исследовательском плане OpenAI.
Ранее издание The Information сообщало, что в архитектуре Astra применяется подход recurrent depth, при котором одна и та же группа слоев Transformer задействуется для многократных вычислений. Благодаря этому часть рассуждений может происходить непосредственно внутри модели без необходимости прописывать всю логику в виде явной цепочки мыслей, что породило опасения по поводу того, будет ли модель со временем становиться всё сложнее поддаваться контролю.





