TechFlow Logo
로그인/ 회원가입
ETH 가스
Gwei
공포
gas
7x24h속보

OpenAI 수석 과학자, Astra 논란 해명: 연속 사고 모니터링은 여전히 연구의 핵심 과제

2026.09.02 - 06:20
공유하기

TechFlow 보도에 따르면, 9월 2일 OpenAI 수석 과학자 Jakub Pachocki는 오보로 인해 모델 '모니터링 불가화' 경쟁이 발생하는 것을 방지하기를 희망한다고 밝혔다. 그는 Astra를 포함한 현재 최첨단 모델들의 계산 그래프 깊이가 GPT-4와 비교해 2배 이상 차이가 나지 않는다고 언급했다. OpenAI는 첫 번째 추론 모델 출시 이후 Chain of Thought 모니터링을 유지하고 활용하기 위해 꾸준히 노력해 왔는데, 이는 해당 기술이 학습 분포에서 모델 정렬 능력이 어떻게 일반화되는지 관찰하는 데 도움이 된다고 판단했기 때문이다.

Pachocki는 아울러 Chain of Thought 모니터링이 상대적으로 취약하며 전망이 밝지 않다고 지적했으나, 연구를 통해 강화할 수 있다고 밝혔으며 이는 현재 OpenAI 연구 계획의 핵심 목표로 자리 잡았다고 덧붙였다.

이전에 The Information은 Astra가 recurrent depth를 적용해 동일한 Transformer 레이어 세트를 반복적으로 연산한다고 보도한 바 있다. 이를 통해 일부 추론 과정이 모델 내부에서 수행될 수 있게 되었고, 모든 내용을 명시적인 Chain of Thought로 기록하지 않아도 되었으며, 이는 모델이 점점 더 모니터링하기 어려워질 것이라는 우려를 불러일으켰다.

즐겨찾기 추가
소셜 미디어 공유

7x24h 속보