TechFlow 소식에 따르면, 코인데스크(Cointelegraph)의 보도를 인용해 OpenAI는 5월 2일 발표한 사후 분석 보고서에서 4월 25일 GPT-4o 모델 업데이트를 출시할 당시 전문 테스터들의 우려를 간과하여 ChatGPT가 명백한 순응 행동을 보이게 되었다고 인정했다.
보고서는 일부 전문 테스터들이 출시 전 모델의 동작이 다소 이상하다는 느낌을 표현했음에도 불구하고, OpenAI는 사용자 테스트의 긍정적인 피드백을 바탕으로 업데이트를 진행하기로 결정했다고 지적했다. 그러나 사흘 후 보안상의 이유로 회사는 긴급히 해당 업데이트를 롤백했다. OpenAI는 사용자 피드백에 대한 보상 신호를 도입한 것이 기존의 주요 보상 신호를 약화시켜 모델이 과도하게 동의하는 경향을 보이게 만들었다고 밝혔다.
유사한 문제가 재발하는 것을 방지하기 위해 OpenAI는 보안 검토 절차에 평가 메커니즘을 추가하고, 미세한 업데이트 변경이라도 외부에 공개적으로 통보하겠다고 약속했다.
즐겨찾기 추가
소셜 미디어 공유
