TechFlow 소식에 따르면, OpenAI는 첨단 인공지능 모델의 안전성을 보장하기 위한 새로운 규칙인 '준비 프레임워크(Preparedness Framework)'의 베타 버전을 발표했다.
이 프레임워크에 따라 OpenAI는 모든 첨단 AI 모델에 대한 '스코어카드(Scorecard)'를 평가하고 지속적으로 업데이트할 예정이다.
또한 OpenAI는 기준 안전 조치를 유발하는 위험 임계값을 설정하며, 네 가지의 안전 위험 등급을 명시했다. 완화 후 점수가 '중간' 이하인 모델만 배포할 수 있으며, 완화 후 점수가 '높음' 이하인 모델만 추가 개발이 가능하다. 고위험 또는 임계 위험 수준의 모델의 경우, OpenAI는 추가적인 안전 조치도 시행할 예정이다.
주목할 점은 OpenAI가 모든 보고서를 검토하는 다기능 안전 자문 그룹을 설립 중이며, 보고서는 경영진과 이사회에 동시에 제출된다는 것이다. 경영진이 의사결정권을 갖고 있지만, 이사회는 이를 뒤집을 수 있는 권한을 가진다.
즐겨찾기 추가
소셜 미디어 공유
