TechFlow 소식에 따르면, OpenAI는 전 구글 CEO 에릭 슈미트(Eric Schmidt)와 협력하여 초지능 AI 시스템의 정렬(Alignment)과 안전성을 확보하기 위한 기술 연구를 지원하는 '슈퍼정렬(Superalignment) 급행 보조금' 프로그램을 1,000만 달러 규모로 출범한다고 발표했다. 이 보조금 프로그램은 향후 초지능 AI 시스템이 직면할 수 있는 정렬 및 안전성 문제에 초점을 맞추고 있다. 이러한 시스템은 강력한 능력을 지녀 막대한 이점을 가져올 수 있지만 동시에 중대한 위험도 수반한다. 현재의 인간 피드백 기반 강화학습(RLHF) 등 AI 정렬 기술로는 초지능 AI가 보일 복잡성과 창의적인 행동을 처리하기 어려울 수 있다. 이번 연구 보조금은 약한 모델에서 강한 모델로의 일반화, 해석 가능성, 확장 가능한 감독 등의 분야를 포함한다.
해당 보조금 프로그램은 학계 연구실, 비영리 단체 및 개인 연구자에게 10만 달러에서 최대 200만 달러까지 자금을 지원할 예정이다. 또한 대학원생들을 대상으로 1년간 지급되는 15만 달러 규모의 OpenAI 슈퍼정렬 장학금도 제공되며, 이는 7만 5,000달러의 생활비 수당과 7만 5,000달러의 컴퓨팅 및 연구 자금으로 구성된다. 보조금 신청자는 정렬 분야의 사전 경험을 요구하지 않으며, 정렬 연구를 처음 시작하는 연구자들의 신청도 환영한다. 신청 마감일은 2월 18일이다.
즐겨찾기 추가
소셜 미디어 공유
