TechFlowの報道によると、OpenAIはGoogleの元CEOであるEric Schmidtと連携し、「スーパーアライメント（Superalignment）緊急助成金」プログラムを開始することを発表しました。このプログラムは1000万ドル規模で、超人知能AIシステムのアライメントと安全性を確保するための技術研究を支援することを目的としています。本助成金は、将来登場する可能性のある超人知能AIシステムが直面するアライメントおよび安全性に関する課題に焦点を当てます。こうしたシステムは極めて強力な能力を持つ一方で、大きな利益をもたらす可能性と重大なリスクの両方を内包しています。現在のAIアライメント技術（人間のフィードバックに基づく強化学習（RLHF）など）では、超人知能AIの複雑さや創造的な行動に対応できない恐れがあります。本助成の研究対象には、弱い監督からの強い汎化、解釈可能性、スケーラブルな監督などが含まれます。
本プログラムでは、学術ラボ、非営利団体、個人研究者に対して10万～200万ドルの助成金を提供します。また、大学院生向けには年額15万ドルの「OpenAI スーパーアライメント奨学金」を設け、そのうち7万5000ドルを生活手当、残り7万5000ドルを計算資源および研究資金として支給します。申請にあたっては、アライメント分野での過去の経験は問わず、初めてアライメント研究に取り組む研究者の応募も歓迎します。応募締切は2月18日です。
お気に入りに追加
SNSで共有
