TechFlow, OpenAI annonce le lancement d'un programme de subventions accélérées « Superalignment » d'une valeur de 10 millions de dollars en collaboration avec Eric Schmidt, ancien PDG de Google, afin de soutenir la recherche technologique garantissant l'alignement et la sécurité des systèmes d'IA superhumaine. Ce programme de financement vise spécifiquement les défis futurs liés à l'alignement et à la sécurité posés par ces systèmes d'IA superhumaine, dotés de capacités puissantes pouvant à la fois apporter d'immenses bénéfices et présenter des risques importants. Les techniques actuelles d'alignement de l'IA, telles que l'apprentissage par renforcement basé sur la rétroaction humaine (RLHF), pourraient s'avérer insuffisantes face à la complexité et au comportement créatif de l'IA superhumaine. Les domaines éligibles à cette aide comprennent notamment la généralisation du faible au fort, l'interprétabilité et la supervision évolutive.
Le programme attribuera des subventions allant de 100 000 à 2 millions de dollars aux laboratoires universitaires, organisations à but non lucratif et chercheurs individuels. Pour les étudiants diplômés, une bourse OpenAI « Superalignment » annuelle de 150 000 dollars sera également proposée, composée d'une allocation de 75 000 dollars et de 75 000 dollars dédiés aux ressources informatiques et au financement de la recherche. Le programme n'exige aucune expérience préalable dans le domaine de l'alignement ; les chercheurs novices souhaitant s'engager dans ce champ sont vivement encouragés à postuler. La date limite de candidature est fixée au 18 février.
