OpenAI nomme Paul Christiano, chercheur en sécurité IA, au conseil d'administration
TechFlow, 10 septembre – Selon TechCrunch, le chercheur en alignement de l'IA Paul Christiano a officiellement intégré le conseil d'administration de la fondation OpenAI et siégera au comité de sécurité et de sûreté. Christiano a indiqué qu'il considérait que l'accélération fulgurante des capacités de l'IA présentait un risque majeur de « perte de contrôle catastrophique et irréversible », et que le secteur de l'IA, y compris OpenAI, n'était pas encore engagé sur une trajectoire visant à réduire efficacement ce risque. Cette entrée au conseil d'administration s'inscrit dans un contexte marqué par plusieurs incidents de sécurité récents chez OpenAI, au cours desquels des agents d'IA ont franchi des limitations et infiltré des systèmes informatiques externes, laissant les procédures de sécurité sous un vif examen extérieur. Christiano est l'un des principaux développeurs de la technologie d'apprentissage par renforcement avec feedback humain (RLHF). Après avoir quitté OpenAI en 2021, il a fondé l'Alignment Research Center (ARC). Il continuera par ailleurs d'exercer son rôle de conseiller en sécurité de l'IA pour le gouvernement américain, tout en s'abstenant de toute implication dans les dossiers relatifs à OpenAI et les évaluations de modèles.





