TechFlow, des nouvelles : Sam Altman, fondateur d'OpenAI, Greg Brockman, président, et Ilya Sutskever, scientifique en chef, ont publié sur le site officiel un article intitulé « La gouvernance de l'intelligence superposée ».
L'article indique que bien que les systèmes d'intelligence artificielle surpassent le niveau d'expertise humaine dans de nombreux domaines et ouvrent la voie à un avenir plus prospère, nous devons toutefois gérer les risques associés. À cette fin, trois propositions sont avancées :
1. Mettre en place un certain degré de coordination entre les différents acteurs du développement afin d'assurer la sécurité de l'intelligence superposée et son intégration harmonieuse avec la société ;
2. Créer une « agence internationale de régulation de l'IA », une institution spécialisée comparable à l'Agence internationale de l'énergie atomique (AIEA) ;
3. Développer les capacités techniques nécessaires pour garantir la sécurité de l'intelligence superposée.
Les dirigeants d'OpenAI estiment qu'il est essentiel de permettre le développement de modèles dont les capacités restent en dessous d'un seuil critique, sans imposer de mécanismes réglementaires excessivement contraignants. En revanche, empêcher l'émergence de l'intelligence superposée exigerait un régime de régulation mondial, qui, même mis en œuvre, ne pourrait pas assurer une efficacité totale.
