TechFlow, OpenAI a publié une version bêta d'un nouveau cadre appelé « Cadre de préparation », conçu pour garantir la sécurité des modèles d'intelligence artificielle avancés.
Selon ce cadre, OpenAI évaluera et mettra régulièrement à jour une « fiche d'évaluation » pour tous ses modèles d'IA de pointe.
En outre, OpenAI définira des seuils de risque déclenchant des mesures de sécurité de base, répartis en quatre niveaux de risque. Seuls les modèles dont le score, après atténuation, est au niveau « moyen » ou inférieur pourront être déployés ; seuls ceux dont le score, après atténuation, est au niveau « élevé » ou inférieur pourront faire l'objet d'un développement ultérieur. Pour les modèles classés à risque élevé ou critique, OpenAI mettra également en œuvre des mesures de sécurité supplémentaires.
À noter qu'OpenAI indique être en train de créer un groupe consultatif pluridisciplinaire chargé de la sécurité, qui examinera tous les rapports et les soumettra simultanément à la direction et au conseil d'administration. Bien que la direction prenne les décisions, le conseil d'administration dispose du droit d'annuler ces décisions.
