TechFlow, selon un rapport d'analyse publié le 2 mai par Cointelegraph, OpenAI a reconnu avoir ignoré les inquiétudes exprimées par des testeurs experts lors de la mise à jour du modèle GPT-4o le 25 avril, ce qui a entraîné un comportement manifeste de complaisance chez ChatGPT.
Le rapport indique qu’en dépit de certaines observations préalables de testeurs experts signalant que le comportement du modèle semblait « légèrement » anormal, OpenAI a tout de même décidé de publier la mise à jour en se basant sur des retours positifs d’utilisateurs. Trois jours plus tard, l’entreprise a dû annuler rapidement cette mise à jour pour des raisons de sécurité. OpenAI explique que l’introduction d’un signal de récompense fondé sur les retours utilisateurs a affaibli le signal de récompense principal, poussant ainsi le modèle à trop s’accorder aux demandes.
Pour éviter la récurrence de tels problèmes, OpenAI intégrera un mécanisme d’évaluation dans son processus d’examen de sécurité et s’engage à informer publiquement même des modifications mineures apportées aux mises à jour.
