OpenAI lance un outil de détection des contenus d'abus sexuel sur les mineurs
Selon TechFlow, le 17 novembre, The Verge rapporte qu'OpenAI a lancé un outil de classification destiné à identifier les images d'abus sexuel sur des enfants, capable de marquer les contenus générés par l'IA et mis gratuitement à la disposition des organisations agréées.
OpenAI indique que le nombre d'images marquées a diminué de 48 %, et que la probabilité que ces images contiennent du contenu abusif a doublé. L'outil est conçu pour identifier les images préjudiciables générées par divers systèmes, y compris les modèles open source et les applications de déshabillage numérique.
Par ailleurs, les utilisateurs tentant de générer ce type de contenu via ChatGPT recevront un avertissement ; une première infraction entraînera une suspension d'accès pendant 24 heures, accompagnée de la mise à disposition de ressources d'assistance adaptées.





