OpenAI запускает инструмент обнаружения материалов сексуального насилия над детьми
Сообщение TechFlow. 17 ноября, по данным The Verge, OpenAI представила классификатор для выявления изображений сексуальной эксплуатации детей, способный маркировать ИИ-сгенерированный контент и предоставляемый бесплатно верифицированным организациям.
В OpenAI отметили, что использование данного инструмента позволило снизить объем распознаваемых изображений на 48%, при этом вероятность наличия материалов о жестоком обращении среди помеченных файлов возросла вдвое. Инструмент предназначен для идентификации вредоносных изображений, созданных различными программами, включая открытые модели и приложения для удаления одежды.
Кроме того, пользователям, пытающимся сгенерировать подобный контент через ChatGPT, будут направляться предупреждения; за первое нарушение доступ будет приостановлен на 24 часа, а также им предоставят соответствующие ресурсы поддержки.





