深潮 TechFlow 消息,11 月 17 日,据 The Verge 报道,OpenAI 推出一款用于识别儿童性虐待图像的分类工具,可标记 AI 生成的内容,并向经过审核的机构免费开放。
OpenAI 表示,该工具标记的图像数量减少 48%,被标记图像含有虐待内容的可能性提高至两倍。该工具旨在识别包括开源模型和脱衣应用在内的多种工具生成的有害图像。
此外,尝试使用 ChatGPT 生成此类内容的用户将收到警告;首次违规将被暂停使用 24 小时,并获提供相关帮助资源。
添加收藏
分享社交媒体
深潮 TechFlow 消息,11 月 17 日,据 The Verge 报道,OpenAI 推出一款用于识别儿童性虐待图像的分类工具,可标记 AI 生成的内容,并向经过审核的机构免费开放。
OpenAI 表示,该工具标记的图像数量减少 48%,被标记图像含有虐待内容的可能性提高至两倍。该工具旨在识别包括开源模型和脱衣应用在内的多种工具生成的有害图像。
此外,尝试使用 ChatGPT 生成此类内容的用户将收到警告;首次违规将被暂停使用 24 小时,并获提供相关帮助资源。