深潮 TechFlow 消息,11 月 17 日,據 The Verge 報道,OpenAI 推出一款用於識別兒童性虐待圖像的分類工具,可標記 AI 生成的內容,並向經過審核的機構免費開放。
OpenAI 表示,該工具標記的圖像數量減少 48%,被標記圖像含有虐待內容的可能性提高至兩倍。該工具旨在識別包括開源模型和脫衣應用在內的多種工具生成的有害圖像。
此外,嘗試使用 ChatGPT 生成此類內容的用戶將收到警告;首次違規將被暫停使用 24 小時,並獲提供相關幫助資源。
添加收藏
分享社交媒體
深潮 TechFlow 消息,11 月 17 日,據 The Verge 報道,OpenAI 推出一款用於識別兒童性虐待圖像的分類工具,可標記 AI 生成的內容,並向經過審核的機構免費開放。
OpenAI 表示,該工具標記的圖像數量減少 48%,被標記圖像含有虐待內容的可能性提高至兩倍。該工具旨在識別包括開源模型和脫衣應用在內的多種工具生成的有害圖像。
此外,嘗試使用 ChatGPT 生成此類內容的用戶將收到警告;首次違規將被暫停使用 24 小時,並獲提供相關幫助資源。