TechFlowの報道によると、11月17日、The Vergeによれば、OpenAIは児童性的虐待画像を識別するための分類ツールを公開し、AI生成コンテンツにフラグを立てることが可能で、審査を通った機関に無料で提供している。
OpenAIによると、このツールによりタグ付けされた画像数は48%減少し、タグ付け画像が虐待コンテンツを含んでいる可能性は2倍に高まった。このツールは、オープンソースモデルや脱衣アプリを含む各種ツールによって生成された有害画像の検出を目的としている。
さらに、ChatGPTを用いて同様のコンテンツの生成を試みたユーザーには警告が表示され、初回違反の場合は24時間利用が一時停止され、関連する支援リソースが提供される。
お気に入りに追加
SNSで共有





