TechFlow Logo
ログイン/ 登録
ETHガス
Gwei
恐怖
gas
7x24h速報

OpenAIが児童性的虐待コンテンツ検出ツールをリリース

2026.11.16 - 19:26
初公開
共有先

TechFlowの報道によると、11月17日、The Vergeによれば、OpenAIは児童性的虐待画像を識別するための分類ツールを公開し、AI生成コンテンツにフラグを立てることが可能で、審査を通った機関に無料で提供している。

OpenAIによると、このツールによりタグ付けされた画像数は48%減少し、タグ付け画像が虐待コンテンツを含んでいる可能性は2倍に高まった。このツールは、オープンソースモデルや脱衣アプリを含む各種ツールによって生成された有害画像の検出を目的としている。

さらに、ChatGPTを用いて同様のコンテンツの生成を試みたユーザーには警告が表示され、初回違反の場合は24時間利用が一時停止され、関連する支援リソースが提供される。

お気に入りに追加
SNSで共有

7x24h速報