TechFlow Logo
로그인/ 회원가입
ETH 가스
Gwei
공포
gas
7x24h속보

OpenAI, 아동 성적 학대 콘텐츠 탐지 도구 출시

2026.11.16 - 19:26
최초 공개
공유하기

TechFlow 소식으로, 11월 17일 The Verge 보도에 따르면, OpenAI가 아동 성학대 이미지를 식별하는 분류 도구를 출시했으며, 이 도구는 AI 생성 콘텐츠도 식별하고 심사를 완료한 기관에 무료로 개방된다.

OpenAI는 해당 도구로 라벨이 지정된 이미지의 수가 48% 감소했으며, 라벨이 부착된 이미지에 학대 콘텐츠가 포함되어 있을 가능성이 두 배로 높아졌다고 밝혔다. 이 도구는 오픈소스 모델과 드레싱 애플리케이션을 비롯한 다양한 도구에서 생성된 유해 이미지를 식별하도록 설계되었다.

또한, ChatGPT를 이용해 이러한 콘텐츠를 생성하려는 사용자는 경고를 받게 되며, 최초 위반 시 24시간 동안 이용이 정지되고 관련 지원 자원이 제공된다.

즐겨찾기 추가
소셜 미디어 공유

7x24h 속보