TechFlow 소식으로, 11월 17일 The Verge 보도에 따르면, OpenAI가 아동 성학대 이미지를 식별하는 분류 도구를 출시했으며, 이 도구는 AI 생성 콘텐츠도 식별하고 심사를 완료한 기관에 무료로 개방된다.
OpenAI는 해당 도구로 라벨이 지정된 이미지의 수가 48% 감소했으며, 라벨이 부착된 이미지에 학대 콘텐츠가 포함되어 있을 가능성이 두 배로 높아졌다고 밝혔다. 이 도구는 오픈소스 모델과 드레싱 애플리케이션을 비롯한 다양한 도구에서 생성된 유해 이미지를 식별하도록 설계되었다.
또한, ChatGPT를 이용해 이러한 콘텐츠를 생성하려는 사용자는 경고를 받게 되며, 최초 위반 시 24시간 동안 이용이 정지되고 관련 지원 자원이 제공된다.
즐겨찾기 추가
소셜 미디어 공유





