TechFlow 보도에 따르면, 3월 10일 두인(抖音) 공식 블로그 ‘흑반보(黑板报)’는 올해 들어 AI가 생성한 음란·저속 콘텐츠에 대해 총 4만 2천 건의 콘텐츠를 조치했으며, 1만 4천 개 계정에 대한 추천 제한, 발언 금지, 계정 폐쇄 등 단계적 처벌을 실시했다고 밝혔다. 대표적인 사례로는 ▲블랙마켓 범죄 조직이 AI를 활용해 ‘싱글 맘 과외’ 인물을 만들어 음란 유도를 시도한 사건으로, 관련자 4명이 형사 구류됐고, ▲AI로 생성한 미녀 이미지를 통해 사용자를 음란 웹사이트로 유도한 계정 339개, ▲AI로 생성한 애매모호한 콘텐츠를 지속적으로 게시한 계정 8,421개가 조치를 받았다. 두인은 향후 불법 행위로 의심되는 사안을 적극적으로 공안기관에 신고하고, 관리 기술을 지속적으로 고도화할 예정이라고 밝혔다.
즐겨찾기 추가
소셜 미디어 공유
