TechFlow 보도에 따르면, 3월 18일 International Business Times는 미국 캘리포니아주 연방법원에서 세 명의 청소년 여성들이 엘론 머스크가 설립한 인공지능 기업 xAI를 상대로 소송을 제기했다고 전했다. 이들은 xAI의 챗봇 ‘그록(Grok)’이 당사자들의 동의 없이 그들을 포함한 아동 성착취 이미지를 생성했다고 주장했다. 이 소송은 금액이 명시되지 않은 손해배상금을 요구하는 동시에, 그록이 이러한 콘텐츠를 계속 생성하지 못하도록 즉각적인 금지명령을 신청하고 있다. 원고 세 명은 모두 익명을 선택했으며, 이 중 두 명은 미성년자이다.
소장에 따르면, 관련 사용자들이 그록의 이미지 처리 기능을 악용해 원고들의 사진을 조작하여 노출 또는 성폭력 내용을 담은 이미지를 제작했으며, 이를 사적 디스코드(Discord) 서버에서 유포했다. 피해자는 최소 18명의 미성년자를 포함한다. 한 원고는 익명의 인스타그램 DM을 받은 후 자신의 고등학교 졸업사진이 성적 암시 이미지로 변조된 사실을 알게 되었다.
원고측 변호사는 xAI가 그록의 ‘그록 이미진(Grok Imagine)’ 기능(‘탈의’ 옵션 포함)이 이러한 콘텐츠를 생성할 수 있음을 분명히 인지하고 있었음에도 불구하고 공개적으로 출시함으로써 그록 및 소셜미디어 플랫폼 X의 사용자 증가를 의도했다고 지적했다. ‘디지털 혐오 퇴치 센터(Center for Countering Digital Hate)’ 보고서에 따르면, 이 기능 출시 후 단 2주 만에 2만 장 이상의 미성년자를 성적으로 묘사한 이미지가 생성되었다.
