TechFlowの報道によると、3月18日、国際ビジネス・タイムズ（International Business Times）は、米カリフォルニア州連邦裁判所において、3人のティーンエイジャー女性がイーロン・マスク氏が設立したAI企業xAIを相手取り訴訟を提起したと伝えた。原告らは、同社のチャットボット「Grok」が当事者の同意を得ず、彼女たちを題材とした児童性的搾取画像を生成したとして、xAIを告発している。訴訟では、金額未定の損害賠償を求めており、またGrokによる此类画像の生成を即時停止する仮処分も申請している。3人の原告は全員匿名を希望しており、うち2人はまだ未成年である。
訴状によれば、関係ユーザーがGrokの画像処理機能を悪用し、原告の写真を改変して裸体または性的暴力を連想させる内容に加工し、プライベートなDiscordサーバー上で拡散していた。被害者は少なくとも18人の未成年者に及んでいる。そのうち1人の原告は、匿名のInstagramダイレクトメッセージを受け取ったことをきっかけに、自身の高校卒業写真が性的な含意を帯びた画像に改変されていたことに気づいたという。
原告の弁護士は、xAIがGrokの「Grok Imagine」機能（「衣服を脱がせる」オプションを含む）が此类画像の生成を可能であることを認識した上で、依然として一般公開を選択し、Grokおよびソーシャルメディアプラットフォーム「X」のユーザー数増加を図ろうとしていたと指摘している。デジタルヘイト撲滅センター（Center for Countering Digital Hate）の報告書によると、この機能がリリースされてから2週間の間に、未成年者を題材とした性的な画像が2万枚以上生成されたという。
お気に入りに追加
SNSで共有
