深潮 TechFlow 消息，01 月 03 日，據 Reuters、FT 等媒體報道，Elon Musk 旗下 xAI 的聊天機器人 Grok 近期被指可生成對女性及未成年人的性化圖像，引發國際層面的監管審查。路透社在 X 平臺上發現 20 餘起案例，顯示用戶利用 Grok 對圖片進行“數字脫衣”，對象涵蓋女性與男性。

監管進展方面，法國多名政府部長已將相關內容移交檢方，並要求國家媒體監管機構評估 Grok 是否符合歐盟《數字服務法》（DSA）；印度信息技術部則向 X 印度分支發函，指其未能有效防止 Grok 被濫用，並要求 3 天內提交整改行動報告。

對此，Grok 官方賬號回應稱 “CSAM（未成年人性虐待內容）非法且被禁止”，並承認安全防護存在漏洞，表示正在推進修復；xAI 方面目前公開表態有限。