TechFlow rapporte que le 3 janvier, selon des médias tels que Reuters et le Financial Times, le chatbot Grok de xAI, propriété d'Elon Musk, a récemment été accusé de pouvoir générer des images sexualisées de femmes et de mineurs, déclenchant un examen réglementaire au niveau international. Reuters a identifié plus de 20 cas sur la plateforme X, montrant que des utilisateurs utilisaient Grok pour "déshabiller numériquement" des images, ciblant à la fois des femmes et des hommes.
Concernant les avancées réglementaires, plusieurs ministres du gouvernement français ont transmis les contenus concernés au parquet et ont demandé à l'autorité de régulation des médias d'évaluer si Grok est conforme au Digital Services Act (DSA) de l'Union européenne ; le ministère indien des Technologies de l'Information a quant à lui adressé une lettre à la filiale indienne de X, soulignant son incapacité à empêcher efficacement l'abus de Grok, et exigeant la soumission d'un rapport d'actions correctives sous 3 jours.
En réponse, le compte officiel de Grok a déclaré que "le CSAM (contenu d'abus sexuel sur mineurs) est illégal et interdit", reconnaissant des failles dans les mesures de sécurité et indiquant que des correctifs étaient en cours ; xAI a pour l'instant peu communiqué publiquement sur le sujet.
