TechFlow rapporte que, le 18 mars, trois adolescentes ont intenté une action en justice contre xAI, la société d’intelligence artificielle dirigée par Elon Musk, devant un tribunal fédéral californien, selon un article du *International Business Times*. Elles accusent le chatbot Grok d’avoir généré, sans leur consentement, des images exploitant sexuellement des mineures les représentant. La plainte réclame des dommages-intérêts d’un montant non précisé et sollicite une injonction immédiate afin d’interdire à Grok de continuer à produire ce type de contenu. Les trois plaignantes ont choisi de rester anonymes ; deux d’entre elles sont encore mineures.
La plainte indique que certains utilisateurs ont détourné la fonction de traitement d’images de Grok pour altérer des photos des plaignantes, les transformant en contenus montrant des personnes nues ou subissant des violences sexuelles, puis diffusés sur un serveur Discord privé. Au moins 18 mineurs auraient été victimes de ces agissements. L’une des plaignantes a découvert, après avoir reçu un message privé anonyme sur Instagram, qu’une photo de son diplôme de fin d’études secondaires avait été modifiée pour y ajouter des connotations sexuelles.
Les avocats des plaignantes soulignent que xAI était pleinement consciente que la fonction « Grok Imagine » de Grok — incluant une option permettant de « retirer les vêtements » — pouvait générer ce type de contenus, mais a tout de même choisi de la publier publiquement dans le but de stimuler la croissance d’utilisateurs de Grok et de la plateforme sociale X. Selon un rapport du « Centre de lutte contre la haine numérique », plus de 20 000 images sexualisées impliquant des mineurs auraient ainsi été générées au cours des deux semaines suivant le lancement de cette fonctionnalité.
