Des mineurs poursuivent en justice xAI d'Elon Musk pour des contenus pédopornographiques générés par Grok

Trois adolescents du Tennessee ont déposé une action en justice collective contre xAI, la société d'intelligence artificielle d'Elon Musk, accusant le chatbot Grok d'avoir généré des images et vidéos sexualisées les représentant alors qu'ils étaient mineurs. La plainte, déposée ce lundi, constitue une mise en cause directe de la direction de l'entreprise, incluant Musk lui-même.

L'affaire soulève une question fondamentale sur la responsabilité des créateurs de modèles d'IA génératifs face aux contenus illicites produits par leurs systèmes. La génération de matériel d'abus sexuel sur enfants (CSAM) par une IA grand public représente l'un des risques les plus graves identifiés par les régulateurs et les défenseurs de la protection de l'enfance — et ce cas illustre concrètement ce danger.

Les plaignants, dont deux mineurs et un adulte qui était mineur au moment des faits, affirment que xAI était consciente que Grok pourrait produire ce type de contenu lors du lancement de son "spicy mode" l'année dernière. L'une des victimes, identifiée comme "Jane Doe 1", indique avoir découvert en décembre dernier l'existence d'images explicites générées par l'IA à son effigie. La plainte accuse les dirigeants d'avoir délibérément ignoré ces risques au moment du déploiement.

Cette procédure s'inscrit dans un contexte de pression croissante sur les plateformes tech américaines concernant la protection des mineurs en ligne. xAI n'a pour l'heure pas commenté publiquement la plainte, initialement rapportée par le Washington Post.