Résumer l'article

L’étau se resserre sur X, entre l’enquête formelle ouverte au Royaume-Uni le 12 janvier 2026 pour génération d’images à caractère sexuel à l’aide du chatbot d’intelligence artificielle Grok, et la suspension pure et simple du réseau social en Malaisie et en Indonésie décidée la veille pour le même motif. Dans ce contexte, le média américain 404 a révélé le 7 janvier l’existence d’une chaîne Telegram sur laquelle pullulent les astuces pour produire des contenus extrêmes à l’aide du robot conversationnel.

Contourner sans mots interdits

Une armée de l’ombre composée de plusieurs milliers d’utilisateurs s’acharne à pousser Grok au-delà de ses garde-fous. Ainsi ses membres partagent-ils des vidéos générées à l’aide de l’IA impliquant de vraies femmes dans des scènes sexuelles explicites — fellations, étranglement ou encore bondage — fabriquées sans consentement. Fermée puis rouverte à répétition ces deux dernières années, la chaîne s’est convertie en atelier de contournement d’outils d’intelligence artificielle et depuis novembre, elle ne vit presque plus que pour le chatbot d’Elon Musk, également à la tête de Tesla et SpaceX.

Au début, les détournements reposaient sur des ficelles grossières : des consignes ambiguës, sans mots explicitement abusifs mais assez descriptifs, destinées à passer sous les radars des filtres. Cette ruse a suffi à produire des images sexuelles non consensuelles de célébrités comme la chanteuse Taylor Swift, avant de se propager massivement sur les réseaux et que la faille ne soit corrigée par différentes plateformes d’IA.

Cet utilisateur a répondu sous la photo d’une femme sur X demandant à Grok de « tout enlever ». // Source : Capture d’écran

La modération perd la main

Désormais, les prédateurs sexuels du web s’appuient notamment sur la modification d’images existantes. La modération devient alors plus difficile puisqu’elle s’appuie sur de la vision par ordinateur et non sur du filtrage textuel.

Quelle que soit la tentative de modération, elle est instantanément pulvérisée par des hackers qui ont fait de Grok leur usine à contenus non consensuels. Dans ce contexte, les équipes de xAI, qui gèrent l’outil d’IA, donnent l’impression de manquer de moyens ou de volonté pour empêcher leur modèle de générer des contenus non consensuels. Conclusion : dans la guerre de l’éthique, les débrideurs ont pris le pouvoir, et Grok a perdu la face.