Ajouter Le Figaro
à vos sources préférées

C’est une histoire terrible, racontée par nos confrères du Washington Post, et qui illustre une fois de plus les risques liés à l’intelligence artificielle. À partir d’une simple photographie de sa belle fille du Wyoming âgée de onze ans, allongée rêveusement sur son canapé dans un t-shirt bien trop grand, un Américain a généré plus de 7000 images de l’enfant artificiellement dénudé. Un contenu pédopornographique obtenu sur simple demande auprès de l’intelligence artificielle Grok, développée par xAI, l’entreprise d’Elon Musk, et dont certaines images ont même été publiées sur internet.

Quelques jours après la perquisition de la police locale pour fouiller les disques durs de son beau-père, le pédocriminel s’est suicidé dans sa propre voiture, détaille le Washington Post. La jeune femme, dont le nom n’est pas divulgué, ne compte toutefois pas en rester là. Elle a rejoint en juillet une plainte fédérale contre xIA lancé par trois adolescentes du Tenessee, dont deux sont encore mineures, toutes anonymisées derrière les pseudonymes Jane Doe 1, 2 et 3. Toutes ont souffert des mauvais usages de cet IA et affirment que des photos d’elles prises lorsqu’elles étaient mineures ont été transformées en images sexuellement explicites.

Passer la publicité

Les plaignantes souhaitent que l’affaire, portée au tribunal fédéral du district nord de la Californie, soit reconnue comme une action collective qui dénonce la création d’images pédopornographiques à partir de l’intelligence artificielle Grok. Le combat que mènent ces plaignantes est notamment soutenu par la loi fédérale Masha, qui permet aux victimes de «pornographie infantile» (child pornography) de demander des dommages et intérêts.

À lire aussi L'UE réautorise la détection d’images pédopornographiques par les plateformes, sauf dans les échanges chiffrés

La question de la responsabilité 

À ce jour, le conglomérat Space X, auquel appartient xIA n’a pas répondu au tribunal californien. Pourtant, si ces images ont pu être librement générées, c’est notamment grâce à la politique d’Elon Musk qui a encouragé l’utilisation de son IA Grok pour créer du contenu sexuel, contrairement à ses concurrents. Le milliardaire a d’ailleurs comparé son autorisation à mettre en scène «la nudité du haut du corps de personnages humains adultes imaginaires» aux images artistiques que l’on peut voir dans les films interdits aux moins de 17 ans.

Le débat résonne fortement avec celui, plus général, des limites du premier amendement, aux États-Unis, qui protège la liberté d’expression. Les responsabilités juridiques sont floues, lors de la production de contenus pédopornographiques via l’IA, estime ainsi un professeur de droit cité par le Washington Post.

En Europe aussi, des enquêtes avaient été lancées par des parlementaires après que plusieurs milliers d’images de personnes dénudées ont été postées sur le réseau social X, également propriété d’Elon Musk. En l’espace de 11 jours, environ 3 millions d’images sexualisées ont été publiées par Grok, dont 23.000 représentant des enfants, selon le Center for Countering Digital Hate, une ONG qui fait pression sur les entreprises technologiques pour qu’elles assainissent leurs plateformes. L’outil d’IA d’Elon Musk aurait produit «environ 190 images sexualisées générées par les utilisateurs par minute, sur une période de 11 jours», détaille l’ONG.