Le tribunal d’Amsterdam a interdit jeudi au réseau social X et à Grok, l’assistant d’intelligence artificielle d’Elon Musk, de générer et de diffuser des images « dénudant » des personnes sans leur consentement, ainsi que du contenu pédocriminel.

Tant que l’activité de Grok ne se conformera pas à ces interdictions, X se voit également interdit de proposer les services de son assistant d’IA aux Pays-Bas.

Offlimits, un centre d’expertise néerlandais sur les violences en ligne, a poursuivi en justice les plateformes à la suite de l’introduction il y a quelques mois d’une fonctionnalité dans Grok qui permet aux utilisateurs de lui demander de créer des montages hyperréalistes (ou deepfakes) de femmes et d’enfants dénudés, à partir de photos réelles.

Grok et X ont affirmé vouloir lutter contre ce type d’images en incluant des interdictions dans leurs conditions d’utilisation et ont dit avoir pris des mesures pour empêcher la génération et la diffusion de ce contenu.

« Selon le juge, Offlimits a suffisamment démontré l’existence d’un doute raisonnable quant à l’efficacité des mesures prises », a indiqué le tribunal d’Amsterdam sur son site Internet.

« À titre d’exemple, Offlimits a réussi à produire une vidéo de personne dénudée en utilisant Grok peu avant l’audience », peut-on lire.

L’interdiction porte sur la génération d’images de personnes résidant aux Pays-Bas ainsi que la production et la diffusion d’images dans le pays.

Toute violation de l’interdiction sera punie d’une amende de 100 000 euros par jour (159 741$ environ), plafonnée à 10 millions d’euros (15,9 millions en dollars canadiens), en cas de violation de cette interdiction.

Plus tôt jeudi, le Parlement européen a approuvé l’interdiction dans l’UE des services d’intelligence artificielle permettant de dénuder des personnes sans leur consentement. La mesure a été intégrée à un texte adopté à une majorité écrasante (569 voix pour, et 45 contre), lors d’une séance plénière à Bruxelles.