La situation est grave, alerte l'ONG américaine Common Sense Media. La diffusion en masse des contenus générés par intelligence artificielle (IA) a des effets plus que néfastes sur les jeunes qui y sont exposés. C'est particulièrement le cas pour les contenus à caractère sexuel –comme les deepfakes de nudes– ou pornographique, créés à partir d'images de personnes réelles. Le tout se joue à un moment clé où les adolescents sont eux-mêmes confrontés à leurs premières relations amoureuses et sexuelles.

Dans l'étude réalisée par l'organisation Common Sense Media, des chercheurs ont analysé la manière dont 1.314 adolescents âgés de 13 à 17 ans interagissent avec ces publications générées par les nouvelles technologies. Ils se sont basés autant sur des interviews que sur les échanges lors de groupes de discussion. «Une grande partie des adolescents sont exposés à ce type de contenus, indique Supreet Mann, coauteur de la recherche. Ils créent et partagent eux-mêmes ce contenu. Quand ils le font, il s'agit très souvent de personnes qu'ils connaissent ou d'eux-mêmes.»

Selon l'étude relayée par Futurism, près de la moitié des élèves scolarisés au collège et au lycée ont déjà vu des contenus à caractère sexuel générés par IA sur les réseaux sociaux, souvent par hasard. 64% d'entre eux ont reconnu des célébrités sur ces images. Près d'un quart ont indiqué que ces contenus les représentaient eux-mêmes ou une personne de leur entourage. Seulement 8% des interrogés ont admis avoir créé eux-mêmes ce type de deepfakes.

La prolifération de ces contenus sur le web crée naturellement de l'anxiété chez les jeunes, poussant certains à changer peu à peu leur comportement en ligne. 40% des adolescents ont par exemple passé leur profil sur les réseaux sociaux en privé et ont limité les partages, certains sont même allés jusqu'à supprimer leurs comptes.

La responsabilité des adolescents?

«C'est très révélateur de la façon dont les jeunes perçoivent ces contenus et de leur sentiment de manque d'autonomie sur internet, réagit Supreet Mann. Et même s'il est positif que les jeunes adoptent une réflexion critique sur leur présence en ligne, en l'état actuel des choses, la responsabilité de faire face à l'afflux de deepfakes repose essentiellement sur leurs épaules.»

Il y a de quoi s'inquiéter. En quelques clics, on peut ouvrir une application de «nudification» sur son smartphone et déshabiller artificiellement une personne sans son consentement. Sans surprise, les jeunes filles sont les principales cibles. Certaines révèlent d'ailleurs souffrir de crises d'angoisse, voire de pensées suicidaires, et ont de plus en plus de mal à faire confiance à leurs pairs.

Si certains jeunes créateurs de contenus pornographiques ont été arrêtés, c'est loin d'être une généralité. En Louisiane, aux États-Unis, une jeune fille de 13 ans a été expulsée de son école après avoir confronté un camarade de classe qui avait diffusé des deepfakes d'elle et de ses amies. Elle avait d'abord tenté d'alerter l'établissement qui n'a pas sanctionné le responsable, selon la famille qui a porté plainte.

Comme cette jeune victime, 20% des adolescents déclarent vouloir parler de ces sujets avec un adulte de confiance, selon l'étude. Un jeune sur dix préfère en discuter avec un chatbot. Il peut toutefois être difficile de trouver les bons mots pour aborder le sujet. «Il y existe une occasion unique pour les parents d'aborder ces discussions avec leurs enfants et de ne pas repousser ce moment, souligne Supreet Mann. Nous ne voulons pas que nos enfants se tournent vers des chatbots basés sur l'IA pour discuter, ni qu'ils renoncent tout simplement à en parler.»

Les parents, les écoles, les personnalités politiques, les entreprises de la tech: le problème concerne tout le monde. Une première mesure pour limiter la création de ces images serait de supprimer les applications de nudité de l'App Store et de Google Play. C'est précisément ce que la ville de San Fransisco a demandé aux géants technologiques le 16 juillet.

En attendant une action concrète, les adolescents continuent de subir l'impact des contenus pornographiques sur leur vie personnelle. «Nous avons grandi en même temps que l'IA. Les adultes n'ont pas la même expérience de la vie que nous, confie une adolescente de 17 ans. Ils ne comprennent pas à quel point l'IA est avancée et puissante.»