Instagram et la protection des adolescents : une promesse non tenue ?

Instagram promet aux parents que ses comptes pour adolescents protègent les jeunes des contenus préjudiciables « par défaut ». Des tests menés par une association de la Génération Z ont révélé des lacunes importantes.

Au printemps dernier, un lycéen a créé un compte Instagram test pour un adolescent fictif de 16 ans. Depuis l’automne dernier, tous les comptes utilisés par les adolescents sont censés filtrer automatiquement les contenus « sensibles », entre autres protections, pour la santé mentale et la sécurité.

Pendant deux semaines, le compte test a reçu des recommandations de contenus sexuels explicites. Au moins 28 Reels Instagram décrivaient des actes sexuels, y compris la pénétration numérique, l’utilisation d’un sextoy et des mèmes décrivant le sexe oral. Le compte Instagram est devenu préoccupé par des discussions sur la « masculinité toxique » concernant « ce que les hommes devraient et ne devraient pas faire ».

Quatre autres testeurs de la Génération Z ont mené la même expérience, et tous ont reçu des recommandations de contenus sexuels. Quatre des cinq ont également reçu des contenus sur l’image corporelle et les troubles de l’alimentation, comme une vidéo d’une femme disant « être mince est un style de vie, pas une phase ».

Les jeunes ont également été exposés à de l’alcool, de la drogue, de la haine et d’autres contenus dérangeants.

Il est clair que l’on ne peut pas se fier aux comptes Instagram pour adolescents pour protéger réellement les jeunes. Le danger n’est pas seulement les mauvaises personnes sur Internet, c’est aussi l’algorithme de recommandation de l’request, qui décide de ce que vos enfants voient et a la fâcheuse habitude de les entraîner dans des directions sombres.

les échecs des efforts volontaires d’Instagram en disent long sur sa responsabilité.

Lorsqu’on a présenté le rapport du groupe au propriétaire d’Instagram, Meta, il a déclaré que les jeunes testeurs étaient biaisés et qu’une partie de ce qu’ils avaient signalé était « inattaquable » ou conforme à « l’humour d’un film PG-13 ».

Un rapport fabriqué ne change rien au fait que des dizaines de millions d’adolescents vivent désormais une expérience plus sûre grâce aux comptes Instagram pour adolescents.

Une porte-parole de Meta

Le rapport est imparfait, mais même pris au pied de la lettre, il n’a identifié que 61 éléments de contenu qu’il juge « sensibles », soit moins de 0,3 % de l’ensemble du contenu que ces chercheurs auraient probablement vu pendant le test.

les testeurs de la Génération Z reconnaissent certaines limites à leur expérience, notamment la petite taille de l’échantillon, la courte période de deux semaines et l’utilisation de nouveaux comptes pour représenter des adolescents hypothétiques. Les gens peuvent être en désaccord sur ce qui compte comme « sensible », bien que les définitions de Meta incluent le contenu « sexuellement explicite ou suggestif », « qui traite d’automutilation, de suicide ou de troubles de l’alimentation » ou « qui promeut l’utilisation de certains produits réglementés, tels que le tabac ou les produits de vapotage ».

Des tests ont été répétés et les résultats ont été pires. Dans les 10 premières minutes du compte test pour adolescent, Instagram a recommandé une vidéo célébrant un homme qui s’était évanoui après avoir trop bu d’alcool. Une autre présentait une bague avec une minuscule cuillère commercialisée pour distribuer une « dose » de tabac à priser,mais également associée à la cocaïne. les recommandations du compte se sont transformées en une véritable obsession pour l’alcool et les produits à base de nicotine, apparaissant aussi souvent qu’une fois tous les cinq Reels visionnés.

Les adolescents ne sont pas naïfs sur des sujets comme le sexe, la drogue et les troubles de l’alimentation.Mais le fait de les voir à plusieurs reprises sur Instagram, sélectionnés par l’application, a un impact.

L’algorithme façonne votre perception de ce qui est acceptable d’une manière que je n’avais pas réalisée auparavant.

Un lycéen

Malgré certaines parties des comptes pour adolescents qui fonctionnent, la promesse globale « ne semble pas avoir été tenue d’une manière significative qui change votre expérience ».

Ce qui a fonctionné et ce qui n’a pas fonctionné

Le but du test de la Génération Z était d’évaluer indépendamment si les comptes pour adolescents tenaient leurs promesses.

Nous pensons qu’aller directement à l’utilisateur, aller directement à ceux qui peuvent attester directement de ce qu’ils voient au quotidien est une véritable clé de l’efficacité.

Une directrice de campagne

FAQ : Instagram et la protection des adolescents

Q : Quelle est la promesse d’Instagram en matière de protection des adolescents ?

R : Instagram promet de protéger les jeunes utilisateurs des contenus préjudiciables “par défaut” grâce à des mesures de sécurité spécifiques aux comptes adolescents.

Q : Qu’ont révélé les tests effectués par l’association de la Génération Z ?

R : Les tests ont révélé des lacunes importantes dans la protection des adolescents, notamment l’exposition à des contenus sexuels explicites, des images liées à l’image corporelle et aux troubles de l’alimentation, ainsi que des contenus liés à l’alcool, à la drogue et à la haine.

Q : Qu’est-il arrivé lors du test mené avec un compte adolescent fictif ?

R : Le compte test a reçu des recommandations de contenus sexuels explicites dès le début, ainsi que des contenus sur la “masculinité toxique”. D’autres tests ont révélé des recommandations problématiques,telles que des vidéos promouvant l’alcool.

Q : Quelle a été la réaction de Meta, le propriétaire d’Instagram, face aux résultats des tests ?

R : Meta a déclaré que les testeurs étaient biaisés et que certains contenus signalés étaient inoffensifs.Ils ont également souligné que les tests n’avaient identifié qu’une faible proportion des contenus comme étant “sensibles”.

Q : Quels sont les dangers potentiels pour les adolescents sur Instagram ?

R : Les dangers incluent l’exposition répétée et ciblée à des contenus préjudiciables, façonnant potentiellement la perception de ce qui est acceptable. L’algorithme de recommandation est pointé du doigt pour ces dérives.

Q : Que disent les testeurs de la Génération Z à propos de l’expérience ?

R : Ils reconnaissent certaines limites à leur test,mais voient que l’algorithme façonne la perception de ce qui est acceptable et que la promesse de protection d’Instagram n’est pas respectée.

Q : Que se passe-t-il dans les premières minutes d’un compte test ?

R : Dans le test de la Génération Z , dans les 10 premières minutes, Instagram a recommandé une vidéo célébrant un homme s’étant évanoui après avoir trop bu d’alcool. Une autre présentait une bague avec une bague avec une minuscule cuillère, associée à de la cocaïne.

Related