Meta Platforms dit avoir lancé de nouveaux outils destinés à alerter les parents et les premiers répondants canadiens lorsque des jeunes présentent un risque de suicide ou d’automutilation. (Photo d'archives)

Photo : iStock/Getty Images

Meta Platforms – l’entreprise à qui l'on doit Facebook, Instagram, WhatsApp et Messenger – dit avoir lancé de nouveaux outils destinés à alerter les parents et les premiers répondants canadiens lorsque des jeunes présentent un risque de suicide ou d’automutilation, mais au moins une experte estime que ces outils ne sont pas infaillibles.

Ces nouvelles mesures permettent d’alerter les parents, par les outils de contrôle parental d’Instagram, si leur adolescent aborde le sujet du suicide ou de l’automutilation avec l’agent conversationnel Meta AI.

Le géant technologique met également en place un système permettant de contacter les services d’urgence lorsque les conversations entre adultes et adolescents avec Meta AI laissent croire que ces derniers pourraient être en danger de se donner la mort.

Shauna Pomerantz, professeure spécialisée dans les études sur l’enfance et la jeunesse à l’Université Brock, en Ontario, estime que ces mesures constituent un pas dans la bonne direction, car on a recensé plusieurs cas de jeunes utilisant les réseaux sociaux pour parler d’automutilation.

Elle ajoute toutefois que les jeunes sont débrouillards, et elle soupçonne qu’ils trouveront le moyen de contourner ces mesures en utilisant un langage codé en ligne.

Les nouvelles fonctionnalités de Meta interviennent alors que le gouvernement fédéral s’apprête à adopter une nouvelle législation visant à établir des exigences de sécurité pour les réseaux sociaux et les services d’agents conversationnels basés sur l’intelligence artificielle (IA).