Le premier ministre de la Colombie-Britannique, David Eby, et sa ministre de la Justice, Niki Sharma, demandent aux élus à Ottawa d'adopter rapidement le projet de loi du gouvernement de Mark Carney qui obligerait les réseaux sociaux à restreindre l'accès aux jeunes de moins de 16 ans.

Ottawa précise tout de même que ces plateformes peuvent obtenir une exemption si elles ont mis en place des mesures de protection suffisantes.

En plus de la restriction liée à l'âge, la nouvelle loi d'Ottawa prévoit d'imposer de nouvelles mesures visant les compagnies qui utilisent des robots conversationnels, comme l'élaboration de protocoles d'intervention en cas de crise.

Par contre, le projet de loi n'oblige pas les entreprises à signaler les interactions violentes aux forces de l'ordre, ce qu'avait pourtant demandé la Colombie-Britannique.

Cette demande de signaler les interactions violentes à la police est née de la tuerie dévastatrice dans la communauté de Tumbler Ridge. La tireuse a utilisé la plateforme ChatGPT quelques mois avant la tragédie. Un de ses comptes a été bloqué par la compagnie OpenAI sans prévenir les autorités canadiennes.

Niki Sharma, qui s'est entretenue mercredi avec le ministre de la Culture et de l'Identité canadiennes, Marc Miller, après le dépôt du projet de loi, a fait savoir à son collègue que ce n'était pas suffisant.

Il [Marc Miller] m'a répondu qu'il envisageait des mesures de transparence et des lignes directrices très claires que l'organisme de réglementation mettra en place. Cela n'est pas à la hauteur de ce que nous avions demandé.

C'est un des points aussi soulevés par des groupes de jeunes britanno-colombiens, comme le groupe Gen(Z)AI de l'Université Simon Fraser.

Liam McKay-Argyriou, un étudiant et membre de ce groupe, s'est rendu à Ottawa en avril pour partager des recommandations. Il estime que les compagnies qui utilisent des robots conversationnels dotés d'intelligence artificielle doivent être transparentes quant à la manière dont leurs robots utilisent et fournissent de l'information.

Nous n'avons pas l'impression de toujours pouvoir comprendre d'où l'intelligence artificielle tire ses informations et nous n'avons pas l'impression d'avoir le contrôle sur la façon dont nous interagissons avec elle.

Le projet de loi s'attaque aussi à sept types de contenus, comme les publications poussant les mineurs à l'automutilation, celles qui promeuvent la haine ou la violence, ainsi que le partage non consensuel de matériel intime.

Un organisme réglementaire qui a du mordant?

Pour superviser les nouvelles règles, le projet de loi mènerait à la création d'un nouvel organisme, soit la Commission de la sécurité numérique du Canada.

La ministre Niki Sharma précise que beaucoup d'éléments reposent sur la Commission qui devra déterminer notamment les paramètres d'un algorithme qui portent préjudice aux jeunes et quel type de rapport les compagnies devront fournir au nouvel organisme.

L'une des choses que je vais suivre sera les normes qui seront éventuellement établies [par la Commission] et si elles se pencheront réellement sur les algorithmes addictifs.

Mme Sharma croit aussi que les provinces devraient participer à l'élaboration du nouvel organisme et des règles qu'il doit établir afin de s'assurer qu'il y ait des normes claires pour que l'organisme et le commissaire aient un mandat fort, explique-t-elle.

C'était aussi l'une des recommandations du groupe Gen(Z)AI, une initiative du projet Dialogue on Technology, fondé par l'étudiant Fergus Linley-Mota.

Selon lui, la Commission doit être indépendante et doit avoir du mordant pour forcer les compagnies à changer leur algorithme afin qu'il soit sécuritaire, non seulement pour les jeunes, mais aussi pour les adultes.

Le projet de loi nous permet de nous attaquer à la conception même de ces plateformes, car les compagnies devront prouver qu'elles sont sécuritaires pour les moins de 16 ans. Parce que vous ne serez pas prêts à y faire face une fois que vous aurez 17 ans. Et le commissaire doit s'assurer que les algorithmes changent.

Cela fait plusieurs mois que la Colombie-Britannique demande à Ottawa d'adopter une loi pour réglementer les médias sociaux, ainsi que les robots conversationnels alimentés par l'intelligence artificielle.

En mars dernier, Niki Sharma s'est également rendue à Ottawa afin de faire pression sur ses homologues pour qu'un projet de loi soit déposé lors de cette session parlementaire.

Lors d'un point de presse en 2024, la ministre de la Justice de la Colombie-Britannique, Niki Sharma, était accompagnée des parents de Carson Cleland, un jeune de Prince George qui s'est enlevé la vie en octobre 2023.

Photo : Radio-Canada / Ben Nelms

Elle a également envoyé une lettre officielle au gouvernement fédéral en avril pour y offrir plusieurs recommandations, dont l'importance de s'attaquer à l'algorithme même qui est élaboré pour garder les jeunes rivés sur leurs écrans.