OpenAI a lancé, mardi, une version de ChatGPT réservée aux 13 à 17 ans, avec des garde-fous plus serrés. Quand l'agent conversationnel repère un jeune en détresse, il peut désormais alerter un parent, à condition que la famille se soit inscrite aux contrôles parentaux.

L'entreprise confirme cependant à Radio-Canada que rien ne change dans ses critères de décision pour transmettre un compte signalé aux forces de l'ordre, soit le processus qui est au cœur des poursuites intentées contre OpenAI aux États-Unis, dont celles de familles de Tumbler Ridge.

Pour Jon Festinger, chargé de cours à la faculté de droit Allard de l'Université de la Colombie-Britannique, une version dotée de garde-fous est probablement nécessaire sur le plan des relations publiques. L'entreprise espère vraisemblablement qu'elle limitera les recours judiciaires, ajoute-t-il.

Cette version filtre le contenu sensible, comme la violence graphique, les défis viraux risqués ou les jeux de rôle à caractère sexuel, peut-on lire sur le site de l'entreprise.

Un mode étudier offre des indices plutôt que des réponses toutes faites. Les parents peuvent fixer des plages horaires d'accès restreint, mais ils ne peuvent pas lire les conversations.

Une détection automatique de l'âge

OpenAI affirme avoir créé un modèle capable d'estimer l'âge réel d'un utilisateur, même s'il a menti lors de la création de son compte.

Le modèle examine une combinaison de signaux, comme les sujets de conversation, le langage et les heures de connexion pour déterminer si un compte appartient vraisemblablement à une personne de moins de 18 ans, indique Allison Mishkin, responsable du développement de l'enfant chez OpenAI.

Par exemple, si vous utilisez l'application uniquement entre 16 h et 20 h, vous êtes probablement un élève, illustre-t-elle.

Qu'un utilisateur se déclare mineur ou que le modèle le détecte comme tel, il obtient la version pour adolescents. Un adulte mal classé peut faire retirer les protections en téléversant une pièce d'identité.

Interrogée sur la fiabilité du système, Allison Mishkin confirme qu'OpenAI l'a bel et bien calculée, en comparant des utilisateurs dont l'âge est vérifié à ceux passés par la prédiction. Elle ne peut toutefois pas communiquer de chiffres précis.

C'est précisément ce que réclame Simona Gandrabur, responsable du studio de la sécurité de l'IA au Mila, l'institut québécois d'intelligence artificielle. Toutes ces mesures dépendent de la fiabilité de cette détection automatique de l'âge, dit-elle. Elle reconnaît qu'OpenAI a raison de s'attaquer au problème, mais réclame davantage de transparence.

Empêcher la dépendance émotive

Une autre mesure empêche l'agent de se dire humain ou d'évoquer des sensations physiques. Nous voulons que les adolescents comprennent clairement qu'il s'agit d'un agent conversationnel, pas d'une personne, assure Allison Mishkin.

Pour Simona Gandrabur, l'un des principaux dangers que représente l'IA pour les jeunes, c'est la dépendance émotive ainsi que la sycophantie, cette boucle qui confirme toujours nos propres émotions, nos propres opinions et nous louange sur notre pensée.

Vered Shwartz, professeure adjointe d'informatique à l'Université de la Colombie-Britannique, doute que les garde-fous tiennent.

Les adolescents sont intelligents et doués en technologie, donc s'ils veulent obtenir des informations d'un chatbot qui refuse de les fournir au début, ils trouveront des moyens de le contourner, ou utiliser d'autres chatbots qui n'ont pas cette prévention.

Elle doute aussi de la volonté d'OpenAI de freiner la dépendance émotive, puisque l'entreprise a intérêt à ce qu'on utilise son produit le plus possible.

Son collègue Alan Mackworth, professeur émérite d'informatique, y voit lui aussi un premier pas nettement insuffisant. Ces entreprises [...] essaient désespérément de rattraper leur retard. Il y a beaucoup de dommages qu'elles causent déjà et qu'elles ont déjà causés. regrette-t-il.

Les normes de sécurité devraient être publiées, appliquées et vérifiées par un tiers, plaide-t-il, plutôt que laissées à la discrétion des entreprises.

Un projet de loi déposé

Le cabinet du ministre responsable de l'intelligence artificielle, Evan Solomon, abonde dans le même sens. Il salue les efforts de l'industrie, mais prévient que la sécurité des jeunes en ligne ne peut pas reposer uniquement sur des initiatives volontaires prises par des entreprises individuelles. Ottawa rappelle avoir déposé en juin un projet de loi visant les agents conversationnels.

Marquée par la tragédie de Tumbler Ridge, la Colombie-Britannique est plus sévère. L'autoréglementation des entreprises technologiques a échoué, écrit le ministère du Procureur général, qui estime qu'on ne peut plus les laisser faire des expériences sur de jeunes esprits vulnérables.

Victoria juge le projet de loi fédéral prometteur, mais doute de son efficacité dans la pratique et de la rapidité de sa mise en œuvre. La Colombie-Britannique continue de réclamer un seuil national précisant quand les entreprises doivent signaler aux forces de l'ordre les menaces crédibles.

L'an dernier, OpenAI avait repéré puis banni le compte de la personne qui a ouvert le feu à Tumbler Ridge, le 10 février dernier. L'entreprise américaine n'avait pas prévenu la police, estimant que le signalement ne satisfaisait pas ses critères internes.

Des familles de victimes poursuivent depuis l'entreprise et son PDG, Sam Altman, devant un tribunal fédéral de San Francisco. Ces allégations n'ont pas encore été testées devant les tribunaux.