Afin de permettre aux plus jeunes d’« utiliser l’intelligence artificielle [IA] en toute confiance », OpenAI lance mardi « ChatGPT pour les adolescents », un nouvel ensemble de réglages censé protéger les mineurs qui utilisent la populaire plateforme d’agent conversationnel en appliquant davantage de garde-fous.

La version de ChatGPT consacré à l’utilisation par des jeunes s’activera désormais automatiquement si OpenAI estime qu’un utilisateur à moins de 18 ans (via les habitudes d’usages ou d’autres signes comme l’ancienneté du compte) ou si l’âge est indiqué être entre 13 et 17 ans.

Dans sa publication détaillant la nouvelle fonctionnalité, OpenAI soutient que lorsqu’un adolescent va utiliser ChatGPT, ses modèles d’IA génératives vont automatiquement appliquer « des mesures de sécurité adaptées à leur âge afin de limiter leur exposition à des contenus potentiellement nuisibles ou inadaptés à leur développement, tout en préservant leur capacité à apprendre, créer et explorer ».

L’entreprise cite des sujets comme l’automutilation, la violence, les troubles alimentaires, les activités dangereuses et le contenu sexuel ou graphique comme « domaines à haut risque » à éviter avec les utilisateurs plus jeunes.

L’IA s’identifie plus clairement

Les discussions avec les robots conversationnels vont aussi inclure « des rappels de pause pour les encourager à s’éloigner de l’application et des indications claires qui identifient systématiquement ChatGPT comme une intelligence artificielle ».

La voix sera ainsi désactivée et les modèles ne devraient plus laisser entendre qu’ils éprouvent des « sentiments » ou disposent d’une « conscience ».

La majorité de ces fonctionnalités et garde-fous — comme le « mode étude » qui préconise un échange de questions plutôt qu’une réponse directe ou la possibilité d’empêcher l’accès pendant une plage horaire prédéfinie — étaient déjà disponibles, mais étaient réservées aux comptes identifiés comme mineurs.

« Nous pensons que l’IA doit élargir les opportunités éducatives, c’est pourquoi nous avons conçu ChatGPT pour les adolescents, afin de soutenir les adolescents dans les moments hors de la salle de classe où l’aide n’est pas toujours disponible, tout en maintenant leur engagement dans un processus d’apprentissage actif et collaboratif », détaille OpenAI.

D’autres plateformes d’IA générative, comme Claude d’Anthropic ou Characther.AI limitent leur utilisation aux personnes majeures, tandis que Gemini, de Google, dispose de son propre lot de restrictions pour ses utilisateurs mineurs.

Plusieurs familles ont entamé des poursuites contre OpenAI en lien avec la santé mentale de jeunes et leur utilisation de ChatGPT.

Au Canada, sept familles de victimes de la fusillade de Tumbler Ridge, survenue en février dernier, ont notamment poursuivi la maison mère du robot conversationnel pour la « tenir […] responsable de son mépris flagrant pour la sécurité publique et de son attitude désinvolte envers la vie de nos enfants et de nos proches ».

Environ huit mois avant la tuerie survenue en février dernier, OpenAI avait interdit à la tireuse d’utiliser son robot conversationnel en raison d’interactions inquiétantes, mais n’avait pas alerté les forces de l’ordre avant les meurtres.