Et si ChatGPT connaissait votre âge sans vous le demander ? Dans les prochaines semaines, l’outil d’intelligence artificielle va commencer à estimer l’âge de ses utilisateurs. Une nouveauté présentée comme un moyen de mieux protéger les mineurs, alors que les usages de l’IA par les adolescents inquiètent de plus en plus.

« Nous déployons la prédiction de l’âge sur ChatGPT pour aider à déterminer quand un compte appartient probablement à une personne de moins de 18 ans, afin de pouvoir mettre en place l’expérience et les protections adéquates pour les adolescents », a ainsi annoncé l’entreprise américaine sur le réseau X, ce jeudi 22 janvier.

« Cet outil est déployé à travers le monde. Dans l’Union européenne, la prédiction de l’âge sera disponible dans les prochaines semaines pour tenir compte des exigences régionales », a ensuite précisé OpenAI sur son site. Ce nouveau dispositif devra en effet se conformer aux différentes réglementations européennes sur le numérique et la protection des données.

Combinaison de signaux

Concrètement, l’outil d’OpenAI va examiner une combinaison de signaux, notamment la durée d’existence du compte, les sujets de conversations, les moments de la journée où l’utilisateur se connecte ou encore l’âge déclaré, a expliqué l’entreprise. Si la start-up estime qu’un compte appartient à un mineur, ChatGPT appliquera automatiquement « des mesures de protection supplémentaires conçues pour réduire l’exposition à des contenus sensibles », a-t-elle ajouté.

L’agent conversationnel ne montrera alors pas de contenus sanglants ou violents, n’autorisera pas les jeux de rôle à caractère sexuel, romantique ou violent, et rejettera les défis viraux qui incitent à des comportements dangereux. L’outil refusera également les représentations d’automutilation et neutralisera les contenus promouvant des normes de beauté extrêmes, des régimes alimentaires malsains ou la honte corporelle, rapporte Numerama.

Le lancement de ce dispositif survient dans un contexte marqué par une série de suicides d’adolescents ayant noué des relations fictives intimes avec des chatbots d’IA aux Etats-Unis. De nombreux pays européens comme la France cherchent de leur côté à renforcer la protection des mineurs en ligne, notamment sur les réseaux sociaux, Bruxelles ayant lancé une réflexion sur la mise en place d’une majorité numérique à l’échelle de l’UE.