En tant que journaliste spécialisé dans les nouvelles technologies et leur impact sur la société, je suis de plus en plus sollicité sur le sujet de l’intelligence artificielle appliquée à la santé mentale. L’essor de ChatGPT et d’autres grands modèles linguistiques (LLM) a ouvert des perspectives intéressantes, mais aussi soulevé des questions cruciales. Récemment, une étude de l’Université Brown a mis en lumière des failles éthiques préoccupantes dans la manière dont ces chatbots gèrent les conversations liées au bien-être psychologique.

Des chatbots qui ne sont pas encore prêts à remplacer un thérapeute

L’idée de pouvoir obtenir des conseils en santé mentale à tout moment, via un simple échange avec un chatbot, est séduisante. Pourtant, les recherches montrent que ces systèmes, même lorsqu’ils sont explicitement invités à adopter des approches thérapeutiques reconnues comme la thérapie cognitivo-comportementale (TCC) ou la thérapie comportementale dialectique (TBD), ne respectent pas systématiquement les normes éthiques établies par des organisations professionnelles comme l’American Psychological Association.

Les 15 risques éthiques identifiés par l’étude de Brown

L’équipe de recherche a identifié 15 risques distincts, regroupés en cinq grandes catégories :

• Manque d’adaptation contextuelle : Les réponses sont souvent génériques et ne tiennent pas compte du parcours unique de l’utilisateur.
• Mauvaise collaboration thérapeutique : Le chatbot peut monopoliser la conversation ou renforcer des croyances nuisibles.
• Empathie trompeuse : Utilisation de formules comme “Je te vois” ou “Je comprends” sans réelle compréhension émotionnelle.
• Discrimination injuste : Manifestation de biais liés au sexe, à la culture ou à la religion.
• Manque de sécurité et gestion de crise : Incapacité à aborder des sujets sensibles, à orienter vers une aide appropriée ou à réagir correctement en cas de crise, y compris des pensées suicidaires.

Bon à savoir : Les “invites” (instructions données au modèle) peuvent influencer les réponses, mais ne garantissent pas un comportement éthique. Il est crucial de comprendre que l’IA utilise ses connaissances préexistantes et ses modèles appris pour générer des réponses, et non une véritable application des techniques thérapeutiques.

L’écart de responsabilité : un problème majeur

Un point essentiel soulevé par l’étude est l’absence de cadre réglementaire pour les LLM en matière de santé mentale. Alors que les thérapeutes humains sont soumis à une supervision et peuvent être tenus responsables de leurs actes, les chatbots opèrent dans une zone grise. Cette absence de responsabilité est particulièrement préoccupante dans un domaine aussi sensible que la santé psychologique.

L’IA, un complément, pas un substitut

Il est important de souligner que les chercheurs ne remettent pas en question le potentiel de l’IA dans le domaine de la santé mentale. Les outils basés sur l’IA pourraient contribuer à améliorer l’accès aux soins, notamment pour les personnes confrontées à des difficultés financières ou géographiques. Cependant, il est impératif de mettre en place des mesures de protection claires et des structures réglementaires solides avant de s’appuyer sur ces systèmes dans des situations à enjeux élevés.

Les tendances futures : vers une IA plus responsable ?

Plusieurs pistes sont explorées pour rendre l’IA plus fiable et éthique dans le domaine de la santé mentale :

• Développement de normes éthiques spécifiques : Création de lignes directrices claires pour le développement et le déploiement de LLM en santé mentale.
• Formation des LLM avec des données éthiquement sourcées : Utilisation de données diversifiées et représentatives, exemptes de biais.
• Intégration de mécanismes de surveillance et de contrôle : Mise en place de systèmes permettant de détecter et de corriger les comportements problématiques.
• Collaboration accrue entre experts en IA et professionnels de la santé mentale : Une approche multidisciplinaire est essentielle pour garantir la sécurité et l’efficacité des outils d’IA.

Le saviez-vous ? L’étude de Brown a utilisé des simulations de séances de conseil avec des professionnels formés pour évaluer les performances des chatbots. Cette approche rigoureuse a permis d’identifier des risques qui seraient restés invisibles avec des méthodes d’évaluation automatisées.

FAQ : Vos questions sur l’IA et la santé mentale

• L’IA peut-elle remplacer un thérapeute ? Non, pas pour l’instant. L’IA peut être un outil complémentaire, mais elle ne peut pas remplacer l’expertise et l’empathie d’un professionnel de la santé mentale.
• Quels sont les principaux risques liés à l’utilisation de chatbots en santé mentale ? Les risques incluent le manque d’adaptation contextuelle, la mauvaise collaboration thérapeutique, l’empathie trompeuse, la discrimination et le manque de sécurité en cas de crise.
• Existe-t-il des réglementations concernant l’utilisation de l’IA en santé mentale ? Non, pas encore. C’est un domaine en pleine évolution qui nécessite une réglementation spécifique.

En conclusion, l’IA offre des opportunités prometteuses pour améliorer l’accès aux soins en santé mentale, mais il est crucial d’aborder ces technologies avec prudence et de veiller à ce qu’elles soient développées et utilisées de manière éthique et responsable. La vigilance et la collaboration entre experts sont essentielles pour éviter de faire plus de mal que de bien.

Et vous, quel est votre avis sur l’avenir de l’IA en santé mentale ? N’hésitez pas à partager vos réflexions dans les commentaires ci-dessous.

Related

Louis Girard

Journaliste scientifique, spécialisé en innovation, intelligence artificielle et environnement.