L'intelligence artificielle - et plus spécifiquement ses derniers rejetons, les Large Language Models (ou LLM) tels que ChatGPT d'OpenAI, Gemini de Google ou encore Claude d'Anthropic - cristallise de nombreux débats. Si certains sont légitimes et pertinents au regard des enjeux, d'autres relèvent davantage de la panique morale. C'est le cas d'une récente chronique parue dans Les Échos, signée Gaspard Koenig et sobrement intitulée « Comment ChatGPT grille notre cerveau », qui prête à une étude scientifique à lire sur ArXiv des conclusions... qu'elle ne formule tout simplement pas.

Pour Albert Moukheiber, docteur en neurosciences et psychologue clinicien, tout part d'un fil Twitter : « Cette désinformation autour d'une prétendue atrophie du cerveau provient à mon avis d'un fil publié par un entrepreneur de la tech qui est probablement tombé dans le piège tendu par les chercheurs... en faisant résumer l'article par un LLM. » En effet, les scientifiques avaient glissé, dans leur pré-publication (l'étude n'ayant pas encore été relue par les pairs), des instructions destinées spécifiquement aux modèles de langage, pour prévenir ce type de dérives.

« La chronique de Gaspard Koenig reprend largement ce qui est dit dans ce fil Twitter, ce qui me laisse penser qu'il n'a pas lu l'étude. Et ça se voit en un coup d'œil quand on connaît un peu les neurosciences : il est tout simplement impossible d'observer une atrophie cérébrale avec un électroencéphalogramme. Cela nécessite des mesures structurelles en IRM. Il faut arrêter de faire dire aux articles scientifiques ce qu'ils ne disent pas », déplore Albert Moukheiber.

Pour observer une atrophie cérébrale, il faut nécessairement des données d'imageries. © Sirisakboakaew, Adobe Stock

Ce que dit vraiment l’étude sur le lien entre l’utilisation de ChatGPT et notre cerveau

Heureusement, plusieurs médias - comme France Info ou Le Monde - ont relayé cette étude avec plus de rigueur. Reprenons donc ce qu'elle nous apprend réellement et qui est, au demeurant, tout à fait intéressant. L'étude visait à comparer l'impact cognitif et cérébral de différents outils lors d'une tâche de rédaction de dissertation.

Trois conditions étaient testées :

1. L'utilisation exclusive d'un Large Language Model (LLM) comme ChatGPT.
2. La recherche d'informations via un moteur web classique.
3. L'usage de ses seules connaissances, sans aide technologique.

Les chercheurs ont mesuré à la fois des paramètres psychologiques (comme le rappel de contenu, la satisfaction vis-à-vis de la dissertation produite ou encore le sentiment d'appropriation du texte), et des données cérébrales, les participants étant équipés de casques EEG tout au long de l'expérience. En se concentrant sur les mesures cérébrales et les inférences relatives à la charge cognitive - c'est-à-dire l'effort mental mobilisé pour accomplir une tâche - l'étude montre que cette charge diminue lorsqu'un outil technologique est utilisé.

Plus précisément :

• l'usage d'un moteur de recherche entraîne une baisse de la charge cognitive interne (liée notamment à la mémoire de travail et à l'élaboration personnelle), par rapport à l'absence d'aide ;
• l'utilisation d'un LLM entraîne une diminution plus globale de la charge cognitive, toujours comparée au groupe sans technologie.

Ces résultats suggèrent que les LLM, comme ChatGPT, permettent de ré-allouer nos ressources mentales, en allégeant certaines tâches au profit de fonctions exécutives plus complexes (planification, structuration du raisonnement, etc.), là où la recherche Internet stimule davantage l'intégration d'informations. Ces interprétations reposent sur l'analyse des patterns de connectivité neuronale mesurés par EEG et permettent de conclure que plus l'outil est sophistiqué, moins la connectivité est intense - ce qui, loin d'être inquiétant, est plutôt attendu. Cela reflète simplement un allègement cognitif permis par des outils qui externalisent certaines fonctions de traitement de l'information. En somme, ChatGPT ne « grille » pas notre cerveau : il réduit notre charge cognitive, à l'instar d'une calculatrice ou d'un GPS. 

L’IA dans l’éducation : un outil comme les autres ? 

Plutôt que de se demander si les LLM nous « font sauter les fusibles », l'étude offre un débat plus fertile : quelle place ces outils doivent-ils occuper dans l'éducation ? En effet, les chercheurs montrent que l'ordre d'exposition aux outils technologiques a une influence. Lors d'une seconde phase de l'expérience, les groupes changent de condition : ceux qui ont d'abord utilisé un LLM doivent ensuite rédiger une dissertation sans aide, et inversement. Résultat : les participants passés du LLM vers l'absence de technologie affichent une connectivité neuronale plus faible, comparés à ceux qui sont passés de l'absence de technologie vers le LLM, dont la connectivité augmente.

Autrement dit, commencer par un outil comme ChatGPT peut modifier la manière dont on s'implique cognitivement lorsqu'on doit ensuite travailler sans aide. Un élément qui soulève des questions importantes sur l'introduction précoce des LLM dans les apprentissages.

Une autre étude, complémentaire, s'intéresse à la relation que nous entretenons avec ces modèles, et à son impact sur notre esprit critique -- c'est-à-dire notre capacité à mobiliser nos connaissances, nos dispositions et nos compétences analytiques et argumentatives lors d'une tâche. Elle suggère que plus nous faisons confiance aux LLM, moins nous avons tendance à mobiliser cet esprit critique.

 Contrairement à une calculatrice, un LLM n’est pas un outil infaillible. © wutzkoh, Adobe Stock

Albert Moukheiber nous éclaire sur ce point : « Imaginez que vous lisez un article de presse et que vous avez une confiance aveugle envers la personne qui l'a écrit. Cette étude montre que si vous adoptez la même attitude face à un LLM, cela influence la manière dont vous traitez l'information qu'il vous fournit. Historiquement, nous avons appris à faire confiance à nos outils : je ne doute pas de ma calculatrice quand elle me donne un résultat. Cette absence de vigilance épistémique, nous l'appliquons aussi aux LLM et cela joue probablement un rôle dans les attitudes que nous développons envers eux », propose Albert Moukheiber, à titre d'hypothèse. 

C’est pourquoi le problème n’est pas tant dans l’usage des IA que dans la relation de confiance qu’on construit avec elles

Et c'est bien là tout l'enjeu : contrairement à une calculatrice, un LLM n'est pas un outil infaillible. Il peut halluciner, se tromper, produire des informations fausses ou même mentir avec un style très convaincant : « Il y a une différence fondamentale entre une calculatrice et un LLM. La première ne peut pas se tromper. Le second, oui. C'est pourquoi le problème n'est pas tant dans l'usage des IA que dans la relation de confiance qu'on construit avec elles. Sur Twitter, on voit beaucoup de gens utiliser l'IA comme fact-checker... mais qui fact-check l'IA ? », ironise Albert Moukheiber.

(En)jeux politiques 

Toutes ces réflexions ne sont pas théoriques : elles posent des enjeux concrets pour les professionnels de l'éducation et pour les élèves eux-mêmes. Que penser de l'intégration progressive, voire systématique, de l'intelligence artificielle à l'école et à l'université ? Pour Albert Moukheiber, il ne s'agit pas d'interdire, mais d'accompagner.

« Quand on essaie d'interdire l'accès à une technologie, cela ne marche jamais. Personnellement, j'étais élève à l'époque des premières calculatrices scientifiques, et on trouvait toujours un moyen de les détourner de leur usage initial, raconte-t-il, amusé, l'air nostalgique, avant d'ajouter : il me paraît beaucoup plus judicieux d'encadrer l'utilisation de ces outils, en expliquant comment ils fonctionnent et dans quels contextes ils peuvent être utiles. »

L'arrivée des LLM posent des questions primordiales concernant les politiques éducatives à mener. © ChatGPT

Mais cette éducation au bon usage doit éviter deux écueils majeurs.

Le premier : reproduire ou accentuer des inégalités déjà présentes, comme le souligne Inès Drège, enseignante en philosophie, dans un article publié dans le numéro spécial Pédagogie et IA des Cahiers pédagogiques. En effet, l'utilisation de ces outils profitent généralement à celles et ceux qui ont déjà un bon niveau en dissertation et découragent les élèves qui manquent d'un tel capital culturel.

Le second : se méfier du discours prométhéen de l'industrie technologique, qui entend parfois orienter les politiques éducatives. Une enquête de Marie Dupin pour France Culture montre ainsi comment les grandes entreprises de la tech cherchent à influencer directement l'agenda éducatif en France. Car les LLM ne sont pas de simples « outils » neutres dont les effets dépendraient d'un usage strictement individuel. Ils sont façonnés par des logiques économiques et politiques - et les usages qu'on en fait collectivement, dans et hors de l’école, en sont l'écho.

Autrement dit : ce n'est pas seulement la façon dont on utilise l'IA qui importe, mais comment nous décidons de l'utiliser ensemble.