L’intelligence artificielle générative a aujourd’hui des capacités indéniables en mathématiques. Des modèles très avancés, développés par OpenAI (la société derrière ChatGPT) ou Anthropic (Claude), l’ont montré avec brio ces derniers mois. Pour autant, est-ce que laisser l’IA générative résoudre des problèmes à la pelle est une si bonne idée que cela ?

Pour Terence Tao, médaillé Fields en 2006 et l’un des mathématiciens les plus doués de sa génération, la réponse n’est pas tout à fait un franc « oui » : dans une discussion ouverte sur le réseau social Mastodon, le 3 septembre, il fait observer que laisser une IA générative résoudre un problème n’est pas toujours un pur gain pour les mathématiques.

La publication de Terence Tao. // Source : Capture d’écran

Selon lui, les problèmes ouverts qui ont été formulés avant l’ère de l’IA sont même devenus une ressource quasiment non renouvelable. Pourquoi ? À cause de ce que Terence Tao décrit comme de la contamination. Ainsi, dans le cas des problèmes résolus par IA, leur utilité est « durablement réduite », car les conditions dans lesquelles ils ont été réglés sont floues.

« La nature de ‘boîte noire’ de l’IA moderne rend extrêmement difficile la distinction entre une solution générée par l’IA issue d’un raisonnement véritablement novateur et une solution qui était d’une manière ou d’une autre déjà présente dans les données d’apprentissage », relève Terence Tao. À terme, cela pourrait nuire aux maths.

Il reprend une réflexion émise fin août par le mathématicien français Hugo Duminil-Copin, médaillé Fields en 2022. Pour ce dernier, « l’exploitation automatisée et aveugle des problèmes ouverts à la recherche de solutions risque de détruire l’écosystème à partir duquel la prochaine génération de techniques mathématiques, de problèmes et de matheux aurait pu se développer. »

L’intéressé fait un parallèle avec ces pelleteuses mobilisées pour extraire des trésors d’un site archéologique tout en détruisant au passage le riche contexte historique et les données qui confèrent à ces trouvailles une grande partie de leur sens et de leur valeur. Des excavatrices puissantes et inlassables, donc, mais qui emportent avec elles subtilités et détails.

Pour aller plus loin

Faut-il des sanctuaires réservés aux humains ?

Pour illustrer sa réflexion, Terence Tao a partagé un cas de figure mathématique tiré de la théorie des groupes qu’il co-anime.

En demandant aux participants de ne pas partager leurs solutions, les organisateurs ont pu mesurer la difficulté réelle du défi, en la « cartographiant ». Or, en communiquant par la suite les informations clés, pour aller plus vite et faire davantage de progrès, les organisateurs ont jugé avoir « compromis de manière irréversible » ce travail de « cartographie ».

Terence Tao ne se fait cependant pas d’illusion : il admet que sa proposition serait dure à faire respecter, vu la puissance et la disponibilité de ces outils d’intelligence artificielle, mais aussi les enjeux de recherche, de prestige, de progrès à court et moyen terme. Il fait cependant le pari d’une certaine pression sociale pour décourager certains usages.

Il va même plus loin, évoquant des sanctuaires hors de portée de l’IA : « Il pourrait s’avérer nécessaire d’interdire l’utilisation des solveurs automatisés pour certaines catégories de problèmes de maths, afin de préserver leur valeur globale pour l’écosystème mathématique (par exemple, dans le cadre de la formation des futurs mathématiciens). »

L’idée dépasse le cas des mathématiques. Elle rejoint une question posée partout où l’IA avance vite : faut-il lui fermer volontairement des portes, dans la création artistique ou certains métiers, pour garder un espace aux humains ? Personne ne propose d’écarter l’IA de partout. L’idée se limite à préserver quelques domaines pour les humains.

Ce n’est pas sa première mise en garde : il a déjà ironisé sur l’indigestion de preuves générées par l’IA.

Pour aller plus loin