Il existe une légende urbaine persistante dans les couloirs de la Silicon Valley : certains codes sources de grandes banques mondiales ou de systèmes de gestion de l’espace aérien seraient si anciens et si complexes que plus aucun ingénieur vivant n’oserait y toucher. Ils se contentent de bâtir par-dessus, comme des bâtisseurs médiévaux érigeant une cathédrale sur les fondations oubliées d’un temple romain dont ils ne comprennent plus les plans. Ce n’est plus de l’ingénierie, c’est du rituel. Nous sommes entrés dans l’ère de la « Dette Technique », où l’humanité pilote chaque jour des outils dont elle a égaré le mode d’emploi originel.

La strate archéologique du silicium

Le monde moderne repose sur ce que les informaticiens appellent le Legacy Code. Ce sont des millions de lignes de programmes rédigées dans les années 70 ou 80 (souvent en COBOL), conçues à une époque où la mémoire se comptait en kilo-octets. Ces programmes gèrent aujourd’hui vos virements bancaires, vos dossiers de sécurité sociale ou le fonctionnement des centrales électriques.

Le problème ? Les pionniers qui ont écrit ces lignes sont à la retraite ou décédés. La documentation est souvent perdue. Comme les prêtres d’un culte ancien, les développeurs actuels murmurent des « incantations » de mise à jour, tremblant à l’idée qu’un seul caractère déplacé puisse faire s’effondrer l’infrastructure financière mondiale. Nous ne dominons plus nos outils ; nous entretenons des reliques numériques dont le fonctionnement interne est devenu une énigme archéologique.

Le trou noir de l’Intelligence Artificielle

Si le vieux code nous échappe par son âge, l’Intelligence Artificielle moderne nous échappe par sa nature même. Avec l’avènement du Deep Learning (l’apprentissage profond), nous avons cessé de donner des instructions précises aux machines. Au lieu de cela, nous créons des structures — les réseaux de neurones — et nous les laissons « apprendre » seules à partir de montagnes de données.

Le résultat est une « boîte noire » d’une efficacité redoutable, mais totalement opaque. Un algorithme peut identifier une cellule cancéreuse avec plus de précision qu’un oncologue, mais il est incapable d’expliquer comment il est parvenu à cette conclusion. Les experts tâtonnent dans ce qu’ils appellent « l’interprétabilité » : ils tentent de rétro-ingénierer leurs propres créations pour comprendre leur logique interne. Pour la première fois dans l’histoire, l’artisan contemple son outil avec la même incompréhension qu’un homme préhistorique face à la foudre.

Crédit : Kriangsak Koopattanakij

Le syndrome du Culte du Cargo numérique

Le concept de « Culte du Cargo » est né dans le Pacifique après la Seconde Guerre mondiale : des populations, voyant des avions parachuter des vivres, ont construit des répliques de pistes d’atterrissage et de radios en bois dans l’espoir de faire revenir les « dieux » et leurs richesses. Ils imitaient la forme sans comprendre la fonction.

Nous reproduisons ce schéma à l’échelle mondiale. La majorité des utilisateurs — et une part croissante de ceux qui nous gouvernent — manipulent des protocoles (TCP/IP, cryptographie asymétrique, semi-conducteurs) qu’ils seraient rigoureusement incapables de reconstruire à partir de zéro. Si une impulsion électromagnétique majeure effaçait nos bibliothèques numériques, nous nous retrouverions devant des terminaux inutilisables, comme des chamans devant des idoles de pierre. Nous entretenons le système par simple répétition de gestes hérités, sans plus en maîtriser l’essence physique.

Vers une civilisation de la maintenance ?

Le risque ultime de cette opacité est la fragilité systémique. Une civilisation qui ne sait que maintenir, mais plus inventer ou réparer ses fondations, est condamnée à la stagnation, puis au déclin. Samuel Arbesman, chercheur en complexité, avertit : nous avons atteint le « bord de la compréhension ». Nos systèmes sont désormais trop intriqués pour être saisis par un seul cerveau humain.

Le « Mindfuck » est là : l’humanité n’est plus au sommet d’une pyramide de connaissances partagées. Elle est à la dérive sur un océan d’artefacts magiques qu’elle ne sait plus produire. La technologie n’est plus une extension de notre intelligence, elle est devenue un environnement autonome, une seconde nature, que nous tentons tant bien que mal d’apprivoiser par des rituels de plus en plus abstraits.