L’intelligence artificielle serait-elle prête à appuyer sur le « bouton rouge » ? Cette question est au cœur d’une étude du King’s College de Londres, dont les résultats ont été publiés en février. Menée par le professeur Kenneth Payne, elle a analysé la manière dont les principaux modèles développés par OpenAI, Anthropic et Google appréhendent des crises nucléaires simulées.

Ses conclusions font froid dans le dos, puisque l’intelligence artificielle a privilégié l’escalade nucléaire dans 95 % des scénarios. Claude et Gemini, en particulier, semblent considérer les armes nucléaires comme des options stratégiques légitimes et non comme des dilemmes moraux. Et aucun des trois modèles n’a opté pour l’accommodement ou la capitulation.

L’étude du King’s College met en lumière le fait que le tabou du nucléaire, qui prévaut depuis le largage des bombes atomiques américaines sur Hiroshima et Nagasaki en 1945, ne semble pas être aussi prégnant pour l’intelligence artificielle que pour l’être humain. En cas d’escalade lors d’un conflit, l’IA pourrait donc brandir plus rapidement la menace nucléaire ou appuyer avec moins de retenue sur le « bouton rouge ».

Cette critique rejoint d’ailleurs d’autres limites éthiques entourant les applications militaires de l’IA, qui entraîneraient, selon les experts, une utilisation plus massive et plus rapide de la force.

Au bon vouloir des ingénieurs

Pour la philosophe Marie-Des-Neiges Ruffo de Calabre, enseignante à l’Université de Namur et autrice du livre Itinéraire d’un robot tueur (Le Pommier, 2019), les IA n’auraient aucun remords à avoir recours à l’arme nucléaire, car elles ne posséderaient pas nos freins éthiques. « Elles considèrent que c’est une arme comme une autre, particulièrement puissante et dissuasive », résume-t-elle en entrevue au Devoir.

Selon la spécialiste des questions éthiques entourant l’usage des armes létales autonomes, il appartient à l’homme d’imposer des limites à l’IA — de lui créer des tabous.

« L’IA n’invente rien. Si elle a des garde-fous éthiques, c’est parce qu’on les lui aura programmés. Donc, si je suis le développeur d’une IA qui est utilisée dans le domaine de la défense, je pourrais vouloir, si j’ai un tant soit peu de morale, placer un certain nombre de garde-fous éthiques qui empêcheront mon système de contribuer à une arme autonome ou de lancer des armes nucléaires indiscriminées. »

M^me Ruffo de Calabre pointe là un autre problème de taille : l’humanité serait réduite aujourd’hui au bon vouloir de la conscience des ingénieurs qui développent les intelligences artificielles.

Un problème de mathématiques à un enfant

Selon Olivier Sibony, professeur à HEC Paris et à l’Université d’Oxford et spécialiste de la prise de décision, il convient de tempérer les résultats de l’étude du King’s College.

Tester avec ChatGPT ou Claude des scénarios de prise de décision de guerre est intéressant pour ce que ça nous dit sur le mode de raisonnement de ces outils, mais ce n’est en rien une simulation réaliste de ce qu’on pourrait craindre des états-majors dans ce genre de situation, explique-t-il au Devoir.

« C’est la raison pour laquelle je pense qu’il faudrait absolument bannir l’usage de l’intelligence artificielle. Pourquoi ? Parce que, par définition, on est dans le cas d’une décision unique, d’une décision sans précédent, d’une décision où on ne peut pas apprendre de l’expérience [préalable] », avance le coauteur du livre Faut-il encore décider ? La décision humaine à l’ère de l’intelligence artificielle (Flammarion, 2026).

Par manque d’exemples dans l’histoire, l’IA ne serait pas en mesure de mesurer les conséquences d’actionner l’arme atomique ; elle y réfléchit donc d’une manière complètement abstraite, désincarnée et déconnectée. « En fait, soumettre des scénarios de guerre nucléaire à une IA, c’est comme soumettre à un enfant un problème de mathématiques quantique. Il n’a aucune idée de ce dont vous parlez… »

85 secondes avant minuit

Si la décision de déclencher le feu nucléaire appartient encore aux états-majors des armées, l’arrivée de l’IA dans le domaine militaire nourrit de sérieuses craintes.

Au mois de janvier 2026, le Bulletin of the Atomic Scientists a décidé d’avancer son « horloge de la fin du monde » (Doomsday Clock) à seulement 85 secondes avant minuit, soit le moment le plus près de minuit jamais atteint. Pour justifier sa décision, le Conseil scientifique et de sécurité des scientifiques atomistes (SASB), qui règle cette horloge, a mis en avant certains facteurs d’aggravation du contexte mondial, notamment la montée en puissance des menaces nucléaires et les technologies de rupture, telles que l’intelligence artificielle.

Parmi les solutions avancées, le SASB a recommandé aux États-Unis, à la Russie et à la Chine d’engager des dialogues concernant l’intégration de l’intelligence artificielle dans leurs forces armées, notamment dans les systèmes de commandement et de contrôle nucléaires.

Comment créer une zone interdite ?

En 2026, neuf États seraient officiellement dotés de l’arme atomique dans le monde — la Russie, les États-Unis, la France, le Royaume-Uni, la Chine, l’Inde, le Pakistan, Israël et la Corée du Nord. À eux seuls, ils possédaient plus de 12 000 ogives nucléaires, selon un rapport de l’ONG Norwegian People’s Aid, soit l’équivalent de 135 000 bombes atomiques de la puissance de celle larguée sur Hiroshima.

Avec la fin du multilatéralisme et le désengagement des États-Unis sur la scène internationale, les négociations pour réguler ou interdire les armes pilotées par l’intelligence artificielle piétinent.

Toutefois, le professeur Olivier Sibony pense que les grandes puissances mondiales devraient pouvoir s’entendre sur le fait que la chaîne de commandement de la décision nucléaire soit entièrement exempte d’IA. Et arriver rapidement à un traité. « Si on est arrivé à se mettre d’accord sur les armes chimiques, bactériologiques ou les mines antipersonnel — ce qui ne veut pas dire que ces accords sont toujours respectés —, on doit pouvoir y parvenir. Pour l’instant, je crois que tous les pays qui détiennent l’arme nucléaire affirment que ça reste une décision 100 % humaine. Je crois que ça serait bien de s’en assurer. »