Les chefs de l’ONU et du Comité international de la Croix-Rouge (CICR) ont alerté mardi sur le risque que le développement des armes autonomes conduise très prochainement à « franchir une ligne rouge morale », en laissant à des machines la décision de tuer des êtres humains.

En 2023, le secrétaire général de l’ONU, António Guterres, et la présidente du CICR, Mirjana Spoljaric Egger, avaient conjointement appelé les États à imposer l’interdiction de ces systèmes d’armes autonomes au plus tard en 2026.

Mais leur appel est resté sans suite.

« Nous renouvelons cet appel avec une urgence encore plus grande. Les préoccupations fondamentales demeurent inchangées, mais les risques se sont intensifiés. Nous sommes désormais dangereusement proches de franchir une ligne rouge morale : le ciblage autonome d’êtres humains par des machines », indiquent-ils dans un nouvel appel.

« Le fossé entre les capacités technologiques et les contraintes réglementaires s’est creusé, les technologies de pointe utilisées sur les champs de bataille amplifiant le risque de causer des dommages aux civils et aux infrastructures civiles, et aggravant les souffrances de la population civile dans les conflits armés », font-ils valoir.

Les armes autonomes sont généralement définies comme des armes capables de sélectionner leurs cibles et d’employer la force sans intervention humaine.

« Ces systèmes sont déjà utilisés sur les champs de bataille et dans des contextes plus larges, ce qui accroît le risque de pertes civiles », a expliqué Laurent Gisel, qui dirige l’unité armes et conduite des hostilités au CICR, lors d’un point de presse à Genève.

Selon les experts, aucun usage confirmé d’armes pleinement autonomes visant directement des personnes n’a en revanche été recensé à ce jour. Mais ce scénario suscite de vives inquiétudes à l’ONU et au CICR.

Interdire les armes imprévisibles et antipersonnel

« Les scientifiques et les ingénieurs qui élaborent ces systèmes tirent la sonnette d’alarme. Dès lors que les architectes de cette technologie eux-mêmes réclament des limites, les États ne peuvent se permettre de rester passifs », estiment les chefs de l’ONU et du CICR, avertissant que « cette année doit marquer un tournant ».

Dans le cadre de la Convention sur certaines armes classiques (CCAC), un groupe d’experts gouvernementaux travaille depuis plusieurs années sur les armes autonomes et les règles internationales qui pourraient encadrer leur développement et leur utilisation.

Le groupe achèvera son mandat de trois ans la semaine prochaine, avec l’espoir d’adopter un document consensuel. Lors de la conférence d’examen de la CCAC en novembre, les États pourront décider de la suite à donner à cette question, notamment du lancement ou pas de négociations pour élaborer des règles.

Les chefs de l’ONU et du CICR appellent les États à « faire preuve de courage politique » et à lancer dès maintenant des négociations « afin d’adopter de toute urgence un instrument juridiquement contraignant visant à réglementer les systèmes d’armes autonomes au moyen d’interdictions et de restrictions claires », ajoutant que « ne pas agir rapidement et de manière décisive coûtera des vies ».

Laurent Gisel précise que le CICR ne demande pas l’interdiction de l’ensemble des systèmes d’armes autonomes, mais l’interdiction de certaines catégories, « parmi les plus inacceptables, qui présentent les risques les plus importants de violations du droit international humanitaire, de conséquences humanitaires graves et d’une aggravation du coût humain des conflits armés ».

Il s’agit d’« interdire les armes autonomes imprévisibles, c’est-à-dire les armes autonomes dont les effets ne peuvent être prédits ou contrôlés de manière adéquate, ce qui est davantage le cas lorsque les systèmes intègrent des formes non déterministes d’IA » et d’« interdire les armes autonomes antipersonnel, c’est-à-dire les armes autonomes conçues ou utilisées pour cibler directement les humains », a précisé le CICR à l’AFP.