Robots tueurs: l'avis du Comité d'éthique de la défense du 29 avril 2021

Le comité d’éthique de la défense a rendu le 29 avril 2021 un avis sur les systèmes d’armes létaux autonomes (SALA), une première marche vers le développement d'armes robotisées pilotées par l’homme, même s'il exclu pour le moment le recours à des  "robots tueurs" totalement autonomes.

Rappelons que la France s’est dotée en 2019 d’une structure de réflexion permanente sur les enjeux éthiques des nouvelles technologies dans le domaine de la défense.

La France confirme donc qu’elle ne développera et n’emploiera pas de systèmes d’armes létaux pleinement autonomes

Le rapport s’attache à identifier ce que recouvre la notion d’autonomie et présente les définitions existantes.

Au terme de cette analyse, le Comité a choisi d’établir une stricte distinction entre les SALA et les Systèmes d’armes létaux intégrant de l’autonomie (SALIA) mais incapables d’agir seuls, sans contrôle humain, de modifier leurs règles d’engagement et de prendre des initiatives létales. 

Au terme de cette analyse initiale, le Comité d’éthique de la défense a choisi d’établir une stricte distinction entre :

• - Les Systèmes d’armes létaux autonomes (SALA), qui sont des systèmes d’armes létaux programmés pour être capables de faire évoluer leurs règles de fonctionnement, d’échapper au contrôle humain et de redéfinir tout seuls leur mission ;
• - les Systèmes d’armes létaux intégrant de l’autonomie (SALIA) qui sont des systèmes comportant des fonctions automatisées, mais sous contrôle humain, dans des conditions qui garantissent :
  • le respect du principe constitutionnel de nécessaire libre disposition de la force armée,
  • le respect du principe de continuité de la chaîne de commandement de l’ordre à son application, 

  Un SALIA ne pourrait prendre d’initiatives létales - sans contrôle humain. Il ne pourrait pas modifier seul ses conditions de fonctionnement.

• Ainsi, il existe une différence de nature entre les SALA, et la notion de SALIA introduite par le Comité, qui désigne un système ne pouvant pas être déployé sans intervention humaine, l’humain étant supposé rester au cœur des décisions d’usage de la force létale.

Néanmoins, on peine à croire à une totale interdiction, alors que l'on assiste à une véritable course à de tels armements des USA à Israël en passant par la Russie, avec les robots Big Dog de Boston Dynamics (logistique), Andros (ouverture de feu), Telemax (deminage), Guardian (reconnaissance)  ou nEUROn (drone).

Et dans l'armée française? Les robots militaires ont commencé à être livrés , en vue d'intégrer l'armée de Terre dans le cadre du programme terrestre Scorpion. 

La Direction générale de l’armement (DGA) a ainsi réceptionné en décembre 2019 cinq premiers micro-robots de reconnaissance étendue Nerva®-LG. Ces robots sont capables d’évoluer de manière autonome pour écouter, voir et enregistrer sur le champ de bataille. Ces robots faisaient partie d’une première commande globale de 56 micro-robots passée par la DGA à la société Nexter associée à la société ECA. D’autres robots ont été livrés en 2020 : 5 Nerva®-LG complémentaires, 10 Nerva®-S de reconnaissance de faible encombrement (3 kg), et 36 Nerva®-XX / Caméléon®-LG du génie (12 kg).

En mars 2021, les élèves officiers de l’école militaire de Saint-Cyr Coëtquidan ont pu s’entraîner avec Spot, le chien robot de Boston Dynamics, mais aussi la mule de transport Ultro.

Grâce aux avancées de la recherche en matière d'intelligence artificielle notamment, une trentaine d'entreprises dans le monde sont en train de mettre au point des robots tueurs qui pourraient choisir leur cible sans même qu'un humain n'intervienne pour les piloter.

Ceci pose de nombreux problèmes éthiques, moraux, mais aussi juridiques : qui traduire par exemple en justice si des armes autonomes commettent des crimes contre l'humanité?

Un encadrement de l'utilisation des armes autonomes s'impose. Mais si le  26 septembre 2019, les ministres des Affaires étrangères français, allemand et de dizaines d’autres pays avaient  approuvé au siège des Nations Unies une déclaration sur les systèmes d’armes létales autonomes, l'adoption d'un nouveau traité international tarde à se concrétiser en raison notamment des oppositions américaines et russes.

Retrouvez également sur ce sujet notre article Les SALA ou Robots-tueurs: vers une nécessaire règlementation des robots tueurs

( Source: l'avis du 29 avril 2021 ou en fichier Pdf ci-dessous) 

(crédits dessin: Cabinet Thierry Vallat) 

•  

Télécharger Comité d'éthique de la défense - Avis sur l'intégration de l'autonomie des systèmes d'armes létaux