|
L’un des événements de cette rentrée sera la visite en France du pape Léon XIV, le 25 septembre, quelques mois après la publication de sa première encyclique, Magnifica Humanitas. Consacré à la protection de la personne humaine à l’ère de l’intelligence artificielle, ce texte dépasse largement le cadre religieux. La venue du pape nous offre l’occasion de nous demander ce que la communauté de défense peut en retenir.
Une idée, surtout : plus la guerre devient technologique, plus la responsabilité humaine doit devenir exigeante.
Car l’intelligence artificielle est déjà entrée dans la guerre. Elle analyse le renseignement, détecte les menaces, identifie des objectifs, pilote des drones, propose des modes d’action et accélère la décision. Demain, elle coordonnera des essaims de drones et des systèmes toujours plus autonomes.
Formidable progrès. Mais jusqu’où ?
Léon XIV rappelle une évidence que les performances de l’IA pourraient nous faire oublier : une machine calcule, compare, apprend, mais elle n’a ni conscience morale, ni compassion, ni sens du devoir. Surtout, elle ne répond pas de ses actes.
Une IA peut établir avec 99 % de probabilité qu’un véhicule correspond à une cible recherchée. Elle ne peut décider, au sens humain du terme, si sa destruction est nécessaire, proportionnée et légitime. L’efficacité algorithmique ne saurait tenir lieu de légitimité.
Le pape en tire une conclusion sans ambiguïté : il n’est pas acceptable de confier à des systèmes artificiels des décisions « mortelles ou, en tout cas, irréversibles ».
Nous voilà au cœur du sujet.
Le danger n’est pas seulement que la machine décide un jour à la place de l’homme. Il est aussi que l’homme finisse par ne plus oser décider contre elle. Lorsque l’écran indiquera : « engagement recommandé – fiabilité 98,7 % », quel chef prendra encore le risque de répondre : non ? Contredire son ordinateur pourrait bien devenir une nouvelle forme de courage.
S’y ajoute la vitesse. Dans la guerre moderne, celui qui détecte, comprend et frappe le premier prend l’avantage. L’IA raccourcit formidablement cette boucle. Mais lorsque deux adversaires disposeront de systèmes capables de détecter une menace et de proposer instantanément une riposte, combien de temps restera-t-il au responsable politique ou militaire pour réfléchir ? Quelques minutes ? Quelques secondes ?
À force de vouloir être plus rapide que l’adversaire, prenons garde de ne pas devenir plus rapides que notre propre raison.
Faut-il pour autant renoncer à l’intelligence artificielle militaire ? Certainement pas. Nos adversaires, eux, ne le feront pas. L’IA constitue un formidable multiplicateur de puissance. Elle permettra de mieux renseigner, mieux protéger, mieux anticiper, mieux décider et probablement mieux combattre.
Mais Magnifica Humanitas nous invite à tracer une ligne rouge : l’IA pour renseigner, anticiper, protéger, aider à décider et combattre ; jamais pour exonérer l’homme de décider, de discerner et de répondre de ses actes.
Car, au bout du compte, même sur le champ de bataille le plus numérisé, un algorithme ne sera jamais cité à l’ordre de l’armée. Et s’il se trompe, il ne comparaîtra pas davantage devant un tribunal. Devant le juge, ce n’est jamais la machine qui sera mise en cause. C’est l’humain.
La visite de Léon XIV nous donne donc matière à réfléchir. L’intelligence artificielle transformera certainement la guerre. Elle ne doit pas en changer le responsable.
Plus la guerre devient technologique, plus la décision doit rester humaine — et la responsabilité, celle du chef.
VAE (2s) Xavier Païtard
|
