Que faire lorsque deux identités profondément ancrées en soi se retrouvent antagonistes sur un champ de bataille moral et spirituel ?
Je suis catholique, et cela fait plus de vingt ans que je le suis, depuis cette décision déterminante de rejoindre un ami pour la messe un jour. Ma foi est devenue pour moi un pilier spirituel et éthique à un moment où j’en avais grand besoin, au point que j’ai envisagé un temps d’entrer dans la prêtrise, abandonnant mon précédent projet d’intégrer la CIA. J’ai finalement compris que mon véritable appel était l’enseignement et j’ai choisi cette voie après avoir achevé mon doctorat, mais ma foi est restée le centre moral de ma vie. Parallèlement, je suis chercheur en sécurité et renseignement, professeur et directeur des programmes supérieurs en intelligence et études de sécurité à l’Augusta University. Depuis vingt ans, j’analyse les questions de sécurité internationale et, plus récemment, les technologies émergentes, notamment dans les domaines de la guerre de l’information, des opérations d’influence, des cyberopérations et du rôle croissant de l’intelligence artificielle (IA) dans les conflits humains.
Ces deux identités – professionnelle et spirituelle – cohabitent souvent dans une trêve fragile mais gérable. Pourtant, elles s’opposent parfois avec force. La parution récente de la première encyclique du pape Léon XIV, Magnifica Humanitas, est une de ces occasions. Comme dans beaucoup de dilemmes éthiques, il n’y a pas toujours une solution simple ou élégante. Peut-être le pape souhaite-t-il justement que ceux d’entre nous qui œuvrent à l’intersection entre sécurité et technologie ressentent cet affrontement intérieur. Pourtant, je crois que la foi catholique et le chercheur en sécurité en moi ne doivent pas rester en guerre permanente. Ils peuvent converger vers un objectif commun : continuer à développer les capacités militaires renforcées par l’IA, mais avec des garde-fous beaucoup plus robustes et responsables.
Le défi majeur du pape
Dans un contexte marqué par une compétition intense entre grandes puissances et une course aux armements IA qui s’accélère, Magnifica Humanitas défend avec force la dignité humaine tout en critiquant sévèrement la trajectoire technologique actuelle. Le pape Léon écrit : « Au cœur de la compréhension chrétienne de la personne humaine se trouve la grande affirmation biblique que les hommes et les femmes sont créés à l’image et à la ressemblance (cf. Genèse 1:26-27) de Dieu Trinitaire. Créée pour la relation, chaque personne humaine est voulue par Dieu pour entrer en communion avec Lui, avec les autres et avec la création » (paragraphe 50).
Pour le pape et l’Église catholique, la dignité de chaque vie humaine doit être protégée. L’une des raisons fondamentales pour lesquelles la guerre est moralement inacceptable est qu’elle viole cette dignité. Le pontife remet en question la doctrine chrétienne classique de la guerre juste, une doctrine qui admet que, bien que toujours tragique, la guerre peut être moralement justifiée lorsqu’elle constitue un acte de légitime défense exécuté par une autorité légitime contre une agression grave et certaine, après l’échec de toutes les voies pacifiques, avec de sérieuses chances de succès, et sans causer de maux supérieurs à ceux qu’elle cherche à prévenir.
Encore, il affirme : « Aujourd’hui, plus que jamais, sans préjudice du droit à la légitime défense au sens strict, il est important de réaffirmer que la théorie de la « guerre juste », trop souvent invoquée pour justifier toute forme de guerre, est désormais dépassée » (paragraphe 192). Il appelle à la fin des conflits armés, estimant que nous disposons désormais de « moyens bien plus efficaces et capables pour promouvoir la vie humaine et résoudre les conflits, tels que le dialogue, la diplomatie et le pardon » (paragraphe 192).
Sur cette base, le pape analyse ensuite pourquoi il considère que la guerre renforcée par l’IA pourrait aggraver une réalité déjà inacceptable. Dans une section intitulée « Armes et intelligence artificielle », il met en garde contre le fait que l’IA « ne peut qu’accélérer les conflits et les rendre plus impersonnels, abaissant le seuil de recours à la violence, transformant la défense en prédiction de menace et réduisant ainsi les victimes à des données ». Plus encore, « elle nous habitue à l’idée que la violence est inévitable et qu’il suffit de l’optimiser » (paragraphe 198). Il affirme alors clairement que « confier des décisions létales ou irréversibles à des systèmes artificiels est inacceptable. Aucun algorithme ne peut rendre la guerre moralement acceptable ».
Choisir la voie de la réduction des dommages
En tant que catholique, je ne peux considérer une encyclique pontificale comme un simple article d’opinion. Je dois l’accueillir avec une profonde révérence, ce que je fais. Mais en tant que chercheur en sécurité, je suis aussi conduit à chercher un point de réconciliation entre cet appel moral profond du pape à protéger la dignité humaine face aux dangers de l’IA et à mettre fin à l’escalade, et mon regard réaliste qui estime que, pour protéger cette même dignité, les sociétés démocratiques doivent être prêtes à utiliser l’IA avec responsabilité dans le cadre du conflit armé.
Examinons d’abord deux lignes rouges tracées par le pape. Il affirme que la guerre elle-même est moralement et théologiquement inacceptable, et que la doctrine de la guerre juste est obsolète. Or, je ne partage pas entièrement cette position. Le pape semble ici considérer que la sophistication technologique et le développement massif de moyens de communication doivent rendre caduques les conditions justifiant une guerre « juste » : la société aurait dû dépasser le recours à la guerre grâce à ces avancées.
Certes, nous disposons d’outils puissants pour résoudre les conflits sans violence, et divers mécanismes de confiance pour favoriser la paix entre adversaires. Mais les acteurs malveillants existent toujours et sont déterminés à faire la guerre. Ironiquement, les mêmes technologies censées promouvoir la paix peuvent aussi servir de justification et d’outil pour des opérations offensives. Ainsi, bien que la paix soit un horizon possible, la guerre demeure. Et puisque la guerre existe, nous avons, à mon avis, la responsabilité d’en réduire les effets négatifs. Malheureusement, il arrive que cela soit mieux réalisé par le combat que par un pacifisme absolu, comme le montrent nombre d’exemples historiques.
Le deuxième point concerne la conviction du pape qu’il est inacceptable de déléguer à des systèmes autonomes des décisions létales et irréversibles. Sur ce point, je suis d’accord. Si l’IA offre de nombreux avantages stratégiques, le remplacement du contrôle humain lors de décisions létales ne doit jamais avoir lieu. La supervision humaine doit toujours être garantie. Cependant, refuser l’utilisation d’armes entièrement autonomes ne signifie pas rejeter l’usage de technologies militaires assistées par IA. En effet, tous les systèmes d’armes autonomes utilisent de l’IA, mais toutes les capacités militaires assistées par l’IA ne sont pas forcément des systèmes d’armes autonomes.
Dans mes recherches, j’ai longuement traité des capacités militaires liées à l’intelligence artificielle, que ce soit dans des revues spécialisées ou dans la presse généraliste. Je ne suis pas un défenseur inconditionnel de l’IA et j’admets les risques importants liés à son intégration dans les conflits armés. Cela dit, les systèmes assistés par IA ont aussi la capacité de limiter les dommages. Ils peuvent analyser des quantités massives de données bien plus vite que l’humain, raccourcir la chaîne de décision létale et permettre une plus grande précision dans le ciblage et l’engagement. Cela pourrait théoriquement réduire les risques pour les civils : meilleure identification des cibles, suivi en temps réel des changements sur le terrain (par exemple lorsqu’une cible militaire se retrouve entourée de civils), évaluation plus rigoureuse des dommages collatéraux et frappes plus chirurgicales, qui limitent le recours à des formes de force plus larges et moins discriminantes.
Cependant, le fait qu’une technologie puisse réduire les dommages ne garantit pas qu’elle le fera réellement. Le pape démontre une conscience fine des risques d’embrasement. Son avertissement selon lequel l’IA pourrait plutôt intensifier et proliférer la violence est fondé. L’IA peut en effet accélérer la chaîne létale, ce qui peut réduire dégâts et pertes civiles, mais elle n’assure en rien ces résultats. De récents conflits, comme ceux en Iran ou à Gaza, illustrent cette incertitude et confirment la pertinence des mises en garde du pape.
Cependant, l’IA peut aussi représenter une réelle opportunité pour limiter les conflits et protéger les civils. Dans le monde tel qu’il est, nous observons des adversaires autoritaires et des acteurs non étatiques, souvent dépourvus de contraintes éthiques, qui exploitent l’IA à des fins militaires. Pour les démocraties confrontées à une multiplication des menaces, renoncer aux capacités militaires assistées par l’IA — voire au conflit armé lui-même — risquerait de laisser un avantage à ceux qui ne reconnaissent pas la notion d’imago Dei, la croyance que chaque personne est créée à l’image de Dieu et mérite respect et protection.
Tout au long de son encyclique, le pape souligne également que l’ordre social juste doit protéger les innocents et les plus vulnérables. Or, si nous freinons le développement de nos propres capacités militaires assistées par l’IA pendant que nos adversaires les adoptent sans limites, ce sont justement ces populations vulnérables que nous exposons au danger. Il me paraît donc moralement et éthiquement impératif d’explorer tous les moyens possibles pour contenir les conflits et minimiser les pertes civiles — y compris en étant prêts à utiliser les mêmes technologies que celles employées par nos adversaires, mais avec des garde-fous stricts pour éviter les dérives redoutées par le pape.
Le pape lui-même semble laisser une porte étroite ouverte à cette voie médiane. S’il exprime de sérieuses préoccupations, il n’est ni anti-technologie, ni opposé à l’IA en elle-même. Il la décrit comme potentiellement bénéfique, si elle sert le bien commun, mais dangereuse si elle est animée par la compétition implacable ou la recherche de pouvoir et de profit. Il écrit que « le développement et l’utilisation de l’IA dans la guerre doivent être soumis aux contraintes éthiques les plus rigoureuses, pour garantir le respect de la dignité humaine, de la sacralité de la vie et éviter la course aux armements » (paragraphe 197). Il insiste aussi sur « l’importance d’inculquer, autant que possible, des valeurs et un jugement solide aux systèmes artificiels que nous créons, afin qu’ils contribuent à un écosystème moral dans lequel les humains sont mieux à même d’écouter leur propre conscience et où les modèles d’IA établissent des limites appropriées ».
En somme, il suggère que si l’IA est utilisée dans les conflits armés, ce ne peut l’être que sous condition de garde-fous rigoureux. Peut-être entend-il aussi que vouloir « soumettre l’IA dans la guerre aux contraintes éthiques les plus sévères » revient à freiner son développement. Si tel est son propos, alors, bien que respectueux de ma foi et du pape, je ne peux partager cette position sur ce point précis.
Une gouvernance stricte de l’IA comme voie médiane
Le pape et moi sommes d’accord sur le devoir de défendre la sacralité de la vie et la nécessité de garde-fous pour garantir que l’IA réduit les dommages et non l’inverse. Là où nos avis divergent peut-être, c’est sur la confiance que nous plaçons respectivement dans la capacité à instaurer ces garde-fous, et sur leur suffisance. Entre suspendre le développement militaire de l’IA et avancer avec une gouvernance stricte, le pontife semblerait préférer la première option, tandis que je privilégie la seconde. Les risques existent dans les deux cas, mais je crois que ceux liés à une interruption du développement de l’IA militaire sont plus grands.
Je partage aussi les inquiétudes du pape sur l’écart actuel entre ce que nous devrions avoir en termes de gouvernance et ce dont nous disposons aujourd’hui. La plupart des initiatives existantes, telles que la Déclaration politique sur l’utilisation responsable de l’IA militaire ou l’initiative sur l’IA responsable dans le domaine militaire, sont des cadres d’aspiration non contraignants, dépourvus de lois applicables ou de politiques opérationnelles obligatoires. Quelques politiques tangibles existent, notamment la Directive 3000.09 du Département de la Défense américain sur l’autonomie dans les systèmes d’armes, ou la Directive 3000.17 sur la mitigation et la réponse aux dommages civils. Mais elles restent insuffisantes. Par exemple, la Directive 3000.09 requiert un « niveau approprié de jugement humain » concernant les armes autonomes, sans en définir précisément le contenu, laissant une grande marge d’interprétation. De plus, la supervision humaine perd tout sens si les décisions sont rapidement validées sous la pression temporelle. Enfin, cette directive cible surtout les systèmes d’armes autonomes, alors que les risques liés à l’IA sont présents tout au long de la chaîne de décision. Une erreur en amont pourrait passer inaperçue lors de l’approbation du tir en aval.
Se pose aussi la question de l’application de ces politiques : sans mécanismes d’exécution, elles restent lettre morte. Ce dont nous avons besoin sont des lois contraignantes, idéalement internationales, comme le recommandent le Comité international de la Croix-Rouge et le Secrétaire général des Nations Unies, ou comme le réclament au Congrès américain des organisations telles que le Brennan Center for Justice ou Americans for Responsible Innovation.
Les récents développements confirment la pertinence des avertissements papaux. Le Pentagone révise actuellement sa doctrine de ciblage pour inclure une place plus large à l’IA. Un rapport indique que l’armée américaine envisage désormais « des systèmes où l’IA initie les actions avec une surveillance humaine », marquant une évolution par rapport au précédent modèle de « système à l’humain dans la boucle », où c’est un humain qui initie les actions. Si l’humain reste impliqué, son rôle devient celui d’un simple superviseur et non plus d’initiateur. Cette mise à jour vise aussi à réduire le temps entre détection et tir et à accélérer le rythme des opérations.
Cela constitue un pas dans la mauvaise direction. Il faut avancer prudemment, et non accroître la cadence des opérations sans garde-fous renforcés. L’utilisation responsable de l’IA militaire exige au minimum cinq garde-fous applicables et contraignants : un contrôle humain significatif, une auditabilité et responsabilité, des tests rigoureux, une revue juridique et une supervision démocratique. Par ailleurs, certaines lignes rouges restent à ne jamais franchir, comme l’alerte du pape contre l’usage d’armes totalement autonomes.
Ces garde-fous doivent impérativement être inscrits dans des lois exécutoires. Le Congrès devrait conditionner l’autorisation et le financement des programmes militaires d’IA au respect, démontré par des rapports obligatoires, des exigences liées au contrôle humain, à l’audit, aux tests opérationnels, à la responsabilité, à la revue juridique et à l’évaluation des risques. Les notions telles que « contrôle humain significatif » doivent être précisément définies afin de supprimer toute ambiguïté. Les manquements doivent entraîner des sanctions concrètes, comme la suspension des financements et la mise en cause des responsables associés aux systèmes non conformes.
Enfin, aucun cadre unilatéral ne saurait régler le problème du risque collectif. Les États-Unis doivent conditionner leur collaboration en matière d’achats militaires, de partage de renseignement et d’opérations conjointes à l’adoption de standards responsables pour l’IA. Et parce que des régimes autoritaires ou des acteurs hostiles pourraient rejeter ces contraintes, les démocraties doivent agir entre elles. Ce pourrait être la seule manière d’éviter la course aux armements tant redoutée par le pape, sans rester passives face à la montée des menaces.
Les mois et années à venir testeront notre capacité à développer, réguler et utiliser les systèmes militaires renforcés par l’IA de façon à limiter les conflits et leurs souffrances au lieu de les amplifier. En cas d’échec, les mises en garde du pape risquent de s’avérer tragiquement fondées. Pour l’heure, je crois qu’un avenir plus sûr reste envisageable, mais à la lumière de mes recherches, je ne peux faire confiance au seul dialogue et à l’idéalisme. Je crois que seuls des États démocratiques préparés à employer les mêmes outils que leurs adversaires, mais avec des protections strictes, pourront conjurer ce danger. Pourtant, cette conclusion ne me rassure pas pleinement, en grande partie grâce à l’encyclique. C’est peut-être une bonne chose. Il est salut de voir que Magnifica Humanitas refuse de laisser les entreprises, responsables politiques, militaires ou chercheurs comme moi, se dérober à la responsabilité morale derrière des algorithmes opaques. Il est salutaire qu’elle nous pousse à toujours nous interroger, même lorsque nous défendons les solutions que nous estimons nécessaires. Jusqu’à ce que nous les trouvions, et peut-être même après, mon esprit et mon cœur resteront en un fragile équilibre, unis dans l’impératif sacré de protéger les innocents mais toujours en proie au dilemme des moyens pour y parvenir.
Craig Douglas Albert, Ph.D., est professeur de sciences politiques et directeur fondateur du Master en Intelligence et Études de Sécurité ainsi que du programme doctoral en politique de renseignement, défense et cybersécurité à l’Augusta University (Géorgie, États-Unis). Il a publié abondamment sur la guerre de l’information, l’IA en compétition globale et gouvernance, ainsi que sur les opérations cyber, dans des revues telles que Defense & Security Analysis, Cyber Defense Review, Global Society, Journal of Information Warfare, Journal of Information Technology and Politics et Digital War.
Image : Edgar Beltrán via Wikimedia Commons
