À l’avenir, les forces armées ne pourront ni agir militairement ni organiser leur administration sans recourir à l’intelligence artificielle (IA). En juillet dernier, le ministère de la Défense allemand a publié ses nouvelles directives relatives à l’IA, qui établissent les règles d’utilisation de cette technologie aussi bien dans les systèmes d’armes que pour améliorer l’efficacité administrative. Après avoir été confidentielle, cette conception stratégique est désormais accessible dans une version publique.
Un point central de cette nouvelle directive est la définition de la maîtrise humaine dans l’emploi de l’intelligence artificielle. Les forces armées allemandes privilégient un contrôle humain dépendant du contexte, connu internationalement sous le terme meaningful human control. Cette approche diffère fondamentalement du modèle jusqu’alors préconisé dans les sphères scientifique et politique, appelé human in the loop, qui maintient l’humain comme acteur essentiel dans la chaîne décisionnelle.
Cette évolution s’explique par les changements sur les différents champs de bataille. Une frégate en haute mer utilise l’IA pour la défense aérienne de manière différente d’une unité d’infanterie en combat urbain, explique le général de corps d’armée Michael Vetter, chef du département Innovation & Cyber (IC) au ministère de la Défense. L’essentiel est que la décision fondamentale d’engager un système d’arme reste prise par un humain, même si celui-ci n’intervient plus directement dans la séquence de fonctionnement.
Voici comment la nouvelle conception formule ce principe :
« Un principe central est l’approche centrée sur l’humain, où ce dernier garde le contrôle des décisions critiques. L’IA est un outil d’aide à la décision, non un décideur autonome. La responsabilité du développement, de l’utilisation et des résultats des systèmes IA doit être clairement définie pour garantir la transparence, la confiance, la traçabilité et la sécurité. Cela inclut la divulgation des résultats produits par l’IA ainsi que des données utilisées pour son développement, à travers une documentation appropriée des comportements des systèmes techniques et leur vérifiabilité. Les systèmes IA doivent être suffisamment testés, avec des tolérances d’erreur acceptées. L’enregistrement sécurisé et infalsifiable de toutes les activités et modifications dans l’utilisation du système assure la traçabilité des résultats lorsque cela est nécessaire. Des audits réguliers garantissent que le système IA respecte en permanence les normes éthiques, juridiques et techniques. Le personnel doit disposer des compétences nécessaires pour effectuer des contrôles de plausibilité des résultats de l’IA afin de détecter les propositions de décision erronées et d’agir en conséquence. »
Le ministère et la Bundeswehr développent déjà URANOS, un système assisté par IA destiné à détecter, analyser rapidement et réagir à des menaces sur le flanc est de l’OTAN. Ce système doit fusionner les données provenant de nombreux capteurs pour fournir un tableau de situation intégré, avec la capacité d’engager des armes si nécessaire. La brigade blindée 45 en Lituanie devrait disposer de cette technologie dès l’année prochaine.
Le cadre juridique reste une priorité, d’autant plus face à d’éventuels adversaires qui utiliseraient des systèmes d’armes IA sans aucune restriction. « La confiance est un facteur clé », souligne Jan Ganschow, chargé de mission à la direction IC, lors d’une présentation ministérielle sur l’IA fin juillet. La Bundeswehr doit gagner la confiance de la société dans l’utilisation légitime de cette technologie, tout comme les forces armées doivent avoir la conviction de manier ces outils dans le cadre légal.
Par ailleurs, la Bundeswehr ne peut se passer de l’intelligence artificielle dans ses opérations, avertit J. Ganschow. Renoncer à cette technologie affaiblirait significativement les forces allemandes, ce qui serait contraire à leur mandat constitutionnel. Le cadre juridique et éthique doit donc être conçu pour augmenter l’efficacité des opérations militaires et non la restreindre.
Selon les experts du ministère de la Défense, l’intelligence artificielle est aussi indispensable pour la gestion administrative que pour l’utilisation opérationnelle des armes. Elle s’applique notamment à la gestion du matériel et des stocks, ainsi qu’à la maintenance prédictive : les pièces susceptibles de s’user ne sont pas remplacées à la suite d’une panne ou d’un calendrier rigide, mais selon les prévisions d’usure fournies par l’IA.
Toutefois, la conception officielle met en garde :
« L’utilisation constante et incorrecte de l’IA peut entraîner une perte de compétences chez le personnel, qui ne pourra plus compenser un éventuel dysfonctionnement de l’IA. Il est donc impératif, dans les domaines critiques, de maintenir une formation sans recours à l’IA afin d’assurer une résilience face à d’éventuelles perturbations, notamment celles causées par l’adversaire. »