En 2024, Paul Scharre et Michael Depp soulignaient que l’intégration de l’intelligence artificielle (IA) dans la chaîne de commandement nucléaire représente à la fois des opportunités et des risques majeurs. Deux ans plus tard, à mesure que l’IA s’impose dans les systèmes et les processus militaires, leur analyse mérite d’être actualisée pour mieux comprendre les enjeux actuels.
En 2024, vous écriviez que l’intégration de l’IA dans la chaîne de commandement nucléaire comportait à la fois des avantages et des risques. Où en est-on aujourd’hui ? L’IA nucléaire est-elle une priorité pour le Département de la Défense américain ou reste-t-elle reléguée au second plan face à d’autres urgences ?
Actuellement, l’intégration de l’IA dans les opérations nucléaires constitue une préoccupation parmi d’autres pour le Département de la Défense américain et elle reste clairement secondaire. Cela ne signifie pas pour autant que les progrès ont cessé, notamment dans le renforcement de la cybersécurité des réseaux nucléaires NC3 par l’IA, mais la priorité est donnée à l’adoption de l’IA pour la planification, l’analyse du renseignement, les opérations classiques et les fonctions administratives. Le Pentagone a déjà utilisé l’IA dans des opérations militaires récentes, principalement pour soutenir l’analyse du renseignement et la planification, notamment en Iran.
Comment les autres pays, en particulier les puissances nucléaires rivales, ont-ils avancé dans leur utilisation de l’IA dans les systèmes nucléaires ? Affichent-ils plus de retenue ou au contraire une plus grande volonté que les États-Unis pour confier un rôle central à l’IA dans ces systèmes ?
Depuis la publication de notre article, on observe une progression modeste vers un accord entre États nucléaires sur le maintien du contrôle humain dans l’utilisation des armes nucléaires. En novembre 2024, la Chine a officiellement reconnu, en accord avec les États-Unis, que le contrôle humain doit rester prédominant sur la décision d’emploi des armes nucléaires. C’est une étape importante, que nous avions recommandée. Cependant, comme nous l’avions souligné, il reste beaucoup à faire pour mettre en œuvre cet engagement. La Russie, quant à elle, reste peu ouverte à la discussion sur l’intégration de l’IA dans ses systèmes nucléaires et semble même assouplir son contrôle sur ses armes nucléaires dans un cadre plus large. Sur le terrain, elle concentre davantage ses efforts d’intégration de l’IA et de l’autonomie dans les opérations militaires classiques liées au conflit en Ukraine.
Les États-Unis et la Chine avaient convenu, lors de la visite du président Trump à Pékin en mai, d’entamer des discussions directes entre gouvernements sur les garde-fous relatifs à l’IA. Ce dialogue constitue une opportunité pour faire progresser des intérêts communs, notamment en traduisant en actions concrètes cet accord sur le maintien du contrôle humain dans les décisions de lancement nucléaire. Cela passerait d’abord par une clarification des termes de cet engagement et des moyens mis en œuvre pour assurer ce contrôle. Les États-Unis devraient aussi chercher à étendre cet accord aux autres puissances nucléaires, notamment la Russie.
À l’époque de votre premier article, les États-Unis organisaient la première réunion sur la Déclaration politique pour une utilisation militaire responsable de l’IA et de l’autonomie, endossée par 54 pays. Depuis 2024, ces principes sont-ils respectés ou au contraire compromis ? Quel bilan peut-on dresser et où se situent les marges de progrès ?
Depuis la déclaration, quelques pays supplémentaires — Djibouti, Israël, Panama et Paraguay — ont adhéré, portant le total à 58 signataires. Mais malgré cette progression modeste, la portée de cette initiative est largement affaiblie par certaines prises de position au sein de l’administration américaine, notamment par le vice-président JD Vance en février 2025, qui a publiquement minimisé la valeur de la collaboration internationale sur les garde-fous de l’IA. Ces critiques ne remettent pas directement en cause la déclaration, mais témoignent d’un désintérêt marqué pour la construction d’une coalition internationale sur la sécurité de l’IA dans cette administration.
Cette situation est défavorable aux efforts américains de création de normes fondées sur des principes volontaires. Toutefois, ces principes restent des repères essentiels pour la politique militaire américaine sur l’IA. Le fait qu’ils reprennent des idées américaines anciennes signifie que, même si les États-Unis choisissent de ne pas les promouvoir à l’échelle globale, leur gouvernement continuera probablement à les appliquer en interne. Il existe encore d’importantes marges pour que les États-Unis diffusent ces principes à l’international, tout en respectant l’approche axée sur le marché propre à l’administration Trump.
Un pas concret serait de partager les meilleures pratiques en matière d’assurance qualité des systèmes militaires d’IA et autonomes. Cela permettrait de renforcer la prise de conscience des risques d’accident, de faire progresser la norme selon laquelle chaque pays est responsable de garantir le contrôle humain sur ses systèmes, et d’informer les États des mesures pratiques à adopter pour améliorer les tests et évaluations des technologies IA et autonomes.
Avec le recul, que modifieriez-vous dans votre argumentaire initial ?
Nous aurions dû mieux prendre en compte deux réalités. D’une part, nous n’avions pas envisagé que les États-Unis céderaient leur rôle de leader rhétorique dans la gouvernance internationale de l’IA. Alors que l’Amérique a toujours montré une certaine ambivalence vis-à-vis des organisations internationales, nous ne pensions pas qu’elle choisirait de se retirer complètement du débat et de renoncer à façonner cette gouvernance. Il aurait fallu anticiper cette possible inflexion en proposant des recommandations adaptées à une administration moins engagée dans le leadership politique international.
D’autre part, notre principale inquiétude portait alors sur l’intégration directe de l’IA dans les opérations nucléaires. Aujourd’hui, c’est plutôt l’impact indirect des systèmes d’IA militaires à usage général sur l’arène nucléaire qui soulève des questions cruciales pour la stabilité stratégique. Comment les armées pourront-elles garantir la cybersécurité et la fiabilité de leurs systèmes nucléaires à l’heure où des IA de plus en plus sophistiquées, comme les systèmes de type Mythos, se répandent ? Comment doivent-elles anticiper que leurs adversaires utilisent ces IA pour planifier des engagements ou des stratégies de contingence ? L’évolution de l’IA interagira de manière imprévue avec la stabilité nucléaire, car elle s’intègre dans toutes les fonctions militaires, du renseignement aux opérations diplomatiques en passant par l’information. Si l’avenir reste incertain, les tendances à l’amélioration constante des capacités d’IA sont nettes. Il est donc essentiel de préparer les institutions à un monde où les IA à usage général deviendront de plus en plus performantes.
Paul Scharre est vice-président exécutif du Center for a New American Security (CNAS) et auteur de Four Battlegrounds: Power in the Age of Artificial Intelligence.
Michael Depp est analyste indépendant en politique de l’IA. Ancien associé de recherche au projet sur la sécurité et la stabilité de l’IA au CNAS, il publie principalement sur The Watchful Peace.
