Des simulations incluant des IA montrent des dynamiques inédites d’escalade nucléaire et des pistes pour mieux comprendre la prise de décision stratégique assistée par intelligence artificielle.
Lors d’une série de wargames opposant deux nations nucléaires aux objectifs conflictuels, des IA ont été utilisées comme joueurs pour simuler des crises militarisées. Malgré les prévisions pessimistes sur une escalade rapide vers le conflit nucléaire, plusieurs essais ont montré que les deux parties savaient user de désescalades et éviter la guerre, à l’exception d’une session où un objectif explicite d’imposer un règlement définitif a conduit à des usages plus actifs d’armes nucléaires tactiques.
Ce constat remet en question l’idée répandue selon laquelle les IA seraient intrinsèquement « escalatoires » en raison de leur corpus d’entraînement, qui privilégierait les stratégies coercitives. Au contraire, il semblerait que la nature des objectifs donnés aux IA influe davantage sur le comportement d’escalade.
Les défis méthodologiques du jeu analytique et de l’IA
Les wargames analytiques, conçus comme de véritables expériences scientifiques, exigent une grande rigueur : contrôle des variables, multiples répétitions pour assurer la validité statistique, et hypothèses claires à tester. Le recours à l’IA permet d’effectuer un grand nombre de parties en peu de temps, offrant une maîtrise inédite sur les biais et les paramètres expérimentaux malgré les limites inhérentes aux humains.
Toutefois, les IA présentent aussi des limites majeures : biais introduits via les données d’entraînement, hallucinations factuelles, sensibilité aux formulations des prompts, problèmes de mémoire à long terme, et incohérences dans le raisonnement. Ces caractéristiques ne rendent pas les IA inutilisables, mais imposent de calibrer et caractériser précisément leurs comportements.
Redéfinir les wargames à l’ère de l’IA
On doit élargir la notion classique de wargame – centrée sur la cognition humaine – pour inclure toute forme de « décisionnaire » y compris les intelligences artificielles autonomes ou collaboratives. Par exemple, la capacité des IA à modifier leurs stratégies à mi-chemin et chercher des issues comme le statu quo prolongeant le jeu est une valeur ajoutée.
Cette perspective reflète la réalité croissante des équipes mixtes humain-IA qui, dans un futur proche, prendront des décisions stratégiques conjointes.
Explorer la « psychologie machine » par les wargames
Il est crucial de déterminer si et comment les IA raisonnent ou se contentent de réciter des données apprises. Dans certains jeux historiques simulés, les IA ont par exemple systématiquement reproduit des décisions historiques (telles que l’invasion de la Russie en 1812) sans adaptation tactique, reflétant une tendance à la « récitation » plutôt qu’au raisonnement.
Comprendre ces limites aide à anticiper leurs réactions dans des scénarios inédits, garantit une meilleure prédiction de leurs choix, et permet d’identifier spécifiquement leurs biais, comme un possible biais à l’escalade.
Une campagne scientifique nécessaire
Pour répondre à ces enjeux, les auteurs proposent trois axes prioritaires d’étude : clarifier si l’escalade vient de la structure des jeux, du corpus d’entraînement ou des modèles eux-mêmes ; identifier où les IA basculent du raisonnement à la simple récitation ; et étendre ces analyses à plusieurs modèles pour vérifier la généralisation des conclusions.
Ces recherches nécessitent une collaboration entre laboratoires de défense, universitaires, développeurs d’IA, et services de renseignement, ainsi qu’un accès à des données sensibles dans des environnements sécurisés.
En somme, intégrer l’IA dans les simulations de crise offre une fenêtre unique pour mieux comprendre leur potentiel impact sur la guerre nucléaire, mais demande de traiter avec rigueur méthodologique leurs biais et comportements spécifiques. L’objectif est d’améliorer la prise de décision stratégique humaine augmentée par IA et d’éviter des erreurs coûteuses en période de crise.
