Une erreur causée par une intelligence artificielle a presque conduit à une opération militaire américaine contre un navire chinois en mer. Un rapport de renseignement militaire, élaboré avec l’aide d’une IA, a mal identifié des cargaisons figurant à bord du navire, les confondant avec des composants liés à un programme d’armes nucléaires.
Cette confusion est survenue lorsqu’un analyste militaire a utilisé un chatbot d’intelligence artificielle pour analyser les informations disponibles sur le navire alors qu’il se trouvait au Moyen-Orient. Le chatbot a croisé des données issues de sources ouvertes et du renseignement électromagnétique, mais a mal interprété la nature des marchandises listées dans le manifeste du navire.
L’analyste s’est ensuite servi de l’IA pour rédiger un rapport de renseignement standardisé à partir des conclusions fournies, et ce document a été diffusé au sein des forces militaires, ce qui a failli entraîner une confrontation injustifiée.
Cette affaire souligne les risques liés à l’utilisation non maîtrisée de l’intelligence artificielle dans les procédures de renseignement et de décision stratégique.
