L’armée chinoise tire la sonnette d’alarme face à un problème croissant lié à l’intelligence artificielle (IA) : celle-ci pourrait devenir un système qui ne fait qu’entonner ce que l’utilisateur souhaite entendre, au lieu de refléter la réalité.
Dans un article récent publié par le journal officiel de l’armée chinoise, PLA Daily, des analystes mettent en garde contre ce qu’ils qualifient de « courtisanerie de l’IA ». Ce phénomène pourrait représenter un risque majeur à mesure que l’Armée populaire de libération (APL) multiplie l’usage de l’intelligence artificielle dans la commande, l’analyse du renseignement et les simulations de combat.
Le problème survient lorsque les modèles d’IA privilégient la conformité aux attentes des utilisateurs plutôt que la précision factuelle, enfermant ainsi ces derniers dans des « cocons informationnels » où les hypothèses initiales sont renforcées tandis que les données contradictoires sont systématiquement écartées.
