Le passage des pilotes à des superviseurs de systèmes autonomes est au cœur des défis rencontrés lors des essais en vol des avions de combat collaboratifs. Contrairement aux avions traditionnels où un comportement inattendu est perçu comme une panne à corriger, les systèmes autonomes, ou agents, peuvent produire des décisions correctes mais inattendues, obligeant les opérateurs à adopter une nouvelle mentalité : attendre et juger les surprises.
Les manuels actuels de l’Armée de l’air américaine, ainsi que les directives du Pentagone sur les systèmes d’armes autonomes, ne préparent pas encore les pilotes à superviser ces agents, limitant leur intervention à l’approbation ou au veto de comportements préprogrammés. Or, pour tirer pleinement parti de l’autonomie, il est nécessaire d’élaborer un manuel hardware-agnostique centré sur la supervision des agents, non plus autour d’un appareil précis mais autour de la mission et des tâches que l’agent doit accomplir.
Une telle approche permettrait de classer les risques selon la difficulté des tâches pour la machine plutôt que pour l’humain, en se fondant sur des probabilités plutôt que sur l’instinct. Le manuel devrait également intégrer la disponibilité cognitive de l’opérateur, influençant la capacité à commander plusieurs agents selon les conditions opérationnelles.
Les vols d’essai ont montré que les agents autonomes peuvent parfaitement maintenir un vol dans des limites géographiques définies, mais aussi prendre des décisions inattendues pouvant, dans certains cas, créer des risques comme des collisions en vol. Il faut donc former les opérateurs à juger si un comportement inattendu est intelligent ou erroné, ce qui est un préalable au commandement sans contrôle direct.
Cette transformation culturelle, où l’humain collabore avec la machine plutôt que de la contrôler strictement, a des implications majeures. Par exemple, une même tâche peut être facile ou difficile selon la formation et les capacités de l’agent, indépendamment du cadre humain. La supervision des agents doit donc s’appuyer sur une évaluation fine des entrées et des formations reçues par la machine, ainsi que sur un encadrement probabiliste des résultats attendus.
Enfin, pour assurer une adoption efficace des plateformes autonomes, il faudra vulgariser un langage commun de commande adapté à toutes les plateformes. Cela permettra des mises à jour rapides des procédures sans devoir réviser à chaque fois les manuels spécifiques à un type d’appareil, assurant ainsi que les opérateurs restent en phase avec l’évolution rapide des technologies autonomes.
En résumé, l’intégration réussie des avions autonomes passe par la création d’un manuel mission-centrique et agent-centrique qui encadre la prise de décision humaine face à l’imprévu technologique, formalise la gestion des risques, et établit la confiance indispensable à l’adoption de ces systèmes à haute autonomie sur les champs de bataille modernes.
