Établir des limites vérifiables sur l’intelligence artificielle (IA) avancée soulève des défis comparables à ceux rencontrés dans l’histoire du contrôle des armements nucléaires. L’exemple des négociations entre les États-Unis et l’Union soviétique en 1963 montre que même un détail technique apparemment simple, comme le nombre d’inspections annuelles, relève en réalité d’un arbitrage politique entre assurance et risques d’espionnage.
Une proposition de suivi du calcul employé pour l’entraînement des modèles d’IA
Dans un cadre plausible de compétition entre Washington et Pékin, un système pourrait exiger la déclaration préalable de tout entraînement dépassant un seuil fixé de puissance de calcul, avec obligation de surveillance. Ce mécanisme vise à fournir un avertissement réciproque permettant de réduire les risques de surprise stratégique sans freiner le développement technologique.
Ce dispositif se fonde sur la visibilité industrielle des centres de données : consommation électrique, infrastructures matérielles, interconnexion des puces, etc. En règle générale, des registres infalsifiables seraient produits selon la loi nationale et vérifiés par un secrétariat technique conjoint. Toute anomalie détectée entraînerait un accès contrôlé pour vérification et sanction.
Les obstacles techniques et politiques à surmonter
La vérification s’accompagne inévitablement d’une révélation partielle d’informations sensibles. Une surveillance trop intrusive pourrait dévoiler des faiblesses stratégiques ou perturber la propriété intellectuelle, nourrissant la méfiance de la partie contrôlée.
Par ailleurs, une analyse poussée des données recueillies (consommation, images satellites, mouvements de personnel…) peut permettre de tirer des inférences collatérales qui dépassent la simple conformité — ceci augmentant les craintes d’espionnage. Ce cercle vicieux peut conduire à restreindre l’accès aux informations, accroître les incertitudes, et donc aggraver les exigences de contrôle.
Enfin, la notion d’une vérification « suffisante » est une construction politique : les acteurs doivent déterminer quel risque d’évasion est acceptable, sachant qu’aucun dispositif technique ne peut garantir une certitude absolue. L’utilisation d’un seuil basé sur la quantité de calcul reste provisoire, notamment face aux évolutions rapides des technologies d’IA.
Axes de progrès pour un régime de contrôle
Pour progresser, plusieurs exigences sont identifiées :
- Filterabilité : séparation claire entre les données nécessaires au contrôle et celles susceptibles de révéler des secrets sensibles, avec auditabilité des informations collectées et conservées.
- Tests rigoureux : confrontation régulière aux scénarios d’évasion par des panels indépendants qui évalueraient la robustesse des méthodes sans pour autant divulguer les vulnérabilités aux acteurs étatiques.
- Cycles rapides d’évaluation : contrairement aux processus longs du passé dans le nucléaire, les évolutions technologiques nécessitent d’adopter une démarche agile, impliquant laboratoires, fournisseurs de cloud, fabricants de puces et la communauté scientifique.
En définitive, la vérification dans le domaine de l’IA ne se limitera pas à la technique mais constituera un équilibre complexe entre contrôle, confiance, sécurité et politique. Il ne s’agit pas de prouver l’absence de tricherie, mais de détecter précocement les écarts majeurs, de maîtriser les risques d’espionnage et de formaliser explicitement les incertitudes acceptables, afin de bâtir un cadre de coopération crédible entre puissances.
