[ DOSSIER ] International : Les Instituts de sécurité de l’IA, nouvelle architecture de la gouvernance mondiale ?

Derrière la montée en puissance des modèles d’IA se dessine une question stratégique : qui évaluera ces modèles qui façonneront les économies, les démocraties et les systèmes de défense de demain ? La réponse prend la forme d’un réseau inédit d’Instituts de sécurité de l’IA (AI Safety Institutes ou AI Security Institutes), chargés d’évaluer les modèles les plus avancés avant leur déploiement. Ces organismes constituent désormais l’une des principales infrastructures publiques de contrôle des systèmes d’intelligence artificielle.

Le point de départ remonte au Sommet sur la sécurité de l’IA de Bletchley Park, organisé au Royaume-Uni en novembre 2023. Pour la première fois, plusieurs gouvernements reconnaissent officiellement que les modèles dits frontier nécessitent une expertise scientifique permanente indépendante des entreprises qui les développent. La sécurité de l’IA cesse alors d’être uniquement un sujet académique pour devenir un enjeu de politique publique.

Cette dynamique s’accélère en 2024. En mai, la Déclaration de Séoul appelle à renforcer la coopération internationale. Six mois plus tard, le 21 novembre 2024, dix juridictions – Australie, Canada, Commission européenne, France, Japon, Kenya, Corée du Sud, Singapour, Royaume-Uni et États-Unis – créent officiellement à San Francisco le Réseau international des Instituts de sécurité de l’IA.

L’objectif est clair : mutualiser les compétences afin d’éviter que chaque État développe seul ses propres méthodes d’évaluation.

Une coopération scientifique avant tout

Contrairement aux organisations internationales traditionnelles, ce réseau n’a pas vocation à produire de nouvelles réglementations. Il constitue avant tout une plateforme technique. Ses travaux reposent sur quatre missions principales : développer la recherche scientifique sur les risques liés aux modèles avancés ; harmoniser les méthodes de test utilisées avant leur déploiement ; produire des référentiels communs d’évaluation ; partager les connaissances avec les pays dont les capacités techniques demeurent limitées.

Cette approche traduit une évolution importante de la gouvernance mondiale : les États cherchent désormais à disposer de leurs propres capacités d’expertise, au lieu de s’appuyer uniquement sur les évaluations réalisées par les entreprises.

Trois visions nationales de la sécurité de l’IA

Si les instituts poursuivent des objectifs communs, leurs priorités diffèrent sensiblement selon les pays.

Le Royaume-Uni fait figure de pionnier. Créé fin 2023 sous le nom d’AI Safety Institute, l’organisme britannique est rapidement devenu une référence internationale pour l’évaluation des modèles de pointe. Ses chercheurs ont notamment développé Inspect, une suite d’outils ouverte permettant de tester les capacités et les vulnérabilités des grands modèles de langage. En 2025, Londres rebaptise toutefois l’institut AI Security Institute, un changement qui n’est pas uniquement sémantique. La priorité se déplace progressivement vers la protection des infrastructures critiques, la cybersécurité et les risques liés aux agents autonomes. Le Royaume-Uni ouvre également une antenne à San Francisco afin de travailler au plus près des grands laboratoires américains.

Aux États-Unis, l’évolution est encore plus marquée. Initialement hébergé au sein du National Institute of Standards and Technology (NIST), l’US AI Safety Institute devient en 2025 le Center for AI Standards and Innovation (CAISI). Le changement reflète une nouvelle doctrine. L’accent est désormais mis sur : la compétitivité industrielle américaine ; la sécurité nationale ; les risques chimiques, biologiques, radiologiques et nucléaires (CBRN) ; la protection des chaînes d’approvisionnement. En 2026, le CAISI lance également une initiative spécifique consacrée aux agents IA, signe que l’attention se déplace progressivement des modèles conversationnels vers les systèmes capables d’agir de manière autonome.

La France suit une trajectoire différente. En janvier 2025, elle crée l’Institut national pour l’évaluation et la sécurité de l’intelligence artificielle (INESIA). Plutôt que de constituer une nouvelle administration, le gouvernement choisit une structure fédératrice associant plusieurs organismes publics : l’ANSSI pour la cybersécurité ; Inria pour la recherche scientifique ; le Laboratoire national de métrologie et d’essais (LNE) ; le PEReN pour l’analyse des systèmes algorithmiques.

Cette organisation traduit la philosophie européenne : l’évaluation technique doit accompagner la mise en œuvre de l’AI Act tout en protégeant les droits fondamentaux.

Des méthodes communes pour tester les modèles

La coopération internationale dépasse désormais les échanges institutionnels. Les instituts développent ensemble des protocoles d’évaluation harmonisés. L’un des principaux résultats est la création du Joint Evaluation Protocol (JEP). Ce cadre permet d’évaluer différents modèles selon des critères comparables : robustesse ; cybersécurité ; résistance aux attaques ; comportements inattendus; risques liés aux usages malveillants.

Des exercices internationaux ont également été organisés. En 2025, plusieurs instituts participent à une simulation consacrée aux agents IA autonomes, testant leur comportement face aux tentatives d’exfiltration de données ; aux injections de prompts malveillants ; aux prises de contrôle à distance.

Ces exercices illustrent une évolution importante : l’évaluation ne porte plus uniquement sur ce que les modèles savent répondre, mais sur ce qu’ils sont capables de faire lorsqu’ils interagissent avec des systèmes réels.

Une gouvernance confrontée à de fortes limites

Malgré ces avancées, plusieurs obstacles demeurent. Le premier concerne les ressources humaines. Les administrations peinent à recruter des spécialistes capables de rivaliser avec les rémunérations proposées par OpenAI, Anthropic, Google DeepMind ou Meta. Pour combler cet écart, plusieurs instituts font appel à des experts issus directement de l’industrie. Cette pratique améliore les compétences disponibles, mais soulève également des interrogations sur les risques de conflits d’intérêts et de capture réglementaire.

Autre difficulté : l’accès aux modèles. En dehors de l’Union européenne, les instituts dépendent souvent de la coopération volontaire des entreprises pour tester les systèmes avant leur commercialisation. Autrement dit, une partie de leur capacité d’évaluation reste conditionnée au bon vouloir des laboratoires privés.

Enfin, la représentativité géographique demeure limitée. Si des pays comme le Kenya ou l’Inde rejoignent progressivement le réseau, celui-ci reste largement dominé par les économies développées disposant d’importantes capacités de calcul.

Une nouvelle ligne de fracture géopolitique

L’évolution des instituts révèle également deux conceptions distinctes de la gouvernance de l’IA. Le modèle européen privilégie une approche centrée sur la régulation, les droits fondamentaux et la protection des citoyens. À l’inverse, les États-Unis et le Royaume-Uni orientent progressivement leurs instituts vers la sécurité nationale, la résilience des infrastructures critiques et la compétition stratégique avec les grandes puissances technologiques.

Cette divergence pourrait influencer durablement les normes internationales. À mesure que les modèles évoluent vers des systèmes autonomes capables d’exécuter des actions complexes, la question n’est plus seulement de savoir qui développe l’IA, mais aussi qui possède l’expertise scientifique permettant de l’évaluer.

Vers un « GIEC de l’intelligence artificielle » ?

L’apparition du Réseau international des Instituts de sécurité de l’IA constitue probablement l’une des évolutions institutionnelles les plus importantes depuis l’essor de l’intelligence artificielle générative. En quelques années, les États ont commencé à construire une infrastructure publique d’expertise destinée à réduire leur dépendance vis-à-vis des entreprises qui dominent aujourd’hui le secteur.

Le défi reste toutefois considérable. Les instituts devront démontrer leur indépendance scientifique, attirer les meilleurs chercheurs, élargir leur coopération aux pays émergents et adapter en permanence leurs méthodes à une technologie dont les capacités progressent à un rythme inédit.

À terme, leur crédibilité pourrait devenir un élément central de la gouvernance mondiale de l’IA. Dans un paysage où les systèmes deviennent toujours plus autonomes et plus puissants, ces instituts pourraient jouer un rôle comparable à celui qu’exerce aujourd’hui le GIEC pour le climat : fournir une expertise scientifique indépendante afin d’éclairer les décisions publiques, sans se substituer aux responsables politiques.