Partie 2 — Le Panel scientifique : les experts chargés d’évaluer les risques de l’IA

Ils ne votent aucune loi. Ils ne prononcent aucune sanction. Pourtant, leurs analyses influencent les décisions les plus importantes en matière de régulation de l’intelligence artificielle en Europe. Avec la mise en place du Panel scientifique prévu par l’AI Act, la Commission européenne se dote d’une expertise technique permanente chargée d’éclairer les autorités face aux risques des modèles d’IA les plus avancés. Qui sont ces experts ? Quel est leur pouvoir réel ? Décryptage.

L’AI Act est souvent présenté comme un texte juridique destiné à encadrer les systèmes d’intelligence artificielle. Pourtant, son application repose sur un constat simple : les autorités publiques ne disposent pas toujours des compétences scientifiques nécessaires pour évaluer des modèles d’IA de plus en plus complexes. Comment apprécier le niveau de risque d’un modèle de fondation ? Comment identifier l’apparition de nouvelles capacités dangereuses? À partir de quel seuil un modèle devient-il un risque systémique ?

Ces questions ne relèvent pas uniquement du droit. Elles exigent une expertise scientifique de très haut niveau. C’est précisément pour répondre à ce besoin que l’Union européenne a créé le Panel scientifique de l’AI Act, prévu par l’article 68 du règlement.

Une « académie de l’IA » au service des régulateurs

Le Panel scientifique est un organe consultatif indépendant composé de 60 experts internationaux recrutés par la Commission européenne. Leur mission n’est pas de remplacer les régulateurs. Ils doivent leur fournir l’expertise technique indispensable pour prendre des décisions éclairées. Le Panel conseille principalement le Bureau européen de l’IA (AI Office) ; les autorités nationales compétentes et la Commission européenne.

Autrement dit, il constitue le bras scientifique de la gouvernance européenne de l’intelligence artificielle.

Une mission : anticiper les risques avant qu’ils ne deviennent des crises

Contrairement aux autorités de surveillance du marché, qui interviennent lorsque des systèmes sont déjà déployés, le Panel scientifique travaille davantage dans une logique d’anticipation. Ses responsabilités couvrent plusieurs domaines stratégiques.

* Détecter les risques systémiques

Le Panel peut alerter l’Office européen de l’IA lorsqu’il estime qu’un modèle de fondation présente des risques susceptibles d’affecter la société à grande échelle.

Cette fonction de veille scientifique est essentielle dans un contexte où les capacités des modèles progressent rapidement.

* Conseiller sur la classification des modèles GPAI

L’une des questions les plus sensibles de l’AI Act concerne la qualification des modèles d’IA à usage général.

Le Panel participe à l’élaboration des critères permettant d’identifier les modèles présentant un risque systémique. Ces avis pourront avoir des conséquences importantes, puisque cette qualification entraîne des obligations réglementaires renforcées.

* Développer les méthodes d’évaluation

L’Europe devra définir comment tester les modèles les plus puissants. Le Panel contribuera notamment à élaborer les protocoles d’évaluation ; les méthodologies d’analyse des risques et les critères techniques utilisés par les autorités.

Il jouera ainsi un rôle comparable à celui des organismes scientifiques qui définissent les normes dans d’autres secteurs industriels.

* Soutenir les autorités nationales

Les autorités de surveillance du marché pourront également solliciter le Panel lorsqu’elles seront confrontées à des questions techniques complexes.

L’objectif est de garantir une application cohérente de l’AI Act dans les différents États membres.

Une expertise qui couvre l’ensemble des risques liés à l’IA

Les domaines de compétence représentés au sein du Panel témoignent de l’évolution des préoccupations européennes. Les experts travaillent notamment sur l’évaluation des modèles GPAI ; les risques systémiques ; la cybersécurité ; les risques d’utilisation malveillante ; la sécurité des fournisseurs ; les méthodes d’atténuation des risques et la mesure de la puissance de calcul.

Cette diversité montre que la sécurité de l’IA dépasse désormais les seules questions algorithmiques pour intégrer des dimensions géopolitiques, industrielles et sociétales.

Une composition internationale

Bien qu’il s’agisse d’un organe européen, le Panel ne se limite pas aux seuls chercheurs de l’Union. La Commission a retenu des spécialistes issus des universités européennes ; des centres de recherche ; d’organisations indépendantes, mais également de plusieurs pays extérieurs à l’Union européenne. Parmi les personnalités les plus connues figure notamment Yoshua Bengio, l’un des pionniers mondiaux de l’apprentissage profond et lauréat du prix Turing.

Le Panel compte également plusieurs chercheurs reconnus dans les domaines de la sécurité de l’IA, de l’alignement des modèles, de la cybersécurité et de l’éthique numérique.

Pour préserver son indépendance, chaque membre siège à titre personnel pour un mandat de deux ans renouvelable et doit signer une déclaration d’intérêt ainsi qu’un engagement de confidentialité.

Un équilibre entre expertise et représentativité

La Commission n’a pas uniquement recherché les meilleurs profils scientifiques. Elle a également veillé à préserver un équilibre géographique avec un maximum de trois experts par nationalité ; une représentation équilibrée entre les femmes et les hommes et une diversité des disciplines.

Cette approche traduit la volonté de faire du Panel un organe scientifique pluraliste plutôt qu’un cercle fermé d’experts issus d’un nombre limité de pays ou d’institutions.

Un rôle consultatif… mais potentiellement déterminant

Le Panel scientifique ne dispose d’aucun pouvoir de sanction. Ses avis ne sont pas juridiquement contraignants. Pour autant, son influence pourrait être considérable.

Dans les faits, les autorités européennes s’appuieront largement sur ses analyses pour apprécier les risques des nouveaux modèles ; élaborer les lignes directrices; définir les méthodes d’évaluation ; éclairer les décisions de l’Office européen de l’IA.

Comme dans d’autres domaines scientifiques, les recommandations des experts pourraient progressivement devenir des références pour l’ensemble de la régulation européenne.