FRANCE : L’ACPR veut encadrer l’équité des algorithmes : une étape clé avant l’entrée en vigueur de l’AI Act
L’autorité de supervision des banques et des assurances prépare le terrain de l’AI Act. Le 1er juillet 2026, l’Autorité de contrôle prudentiel et de résolution (ACPR) a ouvert une consultation publique sur l’équité algorithmique dans le secteur financier. Derrière cette initiative se dessine un enjeu stratégique : définir les règles qui permettront demain d’évaluer si les systèmes d’intelligence artificielle utilisés par les banques et les assureurs prennent des décisions justes, transparentes et non discriminatoires.
Cette consultation, ouverte jusqu’au 30 septembre 2026, intervient alors que l’AI Act européen confiera officiellement à l’ACPR, à partir du 2 décembre 2027, la surveillance des systèmes d’IA « à haut risque » utilisés dans les services financiers.
L’AI Act entre dans le concret
Depuis l’adoption de l’AI Act, de nombreuses autorités publiques travaillent à transformer les principes du règlement européen en méthodes opérationnelles de contrôle. L’ACPR est l’une des premières autorités sectorielles françaises à franchir cette étape. Son ambition n’est pas simplement de commenter le texte européen mais de construire un véritable référentiel d’évaluation des systèmes d’IA, destiné aussi bien aux établissements financiers qu’aux futurs contrôleurs.
L’objectif est clair : lorsque les obligations de l’AI Act deviendront pleinement applicables, les superviseurs devront être capables de vérifier concrètement si un modèle respecte les exigences européennes. Autrement dit, il ne suffira plus d’affirmer qu’un algorithme est « équitable ». Il faudra être capable de le démontrer.
L’équité algorithmique, un défi bien plus complexe qu’il n’y paraît
Dans une banque ou une compagnie d’assurance, la différenciation entre les clients est normale. Un crédit immobilier n’est pas accordé dans les mêmes conditions à tous les emprunteurs. Une prime d’assurance varie selon le risque présenté par l’assuré. Toute la difficulté consiste donc à distinguer une différenciation légitime, fondée sur des critères économiques, d’une discrimination injustifiée.
L’ACPR rappelle que l’équité algorithmique désigne l’ensemble des méthodes permettant d’éviter que les décisions automatisées ne produisent des traitements défavorables liés à certaines caractéristiques personnelles sensibles. Le sujet est devenu particulièrement complexe avec l’arrivée des modèles d’intelligence artificielle les plus récents.
Le nouveau risque : les variables sensibles « reconstruites »
Longtemps, la stratégie consistait simplement à supprimer des jeux de données les informations les plus sensibles : sexe, origine, religion ou état de santé. Mais cette approche montre aujourd’hui ses limites.
Les modèles d’IA sont désormais capables de reconstituer indirectement ces informations à partir d’autres variables. Le code postal peut devenir un indicateur de l’origine sociale. Les habitudes de consommation peuvent révéler l’état de santé. Certaines données financières peuvent laisser deviner l’âge ou la situation familiale.
Même lorsqu’une variable sensible n’est jamais utilisée explicitement, le modèle peut donc reproduire les mêmes biais. C’est précisément ce phénomène que l’ACPR cherche désormais à mieux encadrer.
Au-delà du droit, une approche très technique
Le document publié ne se limite pas à rappeler les obligations juridiques.Il s’intéresse également aux outils utilisés par les data scientists pour mesurer l’équité d’un algorithme.
L’ACPR y présente notamment :
- les principaux cadres juridiques applicables ;
- les différentes définitions de l’équité algorithmique ;
- les métriques statistiques permettant de détecter un biais ;
- les méthodes de correction des discriminations ;
- des pistes d’intégration dans les processus internes des établissements.
Cette approche est significative.
Elle montre que la régulation de l’IA ne pourra plus reposer uniquement sur le droit. Elle nécessitera également une compréhension fine des méthodes de machine learning et des modèles statistiques.
Un document qui n’est pas encore une doctrine
L’ACPR prend soin de préciser que ce texte n’a pas valeur de doctrine officielle. Il s’agit d’un document de réflexion destiné à ouvrir le débat avec les acteurs de la place financière.
Pour élaborer cette première version, l’autorité s’est appuyée sur des ateliers techniques organisés avec plusieurs établissements volontaires ainsi que sur les travaux de chercheurs spécialisés dans l’évaluation des systèmes d’IA. La consultation doit permettre d’enrichir cette base avant l’élaboration d’un futur référentiel.
Une évolution majeure pour la gouvernance de l’IA
Au-delà du secteur financier, cette initiative illustre une transformation plus profonde de la régulation européenne.
Après plusieurs années consacrées aux principes éthiques de l’intelligence artificielle, les autorités commencent désormais à construire les outils concrets qui permettront de contrôler les systèmes déployés sur le terrain.
L’ACPR ne se contente plus de rappeler les obligations de l’AI Act : elle cherche à définir comment mesurer objectivement l’équité d’un algorithme. Cette évolution pourrait faire école.
D’autres régulateurs, notamment dans les domaines de la santé, de l’emploi ou de l’éducation, seront probablement confrontés aux mêmes questions : comment auditer un système d’IA ? Quels indicateurs utiliser ? Quels seuils retenir ?Comment arbitrer entre performance économique et absence de discrimination?Autant de questions auxquelles l’AI Act apporte des principes, mais qui nécessitent encore des méthodes opérationnelles.
Avec cette consultation publique, l’ACPR ouvre l’un des premiers grands chantiers techniques de la mise en œuvre de la régulation européenne de l’intelligence artificielle. Derrière le concept d’« équité algorithmique » se joue désormais une question centrale : celle de la capacité des autorités à vérifier, preuves à l’appui, que les décisions prises par les systèmes d’IA restent compatibles avec les exigences de transparence, de non-discrimination et de protection des droits fondamentaux.
