INTERNATIONAL : L’Open Secure AI Alliance lance SAFE, un projet pour partager les incidents de sécurité liés à l’IA
Face à la montée des risques liés à l’intelligence artificielle, plusieurs acteurs majeurs de l’industrie veulent instaurer une culture de transparence inspirée de l’aviation. L’Open Secure AI Alliance (OSAIA) a publié une demande de commentaires (Request for Comments, RFC) pour un nouveau groupe de travail baptisé Shared AI Findings Exchange (SAFE). L’objectif est de créer un cadre permettant aux organisations de partager, de manière confidentielle, les incidents et les quasi-incidents impliquant des systèmes d’IA afin d’améliorer collectivement la sécurité de l’ensemble de l’écosystème.
Dans le communiqué de presse publié le 4 août sur le site de Linux Fondation, Les promoteurs de SAFE constate qu’à mesure que l’intelligence artificielle s’impose dans les applications d’entreprise, les infrastructures critiques et les outils de développement, les incidents de sécurité deviennent inévitables. La question n’est plus de savoir si des défaillances surviendront, mais comment l’ensemble de la communauté peut en tirer des enseignements.
Aujourd’hui, la plupart des entreprises enquêtent sur ces incidents en interne. Les informations recueillies restent souvent confidentielles, empêchant les autres acteurs de bénéficier des retours d’expérience et de renforcer leurs propres défenses.
L’Open Secure AI Alliance souhaite rompre avec cette logique en proposant un mécanisme de partage volontaire, sécurisé et confidentiel des incidents liés à l’IA.
Un modèle inspiré de la sécurité aérienne
Les concepteurs de SAFE s’inspirent directement du Système de rapport sur la sécurité aérienne (ASRS) de la NASA, qui permet depuis plusieurs décennies aux pilotes, contrôleurs aériens et compagnies de signaler des incidents de manière confidentielle afin d’améliorer la sécurité de l’ensemble du secteur.
L’idée est de transposer cette approche à l’intelligence artificielle. Les incidents et les quasi-incidents ne seraient pas utilisés pour désigner des responsables, mais pour identifier des failles récurrentes, comprendre leurs causes et élaborer des recommandations susceptibles de bénéficier à tous les acteurs.
Un cadre ouvert à l’ensemble de l’écosystème
Le projet de RFC a été rédigé par des contributeurs issus de plusieurs entreprises et organisations, parmi lesquelles Cisco, CrowdStrike, Hugging Face, NVIDIA et Red Hat. La proposition est désormais ouverte aux commentaires de l’ensemble de la communauté, qu’il s’agisse de développeurs, de chercheurs, d’entreprises, de fournisseurs de services cloud, d’opérateurs d’infrastructures ou d’organismes de normalisation.
Les promoteurs du projet insistent sur le fait qu’il ne s’agit pas d’une spécification définitive, mais d’un document de travail destiné à être enrichi par les contributions de la communauté.
Une gouvernance indépendante
La proposition prévoit que SAFE fonctionne sous une gouvernance indépendante afin qu’aucun fournisseur d’IA ou acteur industriel ne puisse influencer les conclusions ou orienter les recommandations.
Le dispositif serait conçu pour s’appliquer aussi bien aux modèles ouverts qu’aux systèmes propriétaires. Les auteurs du projet rappellent d’ailleurs un principe central de leur démarche : « la confiance n’est pas un contrôle de sécurité ». Selon eux, seule une démarche fondée sur des preuves, des analyses partagées et des améliorations vérifiables peut renforcer durablement la sécurité des systèmes d’IA.
Des recommandations concrètes pour renforcer la sécurité
Au-delà du simple partage d’informations, SAFE ambitionne de produire des ressources directement exploitables par les organisations. Le projet envisage notamment la publication de tests de sécurité réutilisables, de règles de détection, de configurations de référence, de politiques lisibles par machine et de guides de réponse aux incidents.
L’objectif est de constituer progressivement une base commune de bonnes pratiques capable d’évoluer au rythme des nouvelles menaces liées à l’intelligence artificielle.
Une réponse à un contexte de plus en plus préoccupant
Cette initiative intervient alors que plusieurs incidents récents ont mis en évidence les nouvelles capacités des agents d’IA et les défis qu’ils posent en matière de cybersécurité. Les comportements autonomes observés lors d’évaluations de modèles avancés, les tentatives d’ingénierie sociale ou encore les risques liés aux attaques contre la chaîne d’approvisionnement logicielle alimentent les préoccupations des chercheurs et des autorités.
Dans ce contexte, la création d’un mécanisme de partage des retours d’expérience apparaît comme une tentative de structurer une réponse collective face à des risques qui dépassent désormais les frontières d’une seule entreprise ou d’un seul laboratoire.
L’initiative SAFE illustre une évolution importante dans la gouvernance de l’intelligence artificielle. Jusqu’à présent, la sécurité des systèmes d’IA reposait largement sur des évaluations internes menées par les laboratoires et les entreprises. En proposant un cadre de partage confidentiel des incidents, l’Open Secure AI Alliance cherche à faire émerger une culture de l’apprentissage collectif, déjà éprouvée dans des secteurs comme l’aviation ou la cybersécurité.
Cette démarche rappelle que la sécurité de l’IA ne dépend pas uniquement de modèles plus performants, mais aussi de la capacité de l’écosystème à reconnaître ses erreurs, à partager ses expériences et à transformer les incidents en connaissances utiles. À mesure que les systèmes d’IA gagnent en autonomie et en complexité, cette coopération pourrait devenir un pilier essentiel d’une gouvernance responsable, fondée sur la transparence, la confiance et l’amélioration continue.
