OPEN IA : L’entreprise veut faire de la sécurité des jeunes une priorité mondiale de l’IA
À l’approche du sommet du G7, OpenAI appelle à la création d’un institut international consacré à la sécurité des jeunes face à l’intelligence artificielle. L’entreprise plaide pour l’émergence de normes mondiales afin d’encadrer l’utilisation de l’IA par les mineurs, tout en défendant une approche qui combine protection, éducation et accès aux opportunités offertes par ces technologies.
L’intelligence artificielle s’impose progressivement dans le quotidien des plus jeunes. Qu’il s’agisse d’aider un élève à comprendre un cours de mathématiques, d’apprendre une langue étrangère, de préparer un entretien d’embauche ou de développer des compétences en programmation, les outils conversationnels deviennent des compagnons d’apprentissage de plus en plus présents. Pour OpenAI, cette évolution représente une formidable opportunité, mais également une responsabilité collective qui ne peut plus être ignorée.
À quelques jours du sommet des dirigeants du G7, qui se tiendra à Évian, en France, l’entreprise américaine appelle les grandes démocraties à franchir une nouvelle étape dans la gouvernance de l’intelligence artificielle. Son ambition est de faire émerger un cadre international consacré à la sécurité des jeunes utilisateurs, capable d’accompagner le développement de l’IA bien au-delà des initiatives nationales.
Plutôt qu’une simple déclaration politique, OpenAI propose la création d’un Institut international pour la sécurité des jeunes face à l’IA. Sa mission serait de réunir gouvernements, chercheurs, associations, éducateurs et industriels afin de partager les connaissances scientifiques, harmoniser les bonnes pratiques et élaborer des recommandations communes au rythme des évolutions technologiques. L’entreprise laisse ouverte la forme que pourrait prendre cette structure : un nouvel organisme international ou un institut national existant doté d’un mandat mondial. Selon elle, l’essentiel est de disposer d’une institution permanente capable d’assurer un suivi continu de ces enjeux.
Cette proposition s’appuie sur plusieurs initiatives déjà en cours. OpenAI soutient notamment le Youth AI Safety Institute lancé par Common Sense Media grâce à sa fondation, tout en collaborant avec l’American Federation of Teachers sur les usages pédagogiques de l’IA. L’entreprise met également en avant ses expérimentations menées en Estonie, où ChatGPT est progressivement déployé dans les établissements scolaires. En partenariat avec l’université Stanford et des chercheurs estoniens, OpenAI étudie les effets de ces outils sur les apprentissages afin de produire des données scientifiques destinées à guider les futures politiques publiques.
Au-delà de cette proposition institutionnelle, OpenAI présente une véritable doctrine en matière de protection des mineurs. Selon l’entreprise, les plateformes ne peuvent plus se contenter de laisser aux familles la responsabilité exclusive de la sécurité numérique. Les concepteurs de systèmes d’IA doivent intégrer des protections directement dans leurs produits, dès leur conception.
L’entreprise estime ainsi qu’il devient indispensable de savoir si un utilisateur est mineur afin d’adapter automatiquement son expérience. Pour y parvenir, elle défend le recours à des technologies d’estimation de l’âge respectueuses de la vie privée. Lorsque l’âge ne peut être établi avec certitude, les plateformes devraient appliquer par défaut les protections les plus strictes.
OpenAI plaide également pour une approche davantage fondée sur la prévention. Les entreprises devraient réaliser régulièrement des évaluations des risques liés aux usages de l’IA par les jeunes, non seulement pour identifier les dangers potentiels, mais aussi pour mesurer les bénéfices réels en matière d’apprentissage, de créativité ou de développement des compétences. L’objectif est de ne pas réduire le débat à la seule question des risques, mais d’évaluer l’impact global de ces technologies sur le développement des adolescents.
Les familles occupent également une place centrale dans cette vision. OpenAI estime que les parents doivent disposer d’outils simples leur permettant d’accompagner l’utilisation de l’IA par leurs enfants, notamment en contrôlant certains paramètres, le temps d’utilisation ou encore la gestion des données personnelles. L’entreprise insiste aussi sur la nécessité de communiquer de manière plus transparente sur les mécanismes de protection intégrés aux plateformes afin que chacun puisse comprendre les garanties effectivement mises en œuvre.
Cette approche s’étend aux situations les plus sensibles. OpenAI considère que les fournisseurs d’IA doivent être capables de détecter et de traiter les conversations portant sur l’automutilation, les violences sexuelles, le harcèlement, le pédopiégeage ou toute autre situation présentant un risque grave pour un mineur. Les systèmes devraient alors orienter les utilisateurs vers des ressources adaptées, voire prévenir les parents lorsque cela apparaît nécessaire, tout en empêchant la génération de contenus inappropriés ou susceptibles de mettre en danger les jeunes utilisateurs.
L’entreprise rappelle également que l’intelligence artificielle ne doit jamais remplacer les relations humaines essentielles au développement des adolescents. L’IA doit rester un outil destiné à accompagner les apprentissages, stimuler la créativité et préparer les jeunes au monde professionnel, sans se substituer aux enseignants, aux familles ou aux professionnels de santé.
Cette stratégie s’inscrit dans les évolutions récentes de ChatGPT. OpenAI a progressivement renforcé les protections destinées aux utilisateurs de moins de 18 ans grâce à des contrôles parentaux, des systèmes de prédiction de l’âge et de nouvelles règles de comportement intégrées directement dans ses modèles. Les conversations abordant des sujets sensibles comme l’automutilation, les troubles alimentaires, les activités dangereuses ou les contenus explicites font désormais l’objet de garde-fous renforcés, tandis que les adolescents sont encouragés à solliciter des adultes de confiance ou des services d’aide lorsque la situation l’exige.
L’annonce intervient alors que plusieurs gouvernements cherchent à définir leurs propres règles en matière d’intelligence artificielle. En prenant publiquement position avant le sommet du G7, OpenAI espère influencer l’émergence de standards internationaux qui pourraient servir de référence à l’ensemble du secteur. L’entreprise souhaite notamment que les futurs cadres réglementaires imposent davantage de transparence, de responsabilité et d’audits indépendants afin de vérifier l’efficacité réelle des protections promises.
Au-delà de la sécurité, OpenAI défend une vision plus large de l’intelligence artificielle comme levier d’égalité des chances. L’entreprise estime que des outils correctement encadrés peuvent contribuer à démocratiser l’accès aux connaissances, à réduire certaines inégalités éducatives et à préparer les nouvelles générations à un marché du travail profondément transformé par l’IA. Reste désormais à savoir si les dirigeants du G7 feront de cette proposition l’un des piliers d’une future gouvernance internationale de l’intelligence artificielle.
