Pendant longtemps, la sécurité des utilisateurs s’est surtout concentrée sur la modération des contenus. Avec l’essor des agents conversationnels, une nouvelle question s’impose : comment une intelligence artificielle doit-elle interagir avec un adolescent ?

Cette interrogation n’est plus théorique. Des millions de jeunes utilisent désormais quotidiennement ChatGPT ou d’autres assistants génératifs pour faire leurs devoirs, rechercher des informations, demander des conseils ou simplement discuter. L’UNICEF estime déjà que les enfants adoptent ces outils plus de trois fois plus rapidement que les adultes, alors même que les connaissances scientifiques sur leurs effets restent limitées.

Dans ce contexte, OpenAI vient d’annoncer une évolution importante de sa politique de sécurité. L’entreprise introduit de nouveaux principes de comportement spécifiquement destinés aux utilisateurs de moins de 18 ans. Baptisée U18, cette mise à jour des Model Spec — les règles qui déterminent le comportement de ChatGPT — constitue l’une des premières tentatives d’encadrer les interactions entre une IA conversationnelle et des adolescents selon des principes issus de la psychologie du développement.

L’annonce intervient alors que la protection des mineurs devient progressivement un chantier majeur de la gouvernance mondiale de l’intelligence artificielle.

Une intelligence artificielle qui adapte désormais son comportement selon l’âge

Le changement le plus important ne réside pas dans une nouvelle fonctionnalité mais dans la manière dont ChatGPT est censé raisonner lorsqu’il échange avec un adolescent.

Jusqu’à présent, le modèle appliquait essentiellement les mêmes principes à tous les utilisateurs. Désormais, OpenAI introduit une couche supplémentaire de protection destinée aux jeunes âgés de 13 à 17 ans.

Cette approche repose sur quatre principes directeurs :

• faire de la sécurité des adolescents la priorité absolue ;
• encourager les relations avec les proches et les adultes de confiance plutôt que de favoriser une dépendance envers l’IA ;
• adapter le ton et les réponses au niveau de maturité des jeunes utilisateurs ;
• expliquer clairement les limites de l’assistant afin d’éviter toute confusion sur ses capacités.

L’idée est simple : un adolescent n’interagit pas avec une intelligence artificielle de la même manière qu’un adulte. Les réponses doivent donc tenir compte de cette différence.

Une vigilance renforcée sur les conversations les plus sensibles

Les nouvelles règles concernent avant tout les situations où une interaction peut avoir des conséquences importantes sur le bien-être d’un jeune utilisateur.

OpenAI demande désormais à ChatGPT de faire preuve d’une prudence particulière lorsqu’un adolescent évoque :

• des idées suicidaires ou des comportements d’automutilation ;
• des troubles alimentaires ou des difficultés liées à l’image du corps ;
• une détresse psychologique importante ;
• des contenus sexuels ou violents ;
• des activités dangereuses ;
• des demandes de confidentialité concernant des comportements susceptibles de mettre leur sécurité en danger.

Dans ces situations, l’assistant devra davantage orienter l’utilisateur vers des ressources extérieures, des proches ou des professionnels de santé plutôt que d’essayer de répondre seul.

Cette évolution traduit un changement de philosophie : l’IA n’est plus pensée comme un simple outil d’information, mais comme un acteur dont les réponses peuvent influencer le comportement de personnes particulièrement vulnérables.

Le pari controversé de l’estimation automatique de l’âge

L’autre annonce majeure concerne l’identification des mineurs.

OpenAI déploie progressivement un système capable d’estimer automatiquement l’âge probable des utilisateurs. Si le système estime qu’un compte appartient à un adolescent — ou s’il ne dispose pas d’informations suffisantes — les protections U18 seront appliquées automatiquement.

Le principe est celui du « doute protecteur » : lorsqu’il est impossible de déterminer avec certitude qu’un utilisateur est majeur, l’entreprise préfère appliquer les règles destinées aux mineurs.

Cette approche tranche avec le fonctionnement traditionnel des plateformes numériques, qui reposent essentiellement sur l’âge déclaré lors de l’inscription.

Elle soulève néanmoins plusieurs questions. Les technologies d’estimation de l’âge restent imparfaites et leur généralisation pose inévitablement des enjeux de protection des données personnelles.

Les familles davantage intégrées dans l’écosystème ChatGPT

OpenAI entend également renforcer le rôle des parents.

Depuis plusieurs mois, l’entreprise développe progressivement des outils de contrôle parental permettant de relier le compte d’un adolescent à celui d’un parent, de personnaliser certains paramètres de confidentialité ou encore de mieux suivre l’utilisation de ChatGPT.

Ces protections sont désormais étendues à plusieurs nouveaux services de l’entreprise, notamment les conversations de groupe et le générateur vidéo Sora.

Parallèlement, OpenAI met à disposition des guides destinés aux familles afin d’encourager une utilisation plus responsable de l’intelligence artificielle.

L’entreprise insiste toutefois sur un point : l’IA ne peut remplacer ni les échanges familiaux ni l’accompagnement éducatif.

Au-delà d’OpenAI, une évolution qui pourrait devenir la norme

Cette initiative dépasse le seul cas de ChatGPT.

En Europe, l’AI Act impose déjà une attention particulière aux risques susceptibles d’affecter les droits fondamentaux des personnes vulnérables. Les discussions engagées aux Nations unies placent également la protection des enfants parmi les priorités des futures règles internationales.

La logique évolue progressivement : il ne s’agit plus seulement d’empêcher l’IA de produire des contenus dangereux, mais de concevoir des systèmes capables d’adapter leur comportement en fonction de la vulnérabilité de leurs utilisateurs.

Autrement dit, la sécurité devient une caractéristique intrinsèque des modèles eux-mêmes.

Une avancée importante, mais encore loin de résoudre toutes les difficultés

Malgré cette évolution, plusieurs défis demeurent.

Le premier est technique. Aucun système d’estimation de l’âge n’est aujourd’hui parfaitement fiable. Les adolescents peuvent contourner certaines protections, tandis que des adultes pourraient se voir appliquer des restrictions destinées aux mineurs.

Le deuxième est scientifique. Les effets d’une utilisation quotidienne de l’IA sur le développement cognitif, émotionnel ou social restent encore largement méconnus.

Enfin, cette démarche repose essentiellement sur l’autorégulation d’une entreprise privée. Les principes U18 ne constituent pas une norme juridique, mais des engagements internes dont OpenAI reste seul maître.

La question centrale demeure donc ouverte : jusqu’où peut-on confier aux entreprises le soin de définir les règles encadrant les interactions entre les adolescents et l’intelligence artificielle ?

Vers une nouvelle génération d’IA « développementalement responsable » ?

Avec cette mise à jour, OpenAI reconnaît une réalité qui s’impose progressivement à l’ensemble du secteur : une intelligence artificielle ne peut plus être conçue comme un outil universel répondant indistinctement à tous ses utilisateurs.

À mesure que ces systèmes deviennent des compagnons d’apprentissage, des assistants personnels et parfois même des interlocuteurs privilégiés, leur comportement doit tenir compte de l’âge, de la maturité et de la vulnérabilité de ceux qui les utilisent.

Cette évolution pourrait annoncer une nouvelle étape dans la gouvernance de l’IA : après les débats sur les biais, la transparence ou les risques systémiques, la protection du développement des enfants et des adolescents pourrait devenir l’un des principaux critères d’évaluation des modèles d’intelligence artificielle.

Reste à savoir si cette approche volontaire suffira à rassurer les autorités publiques ou si elle préfigure, au contraire, les futures obligations réglementaires qui s’imposeront à l’ensemble des acteurs du secteur.