OPEN IA : ChatGPT adopte de nouvelles règles pour les utilisateurs de moins de 18 ans

OpenAI poursuit le renforcement de la sécurité des plus jeunes. L’entreprise à l’origine de ChatGPT vient de publier une mise à jour majeure de ses Model Spec (spécifications de modèle), le document qui définit la manière dont ses modèles d’intelligence artificielle doivent se comporter face aux utilisateurs. Cette nouvelle version introduit pour la première fois des principes spécifiquement conçus pour les adolescents de 13 à 17 ans.

L’objectif affiché est clair : adapter les réponses de ChatGPT aux besoins des mineurs, en s’appuyant sur les connaissances issues de la psychologie du développement et les recommandations d’experts.

Une IA qui ne répond plus de la même manière aux adolescents

Jusqu’à présent, les règles encadrant le comportement de ChatGPT s’appliquaient de manière générale à l’ensemble des utilisateurs. Désormais, OpenAI distingue explicitement les adolescents des adultes.

Ces nouveaux principes, baptisés U18, définissent la façon dont l’assistant doit réagir lorsqu’il échange avec un utilisateur âgé de moins de 18 ans.

L’entreprise explique avoir élaboré ces règles en collaboration avec plusieurs spécialistes, dont des représentants de l’American Psychological Association (APA), afin de proposer une expérience davantage adaptée au développement des jeunes.

Quatre principes pour protéger les mineurs

Le nouveau cadre repose sur quatre engagements majeurs.

D’abord, la sécurité des adolescents doit primer sur toute autre considération, même si cela conduit l’assistant à limiter certaines réponses.

Ensuite, ChatGPT devra encourager les jeunes à rechercher un soutien dans le monde réel, qu’il s’agisse de leurs proches, d’enseignants ou de professionnels, plutôt que de devenir leur unique interlocuteur.

OpenAI souhaite également que l’assistant s’adresse aux adolescents comme à des adolescents, sans adopter un ton infantilisant, mais sans les considérer non plus comme des adultes.

Enfin, l’entreprise insiste sur la transparence, en fixant des attentes claires sur ce que l’IA peut — ou ne peut pas — faire.

Des protections renforcées sur les sujets sensibles

Concrètement, ces nouvelles règles concernent en priorité les conversations présentant des risques particuliers.

ChatGPT devra faire preuve d’une vigilance accrue lorsqu’un adolescent aborde des sujets tels que :

• l’automutilation ou les idées suicidaires ;
• les troubles alimentaires et l’image corporelle ;
• les jeux de rôle à caractère romantique ou sexuel ;
• les contenus explicites ou violents ;
• les activités dangereuses ou la consommation de substances ;
• les demandes de confidentialité liées à des comportements à risque.

En cas de situation jugée préoccupante ou de danger imminent, le modèle sera encouragé à orienter l’utilisateur vers des adultes de confiance, des services d’urgence ou des dispositifs d’aide spécialisés.

Les parents davantage associés

Cette évolution s’inscrit dans une stratégie plus large de protection des adolescents.

Depuis plusieurs mois, OpenAI déploie progressivement des contrôles parentaux sur ses différents services. Ces outils sont désormais étendus à de nouveaux produits, notamment les conversations de groupe, le navigateur ChatGPT Atlas et le générateur vidéo Sora.

L’entreprise souhaite également favoriser le dialogue au sein des familles.

Elle met à disposition un guide destiné aux parents, des ressources pédagogiques validées par des spécialistes ainsi que des conseils pour aider les familles à discuter de l’utilisation de l’intelligence artificielle avec leurs enfants.

Par ailleurs, ChatGPT intègre désormais des rappels invitant les utilisateurs à faire des pauses lors de longues sessions d’utilisation.

Une collaboration avec des psychologues et des médecins

OpenAI affirme que cette politique de sécurité est élaborée avec le soutien d’un Conseil d’experts sur le bien-être et l’IA, créé en 2024.

L’entreprise s’appuie également sur son Global Physician Network, un réseau international de médecins chargé d’évaluer le comportement des modèles dans des situations sensibles, notamment lorsqu’un utilisateur manifeste une détresse psychologique.

Cette collaboration a notamment permis d’améliorer la capacité de ChatGPT à reconnaître certains signes de souffrance et à orienter les utilisateurs vers des professionnels lorsque cela est nécessaire.

L’âge bientôt détecté automatiquement

L’une des nouveautés les plus importantes concerne l’identification des utilisateurs mineurs.

OpenAI indique avoir commencé à déployer un système de prédiction de l’âge sur les comptes ChatGPT grand public.

Lorsque l’entreprise estime qu’un utilisateur est probablement mineur, les protections spécifiques seront activées automatiquement.

En cas de doute, OpenAI précise qu’elle appliquera par défaut les règles destinées aux moins de 18 ans. Les utilisateurs majeurs pourront ensuite confirmer leur âge afin de retrouver l’expérience standard.

Une tendance de fond dans l’industrie

Avec cette mise à jour, OpenAI répond à une préoccupation grandissante autour de l’usage de l’intelligence artificielle par les plus jeunes.

Alors que des millions d’adolescents utilisent déjà quotidiennement des assistants conversationnels pour leurs devoirs, leurs recherches ou parfois leurs difficultés personnelles, les autorités publiques et les organisations internationales appellent de plus en plus les entreprises technologiques à renforcer leurs dispositifs de protection.

Ces nouvelles règles marquent ainsi une étape supplémentaire dans l’évolution de ChatGPT : non plus seulement comme un assistant conversationnel, mais comme un service dont le comportement s’adapte désormais à l’âge de ses utilisateurs.