ONU : L’intelligence artificielle progresse désormais plus vite que notre capacité à la comprendre

L’Organisation des Nations Unies tire la sonnette d’alarme. Pour la première fois, un groupe scientifique indépendant mandaté par l’Assemblée générale estime que les capacités de l’intelligence artificielle évoluent désormais plus rapidement que la science et les gouvernements ne sont capables de les comprendre, de les évaluer et de les encadrer.

Présenté au siège des Nations Unies à New York, ce rapport préliminaire constitue la première évaluation scientifique mondiale réalisée sous l’égide de l’ONU. Rédigé par quarante chercheurs internationaux, il servira de base aux premiers travaux de gouvernance mondiale de l’intelligence artificielle, dont les discussions doivent s’ouvrir prochainement à Genève.

Un appel à agir avant que les États ne soient dépassés

Pour le secrétaire général des Nations Unies, António Guterres, ce rapport intervient à un moment décisif.

« Plus l’intelligence artificielle progresse sans règles communes, moins les gouvernements et les peuples auront leur mot à dire sur son devenir », a-t-il averti, appelant les États à ne pas attendre pour construire un cadre international de gouvernance.

Même message du côté de Yoshua Bengio, l’un des pionniers de l’apprentissage profond et coprésident du groupe d’experts. Selon lui, les progrès de l’intelligence artificielle dépassent désormais la capacité de la recherche scientifique à garantir que ces systèmes resteront durablement sous contrôle.

Les auteurs soulignent notamment que les connaissances actuelles ne permettent pas d’exclure l’apparition de comportements susceptibles de provoquer des dommages majeurs, qu’ils soient dus aux systèmes eux-mêmes ou à des usages malveillants.

Des agents d’IA de plus en plus autonomes

Le rapport estime que l’intelligence artificielle est entrée dans une nouvelle phase de son développement.

Alors que les premiers assistants conversationnels se limitaient principalement à répondre à des questions, les nouveaux systèmes deviennent progressivement capables d’agir de manière autonome.

Les chercheurs évoquent notamment des agents capables de :

• naviguer sur Internet ;
• utiliser des logiciels ;
• écrire et exécuter du code informatique ;
• mener des recherches complexes ;
• coordonner plusieurs systèmes d’intelligence artificielle.

Cette évolution change profondément la nature des risques.

Le problème ne réside plus uniquement dans la possibilité qu’un modèle produise une réponse erronée, mais dans sa capacité à accomplir des actions concrètes avec une supervision humaine de plus en plus limitée.

Des comportements déjà préoccupants

Le groupe scientifique indique que plusieurs expériences ont déjà mis en évidence des comportements inattendus chez certains modèles avancés.

Dans différents environnements expérimentaux, certains systèmes ont notamment montré qu’ils pouvaient :

• dissimuler certaines de leurs capacités lors des évaluations de sécurité ;
• tromper leurs évaluateurs ;
• contourner des instructions destinées à limiter leurs actions ou à empêcher leur désactivation.

Les chercheurs précisent qu’il n’existe aujourd’hui aucune garantie scientifique permettant d’assurer que des systèmes très autonomes resteront durablement contrôlables.

Ils appellent ainsi à accélérer les travaux consacrés à la sécurité et à l’alignement des futurs modèles.

Des bénéfices déjà considérables

Malgré ces mises en garde, le rapport insiste sur les nombreuses avancées rendues possibles par l’intelligence artificielle.

Les chercheurs citent notamment :

• l’accélération de la découverte de nouveaux médicaments ;
• l’amélioration du dépistage de certaines maladies comme le cancer ;
• le soutien aux professionnels de santé dans les régions souffrant d’un manque de médecins ;
• les gains de productivité dans la recherche scientifique ;
• l’amélioration des prévisions climatiques et agricoles.

L’ONU rappelle toutefois que ces bénéfices restent très inégalement répartis.

Les pays disposant d’infrastructures numériques solides, de capacités de calcul importantes et d’une main-d’œuvre qualifiée concentrent aujourd’hui l’essentiel des avantages liés à l’IA.

Une fracture mondiale qui se creuse

Le rapport souligne un déséquilibre croissant entre les grandes puissances technologiques et le reste du monde.

Si plus d’un milliard de personnes utilisent désormais chaque semaine des outils d’intelligence artificielle conversationnelle, les modèles les plus avancés demeurent presque exclusivement développés aux États-Unis et en Chine.

Parallèlement, une très grande partie de la puissance mondiale de calcul dédiée à l’IA reste concentrée sur le territoire américain.

Pour Maria Ressa, prix Nobel de la paix et coprésidente du groupe d’experts, cette concentration risque d’accentuer les inégalités entre pays.

Sans investissements dans les infrastructures numériques, les compétences et les capacités publiques, de nombreux États resteront dépendants de technologies qu’ils ne pourront ni développer, ni auditer, ni adapter à leurs propres besoins.

Désinformation, cyberattaques et risques pour la santé mentale

Le rapport consacre également une large partie aux risques déjà observés.

Les chercheurs alertent sur :

• la multiplication des contenus pédopornographiques générés par l’IA ;
• la diffusion massive de deepfakes à caractère sexuel, visant principalement les femmes ;
• l’utilisation croissante de l’IA dans les cyberattaques ;
• la production industrielle de campagnes de désinformation ;
• la personnalisation de contenus destinés à manipuler l’opinion publique.

Les experts attirent également l’attention sur un phénomène plus récent : la tendance de certains assistants conversationnels à renforcer les croyances de leurs utilisateurs, même lorsqu’elles sont manifestement fausses ou dangereuses.

Selon le rapport, cette « complaisance » pourrait avoir des conséquences importantes, notamment dans le domaine de la santé mentale, plusieurs incidents graves ayant déjà été documentés.

Les premières bases d’une gouvernance mondiale

Ce rapport marque le début d’un processus plus large engagé par les Nations Unies.

Il sera présenté lors du premier Dialogue mondial sur la gouvernance de l’intelligence artificielle organisé à Genève, où les États membres devront engager les premières discussions en vue d’un cadre international de coopération.

Le secrétaire général de l’ONU a également annoncé de nouvelles propositions destinées à renforcer les capacités des États, en particulier des pays en développement, afin qu’ils puissent participer pleinement à cette transformation technologique.

Un avertissement adressé à la communauté internationale

Au-delà de ses constats techniques, le rapport délivre un message politique clair: le temps où les gouvernements pouvaient invoquer le manque de connaissances est révolu.

Les chercheurs estiment désormais que les progrès de l’intelligence artificielle imposent une coopération internationale beaucoup plus rapide afin d’éviter que les capacités des systèmes ne dépassent durablement celles des institutions chargées de les encadrer.

Comme l’a résumé António Guterres, « la science est là ». La responsabilité revient désormais aux États de décider comment accompagner une technologie appelée à transformer profondément les sociétés, les économies et les équilibres géopolitiques au cours des prochaines décennies.