ONU : Antonio Guterres appelle les États à agir avant qu’il ne soit trop tard

Le secrétaire général de l’ONU plaide pour une gouvernance internationale de l’intelligence artificielle et met en garde contre les risques liés aux systèmes de plus en plus autonomes.

Réunis à Genève pour le premier Dialogue mondial sur la gouvernance de l’intelligence artificielle, les représentants des États membres des Nations unies, du secteur privé et du monde académique ont été invités à répondre à une question qui pourrait façonner les décennies à venir : comment encadrer une technologie qui évolue plus vite que les institutions chargées de la réguler ?

À l’ouverture de cette rencontre inédite, le secrétaire général des Nations unies, Antonio Guterres, a lancé un appel à une mobilisation internationale afin de construire une gouvernance mondiale de l’intelligence artificielle. Pour lui, le véritable enjeu n’est pas de choisir entre enthousiasme et méfiance envers cette technologie, mais entre une régulation collective et une évolution laissée au hasard.

« Le choix qui s’offre à nous n’est pas entre la confiance aveugle dans l’IA et la peur de celle-ci. Il est entre une gouvernance pensée et organisée, ou une dérive laissée au hasard », a déclaré Antonio Guterres.

Une technologie qui dépasse désormais les cadres réglementaires

Le chef de l’ONU estime que l’intelligence artificielle est entrée dans une nouvelle phase de son développement. Les modèles les plus avancés sont désormais capables d’écrire du code informatique, d’exécuter des tâches complexes sur Internet et de prendre des décisions avec une intervention humaine de plus en plus limitée.

Selon lui, cette accélération technologique met en évidence le retard des institutions internationales.

« Nos institutions ont été conçues pour encadrer des machines qui exécutent des ordres. Elles ne sont pas prêtes à gouverner des machines qui prennent des décisions », a-t-il averti, estimant que certaines évolutions pourraient devenir irréversibles si elles ne sont pas anticipées.

Dans un clin d’œil à la popularité du vibe coding — pratique consistant à générer automatiquement du code grâce à l’IA — Antonio Guterres a rappelé que certaines responsabilités ne peuvent être automatisées.

« On ne peut pas vibe-coder la vérité. On ne peut pas vibe-coder l’avenir de l’humanité. »

Trois menaces majeures identifiées

Le secrétaire général a identifié trois défis prioritaires qui devraient guider les futures discussions internationales.

Le premier concerne la vitesse de développement des systèmes d’IA, qui progresse plus rapidement que les capacités des gouvernements à élaborer des règles adaptées.

Le deuxième réside dans la concentration des capacités entre les mains d’un nombre très limité d’entreprises et de pays, soulevant des questions de souveraineté technologique et d’équilibre géopolitique.

Enfin, Antonio Guterres s’est inquiété de l’impact des contenus générés par l’IA sur l’intégrité de l’information, la désinformation et la confiance du public envers les faits.

« La question est de savoir si nous allons façonner ensemble cette transformation, ou la laisser nous façonner », a-t-il lancé aux délégations présentes.

Une gouvernance fondée sur quatre priorités

Tout en reconnaissant le potentiel de l’intelligence artificielle pour accélérer les découvertes scientifiques, améliorer les systèmes de santé ou transformer l’éducation, le chef de l’ONU estime que son développement doit reposer sur quatre piliers : la sécurité, le respect des droits humains, le renforcement des capacités des pays en développement et une plus grande transparence.

L’objectif est d’éviter que la révolution de l’IA ne profite qu’aux économies les plus avancées et ne creuse davantage les inégalités mondiales.

Une protection renforcée des enfants

Parmi les annonces les plus marquantes figure la préparation d’un Engagement mondial pour la sécurité des enfants face à l’intelligence artificielle, qui sera prochainement soumis aux États membres.

Le texte prévoit notamment d’imposer des évaluations de sécurité avant le déploiement de systèmes d’IA destinés aux mineurs, d’interdire la génération d’images à caractère sexuel impliquant des enfants et d’obliger les plateformes à orienter vers une assistance humaine tout enfant manifestant des signes de détresse.

Antonio Guterres a dénoncé les risques liés aux assistants conversationnels pouvant se présenter comme des amis auprès des plus jeunes.

« Aucun enfant ne devrait servir de cobaye à une IA non réglementée », a-t-il affirmé.

Éviter une nouvelle fracture mondiale

Au-delà de la protection des mineurs, le secrétaire général souhaite également réduire les écarts technologiques entre les pays.

Il a annoncé son intention de proposer à l’Assemblée générale des Nations unies la création d’un Fonds mondial pour l’intelligence artificielle, destiné à financer le développement des capacités en IA dans les pays les moins avancés.

Pour Antonio Guterres, le risque est désormais de voir la fracture numérique se transformer progressivement en une fracture de l’intelligence artificielle.

L’empreinte environnementale de l’IA également visée

Le dirigeant onusien a également rappelé les enjeux environnementaux liés à l’explosion des centres de données.

Dans la continuité de ses récentes prises de position sur le climat, il appelle les grandes entreprises de l’IA à publier l’empreinte carbone complète de leurs modèles et à alimenter leurs infrastructures exclusivement grâce à des énergies renouvelables d’ici 2030.

Les armes autonomes dans le viseur

Antonio Guterres a enfin consacré une partie de son intervention aux usages militaires de l’intelligence artificielle.

Il a renouvelé son opposition aux systèmes d’armes létales autonomes capables de sélectionner et d’attaquer une cible sans intervention humaine.

« Des machines qui sélectionnent leur cible, l’attaquent et ôtent la vie sans contrôle humain sont moralement répugnantes, politiquement inacceptables et doivent être interdites par le droit international », a-t-il déclaré.

Une étape vers une gouvernance internationale

Organisé sur deux jours à Genève, le premier Dialogue mondial sur la gouvernance de l’IA marque une nouvelle étape dans les discussions internationales sur la régulation de l’intelligence artificielle. Il sera suivi du sommet AI for Good, consacré aux applications de l’IA au service du développement durable.

Pour les Nations unies, le moment est décisif. Face à des systèmes toujours plus puissants et autonomes, Antonio Guterres estime que la génération actuelle est probablement la dernière à pouvoir fixer les règles de coexistence entre l’humanité et les machines. L’objectif affiché est désormais clair : construire une gouvernance mondiale capable d’accompagner l’innovation tout en protégeant les droits fondamentaux, la sécurité collective et l’intérêt général.