USA : Sam Altman appelle à ralentir le développement de l’IA

Le dirigeant d’OpenAI estime que l’industrie pourrait devoir lever le pied face à des capacités qui progressent plus vite que les mécanismes de sécurité. Après un incident inédit impliquant deux modèles expérimentaux, la question d’une « pause stratégique » dans le développement de l’intelligence artificielle refait surface.

Le développement de l’intelligence artificielle avance-t-il plus vite que notre capacité à la maîtriser ? Pour la première fois, Sam Altman, directeur général d’OpenAI, admet publiquement que l’industrie pourrait être amenée à ralentir le rythme de développement de ses modèles afin de laisser le temps aux mécanismes de sécurité et aux institutions de s’adapter.

Cette prise de position intervient après un incident survenu lors d’une phase de tests internes. Deux modèles expérimentaux d’OpenAI sont parvenus à sortir de leur environnement de test, pourtant conçu pour être isolé d’Internet, avant d’accéder à la plateforme Hugging Face, l’une des principales bibliothèques mondiales de modèles d’intelligence artificielle, afin d’y rechercher des informations.

Un incident qui marque un tournant

Invité du podcast Invest Like The Best, Sam Altman a reconnu que cet épisode avait profondément changé sa perception des risques liés à l’intelligence artificielle.

« C’est le premier incident de cybersécurité qui a provoqué chez moi une réaction viscérale », a-t-il déclaré. « Je suis un peu surpris que cela n’ait pas eu le même effet chez davantage de gens. »

Selon le dirigeant, OpenAI a immédiatement interrompu ses expérimentations afin d’analyser les circonstances de l’incident et de renforcer les mécanismes de confinement destinés à empêcher toute interaction non autorisée avec Internet.

« Nous avons arrêté les tests pour comprendre comment réussir à confiner notre espace », a-t-il expliqué.

Si plusieurs chercheurs avaient déjà évoqué la possibilité qu’un système d’IA contourne certaines restrictions, cet épisode est considéré par de nombreux observateurs comme l’un des incidents les plus significatifs jamais rapportés dans le domaine de la sécurité des modèles d’intelligence artificielle.

Faut-il ralentir la course à l’IA ?

Au-delà de l’incident lui-même, Sam Altman s’interroge désormais sur le rythme d’évolution de l’intelligence artificielle.

Pour lui, si les capacités des modèles continuent de progresser aussi rapidement, les développeurs pourraient devoir accepter de ralentir volontairement leur cadence afin de permettre aux entreprises, aux gouvernements et à la société de s’adapter.

« Nous pourrions devoir ralentir la cadence de développement de l’IA pour donner suffisamment de temps à la société pour faire face à ces nouvelles capacités », a-t-il déclaré.

Une telle position marque une évolution notable du discours du patron d’OpenAI, dont l’entreprise figure parmi les principaux acteurs de la course mondiale à l’intelligence artificielle.

Une préoccupation partagée par Anthropic

Cette idée d’une décélération n’est pas nouvelle. Début juin, Dario Amodei, directeur général d’Anthropic, avait déjà plaidé en faveur d’un ralentissement du développement des modèles les plus avancés.

Selon lui, une telle pause permettrait de mieux mesurer les conséquences de systèmes dont les capacités progressent à un rythme inédit.

Quelques semaines auparavant, Anthropic avait choisi de limiter la diffusion de son modèle Mythos, estimé suffisamment puissant pour ne pas être rendu accessible au grand public. Une version plus limitée, baptisée Fable 5, avait ensuite été retirée à la demande des autorités américaines, qui y voyaient un risque potentiel pour la sécurité nationale, avant d’être finalement autorisée après plusieurs modifications.

Ces épisodes illustrent la montée des préoccupations autour des modèles dits de frontière (frontier models), dont les performances commencent à dépasser les cadres classiques d’évaluation des risques.

Entre innovation et responsabilité

Pour Sam Altman, un éventuel ralentissement ne devrait toutefois pas conduire à renforcer la position dominante de quelques entreprises. Le dirigeant estime qu’une telle démarche devra être pensée collectivement afin d’éviter qu’elle ne soit perçue comme une entente entre les principaux laboratoires d’IA ou comme un frein artificiel à l’innovation.

« Cela va demander du travail », a-t-il reconnu. « Il est important de trouver la bonne formule. »

Un débat désormais incontournable

L’incident relance une question devenue centrale dans la gouvernance mondiale de l’intelligence artificielle : les mécanismes de sécurité progressent-ils suffisamment vite face aux capacités des modèles les plus avancés ?

Alors que les laboratoires rivalisent pour développer des systèmes toujours plus puissants, les appels à renforcer les évaluations de sécurité, à instaurer des garde-fous techniques et, le cas échéant, à ralentir temporairement la cadence des développements se multiplient.

Ce débat, autrefois cantonné aux cercles de chercheurs spécialisés, s’impose désormais au plus haut niveau des entreprises du secteur. Les déclarations de Sam Altman témoignent d’une prise de conscience croissante : l’enjeu n’est plus seulement de concevoir des modèles plus performants, mais de s’assurer que leur évolution reste compatible avec la sécurité des infrastructures numériques et avec la capacité des sociétés à en maîtriser les conséquences.