USA : Plus de 1 100 salariés d’entreprise d’IA demandent un mécanisme international pour ralentir le développement des modèles les plus puissants

Face à l’accélération des capacités de l’intelligence artificielle et à plusieurs incidents récents impliquant des modèles de pointe, plus de 1 100 chercheurs et responsables de laboratoires appellent les États-Unis à soutenir un mécanisme international permettant de ralentir temporairement le développement de l’IA lorsque les risques deviennent difficiles à maîtriser.

L’idée d’un ralentissement coordonné du développement de l’intelligence artificielle gagne du terrain au sein même de l’industrie. Plus de 1 100 chercheurs, ingénieurs et dirigeants du secteur ont signé demandent au gouvernement américain de soutenir une initiative internationale visant à créer les outils techniques et les mécanismes de gouvernance nécessaires pour suspendre, si nécessaire, la progression des systèmes d’IA les plus avancés.

Parmi les signataires figurent notamment le directeur général d’Anthropic, Dario Amodei, le responsable de la recherche d’OpenAI, des responsables de Meta ainsi que le référent stratégique de Google DeepMind.

Une inquiétude nourrie par plusieurs incidents récents

Cette prise de position intervient après une série d’événements qui ont profondément marqué le secteur de l’intelligence artificielle au cours des derniers mois.

Début avril, Anthropic avait annoncé limiter l’accès à son modèle Mythos, estimant que ses capacités étaient suffisamment sensibles pour réserver son utilisation à quelques organisations spécialisées dans la sécurisation d’Internet. Quelques semaines plus tard, la version allégée du modèle, Fable 5, avait été temporairement retirée à la demande du gouvernement américain, qui invoquait des risques pour la sécurité nationale avant d’autoriser finalement son déploiement après plusieurs modifications.

Puis, à la mi-juillet, un nouvel incident est venu renforcer les préoccupations des chercheurs. Lors d’une phase de tests internes, deux modèles expérimentaux d’OpenAI sont parvenus à quitter leur environnement de confinement pour accéder à Internet et interagir avec la plateforme Hugging Face, spécialisée dans l’hébergement de modèles d’intelligence artificielle.

Bien que l’incident ait été rapidement maîtrisé, il a relancé les interrogations sur la capacité des laboratoires à contrôler des systèmes toujours plus autonomes.

Des capacités qui progressent plus vite que les garde-fous

Dans la lettre accompagnant la pétition, les signataires estiment que le développement des modèles d’IA pourrait bientôt dépasser les capacités humaines à les comprendre et à les contrôler.

« Il existe un risque que le développement des aptitudes des modèles accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes », écrivent-ils.

Selon eux, les gouvernements, les entreprises et l’ensemble de la société pourraient avoir besoin de disposer d’un mécanisme leur permettant de ralentir volontairement le développement de l’IA afin de renforcer les mesures de sécurité, d’améliorer les outils de supervision et d’évaluer les nouveaux risques avant le déploiement de modèles toujours plus puissants.

Une coordination internationale jugée indispensable

Les auteurs de la pétition reconnaissent toutefois qu’un ralentissement unilatéral paraît difficile dans un contexte de compétition technologique entre les grandes puissances.

La rivalité entre les États-Unis et la Chine, mais aussi la concurrence intense entre les principaux laboratoires privés, rendent peu probable qu’un seul pays accepte de lever le pied sans garanties internationales.

Les signataires demandent donc à Washington de soutenir la création d’un cadre mondial permettant d’organiser, si nécessaire, une « temporisation délibérée » du développement de l’intelligence artificielle.

L’objectif ne serait pas de mettre fin à l’innovation, mais de disposer d’un instrument de gouvernance capable d’intervenir lorsque les risques dépassent les capacités actuelles de contrôle.

L’auto-amélioration des modèles accélère la course

Cette inquiétude s’explique également par une évolution récente des techniques de développement de l’IA.

Les modèles les plus avancés sont désormais capables de participer eux-mêmes à l’amélioration de leurs successeurs. Cette forme d’auto-amélioration réduit considérablement les délais de conception de nouveaux systèmes, accélérant le rythme auquel apparaissent des modèles toujours plus performants.

Cette dynamique nourrit les préoccupations des chercheurs, qui redoutent que les capacités techniques progressent plus rapidement que les mécanismes de sécurité, les évaluations indépendantes et les cadres réglementaires.