International : Anthropic défend les modèles ouverts, mais alerte sur leurs risques sécuritaires
Au cœur du débat qui oppose les modèles d’intelligence artificielle ouverts aux modèles propriétaires, Anthropic tente de clarifier sa position. Son PDG, Dario Amodei, a publié une longue déclaration pour répondre aux critiques suscitées par l’absence de son entreprise parmi les signataires d’une lettre ouverte en faveur des modèles open weight, ces modèles dont les paramètres sont rendus publics.
Cette prise de parole intervient alors que plusieurs acteurs majeurs de l’industrie, dont Nvidia, Google et OpenAI, ont affiché leur soutien à cette approche, alimentant les accusations selon lesquelles Anthropic chercherait à freiner le développement de l’IA ouverte.
Une réponse aux critiques de l’industrie
L’absence d’Anthropic parmi les signataires n’est pas passée inaperçue. David Sacks, ancien conseiller de Donald Trump sur l’intelligence artificielle et les cryptomonnaies, a accusé la start-up de vouloir affaiblir le mouvement de l’open source. « Toute l’industrie technologique, sauf Anthropic, s’est prononcée en faveur de l’IA open source », a-t-il affirmé sur le réseau social X, estimant que l’entreprise ne s’arrêterait « pas tant qu’elle n’aura pas mis l’open source à genoux ».
« Nous ne voulons pas interdire les modèles ouverts »
Face à cette polémique, Dario Amodei assure qu’Anthropic ne milite pas contre les modèles open weight. « Anthropic n’a jamais préconisé l’interdiction des modèles open weight », écrit-il, prenant ses distances avec certaines propositions formulées aux États-Unis visant à restreindre les modèles ouverts développés en Chine.
Le dirigeant reconnaît que les modèles ouverts représentent un atout important pour l’écosystème technologique. Selon lui, ils favorisent la recherche, stimulent l’innovation et offrent des bénéfices aux développeurs comme aux entreprises.
La Chine au cœur des préoccupations
Si Anthropic défend le principe des modèles ouverts, son dirigeant estime néanmoins que la véritable menace réside dans la compétition géopolitique autour de l’intelligence artificielle.
Dario Amodei affirme craindre qu’un gouvernement autoritaire puisse développer des modèles dépassant ceux des États-Unis et les utiliser pour renforcer des capacités de surveillance de masse ou acquérir un avantage militaire durable. Il cite en particulier la Chine, tout en précisant que cette inquiétude concerne plus largement les régimes autoritaires.
Des modèles ouverts plus difficiles à contrôler
Le patron d’Anthropic estime également que les modèles open weight présentent des risques spécifiques lorsqu’ils atteignent un niveau de puissance élevé. Une fois leurs paramètres publiés, explique-t-il, il devient pratiquement impossible de retirer ces modèles de la circulation ou d’y ajouter de nouveaux garde-fous. Ils pourraient ainsi être détournés pour faciliter des cyberattaques ou contribuer au développement de menaces biologiques.
Cette analyse contraste avec celle défendue dans la lettre ouverte signée par plusieurs entreprises technologiques, selon laquelle les modèles ouverts faciliteraient au contraire les audits indépendants et le développement de mécanismes de sécurité.
Trois recommandations
Plutôt qu’une interdiction des modèles ouverts, Dario Amodei propose une approche fondée sur trois priorités.
La première consiste à renforcer les contrôles à l’exportation des puces d’IA les plus avancées et des équipements permettant leur fabrication afin de limiter leur accès à la Chine. Il appelle également les autorités américaines à lutter contre les circuits de contrebande et les stratégies de contournement des sanctions.
La deuxième vise à empêcher les entreprises chinoises de recourir à la distillation, une technique permettant d’entraîner un nouveau modèle à partir des réponses d’un modèle existant. Anthropic accuse plusieurs acteurs chinois d’avoir utilisé cette méthode pour reproduire les performances de ses propres systèmes.
Enfin, le dirigeant recommande que tous les modèles d’IA les plus puissants, qu’ils soient ouverts ou propriétaires, soient soumis à des évaluations de sécurité obligatoires avant leur déploiement. Ces tests devraient notamment mesurer les risques liés à la cybersécurité, aux menaces biologiques et à l’alignement des modèles.
Un débat qui dépasse la question de l’ouverture
Au-delà de la polémique, cette prise de position illustre les fractures qui traversent aujourd’hui l’industrie de l’intelligence artificielle. Si un consensus semble émerger sur l’intérêt des modèles ouverts pour l’innovation, les désaccords portent désormais sur les garanties de sécurité nécessaires à mesure que les capacités des systèmes progressent.
Le débat oppose ainsi deux visions : l’une privilégiant l’ouverture comme moteur de transparence et de concurrence, l’autre mettant l’accent sur les risques stratégiques que pourraient représenter des modèles très puissants dont les paramètres seraient librement accessibles.
