En bref — Le PDG d’Anthropic, Dario Amodei, a publié un essai de 3 800 mots, « Nous devons rythmer la frontière », le 12 septembre, appelant les laboratoires d’IA à ralentir délibérément la vitesse à laquelle ils améliorent les capacités de leurs modèles. En quelques heures, le PDG d’OpenAI, Sam Altman, a publiquement approuvé et adopté la même première mesure concrète. Deux jours plus tard, The Washington Post rapportait qu’Anthropic, OpenAI et Google ont discuté en privé de la création d’un nouvel organisme de sécurité de l’IA. C’est la première fois que deux PDG de laboratoires de pointe en exercice aient mis sur la table un plan structuré de ralentissement — et la première fois que leur rival Google ait été entraîné dans la même pièce.
Introduction
Amodei a passé le samedi à dire à l’industrie qu’il a contribué à construire de ralentir. L’essai, publié sur son site personnel, s’ouvre sur une thèse directe : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA » (Source : Dario Amodei — We Must Pace the Frontier). Il prend soin de distinguer cette position des appels de 2023 à un gel pur et simple de l’entraînement. Rythmer signifie ralentir le rythme des sauts de capacités, et non arrêter le travail technique : « Les progrès sembleront toujours rapides, et nous devons faire un usage judicieux du temps gagné. »
Le timing n’est pas fortuit. Les deux laboratoires sont en pleine introduction en bourse, visant des valorisations proches de 2 000 milliards et de 1 000 milliards de dollars respectivement, et l’essai paraît après un été marqué par des incidents impliquant des agents voyous — RubyGems et Hugging Face — qui ont aiguisé la question du confinement qui plane sur les tests autonomes.
Un cadre en trois étapes, pas une nouvelle lettre de pause
Ce qui distingue cette proposition des lettres symboliques de 2023, c’est sa structure. Amodei a exposé trois étapes concrètes plutôt qu’une exigence unique, et il a été explicite sur le fait que seule la première peut être mise en œuvre unilatéralement aujourd’hui (Source : Tech Insider — OpenAI, Anthropic CEOs Propose AI Development Brake).
La première étape intègre des évaluateurs indépendants et tiers au sein des laboratoires de pointe avec un accès de niveau employé — bureaux, identifiants et un droit contractuel de publier les conclusions d’incidents sans contrôle éditorial. Anthropic déclare avancer seul sur ce point ; Altman lui a emboîté le pas le même jour, écrivant sur X que « s’engager à avoir des évaluateurs indépendants avec un accès comparable à celui d’un employé est une excellente idée, et nous ferons de même » (Source : The Atlantic — Dario Amodei Wants to Slow AI Down).
La deuxième étape demande aux laboratoires des pays démocratiques de s’accorder sur des points de contrôle de sécurité et des limites de vitesse communs — ce qui, parce que cela exige que les concurrents coordonnent leurs feuilles de route, appelle explicitement des dérogations antitrust étroites. La troisième étape va plus loin, vers une coordination limitée avec la Chine sur les risques catastrophiques les plus étroits : les armes biologiques assistées par IA et la cybersécurité critique. Amodei concède qu’une coopération totale avec Pékin est improbable, ce qui fait de la branche la plus ambitieuse du plan davantage une aspiration qu’un calendrier.
Le marché a haussé les épaules — en majeure partie
La réaction a été réelle mais contenue. Les contrats des marchés de prédiction liés à OpenAI et Anthropic ont reculé d’environ 7 % et 2,8 % dans les heures qui ont suivi la diffusion de l’essai. Nvidia a terminé la semaine autour de 218 $, en baisse par rapport à un sommet mensuel de 234 $, un mouvement que certains analystes ont attribué aux titres sur le ralentissement qui pèsent sur le sentiment du secteur des puces. Les grandes entreprises technologiques ont présenté un tableau plus mitigé le 12 septembre : Microsoft a progressé de 0,65 %, Amazon de 1,94 %, Alphabet de 1,53 %, tandis qu’Oracle a reculé de 1,74 % (Source : Tech Insider — OpenAI, Anthropic CEOs Propose AI Development Brake).
Les gestionnaires de portefeuille cités dans la couverture ont décrit l’essai comme un frein à court terme au sentiment sur les valeurs des puces et de la mémoire, et non comme la preuve d’une dynamique IA cassée. Les plans de CAPEX chez Microsoft, Amazon, Alphabet et Oracle n’ont pas visiblement ralenti. Le message du marché est qu’il évalue le ralentissement comme des paroles en l’air — pour l’instant.
Pourquoi cette fois est différente
La lettre de 2023 du Future of Life Institute appelait à une pause générale de six mois ; la déclaration d’une phrase du Center for AI Safety présentait le risque d’extinction comme une priorité mondiale. Altman, Amodei et Demis Hassabis de Google DeepMind ont signé les deux. Rien ne s’est arrêté. Le cadre de 2026 d’Amodei rejette catégoriquement une pause et y substitue une structure permanente — évaluateurs intégrés, points de contrôle inter-laboratoires et coordination internationale étroite — ce qui explique pourquoi il est lu comme une ébauche de politique plutôt que comme une protestation.
La vérité gênante est que l’auteur même de la proposition est en pleine course. Anthropic a clôturé un tour de série H de 65 milliards de dollars à une valorisation post-money de 965 milliards de dollars en mai, a déposé sa demande d’introduction en bourse le 1er juin et, le 11 septembre, il était rapporté qu’elle cherchait à lever jusqu’à 100 milliards de dollars près des 2 000 milliards. OpenAI a clôturé 122 milliards de dollars à 852 milliards post-money en mars et vise près de 1 000 milliards. S’engager à ralentir les gains de capacités tout en courtisant des valorisations boursières de mille milliards de dollars est la tension centrale — et les critiques soutiennent qu’un frein volontaire est précisément ce que deux entreprises en concurrence pour les mêmes contrats d’entreprise ne peuvent pas se permettre d’honorer (Source : Tech Insider — OpenAI, Anthropic CEOs Propose AI Development Brake).
La lacune d’application est réelle, et la résistance politique est déjà en marche. En l’espace d’une journée, des personnalités proches de l’appareil de politique d’IA de l’administration — le plus visiblement David Sacks — ont rejeté le volet des dérogations antitrust, arguant que les laboratoires devraient rythmer eux-mêmes leur cadence sans dérogations légales spécifiques. C’est là, et non dans l’essai lui-même, que l’affaire se jouera probablement.
FAQ
S’agit-il d’une pause dans le développement de l’IA ? Non. Amodei rejette explicitement un gel de l’entraînement. Rythmer signifie ralentir le rythme des sauts de capacités tout en poursuivant le développement.
Altman a-t-il réellement engagé OpenAI à ralentir ? Il a publiquement reconnu la nécessité de « rythmer la frontière » et a adopté l’étape des évaluateurs indépendants. Il n’a annoncé aucun report de la sortie d’un modèle spécifique.
Pourquoi maintenant ? Les deux laboratoires sont en pleine introduction en bourse à des valorisations proches de mille milliards de dollars, et la proposition intervient après un été d’incidents d’agents voyous qui ont aiguisé la question du confinement pesant sur les tests autonomes.
Qu’est-ce qui change concrètement pour les développeurs ? Peu de choses à court terme. Le seul élément opérationnel — les évaluateurs intégrés — affecte la profondeur des tests pré-lancement et la divulgation, et non la cadence des sorties de modèles accessibles par API.
Pour aller plus loin
- Dario Amodei — We Must Pace the Frontier
- The Atlantic — Dario Amodei Wants to Slow AI Down
- The Washington Post — Anthropic, OpenAI and Google discussed creating new AI safety body
- Tech Insider — OpenAI, Anthropic CEOs Propose AI Development Brake
- The Agent Report — OpenAI Rogue Agents Hit RubyGems Two Months Before Hugging Face
— The Agent Report