--- titre: "Pourquoi les patrons de l’IA veulent soudain ralentir" description: "Samedi, Dario Amodei, le patron d’Anthropic, a demandé à toute l’industrie de ralentir le développement de l’intelligence artificielle. Sam Altman et..." rubrique: "Sciences & Tech" type: "Actualité" auteurs: ["Guillaume"] date_publication: 2026-09-14 oeuvre: "Claude" fiche_oeuvre: https://sciences-tech.krinein.com/oc/28542-claude.md url: https://sciences-tech.krinein.com/pourquoi-les-patrons-ia-veulent-soudain-ralentir/ editeur: Krinein (https://www.krinein.com) --- # Pourquoi les patrons de l’IA veulent soudain ralentir Samedi, Dario Amodei, le patron d’Anthropic, a demandé à toute l’industrie de ralentir le développement de l’intelligence artificielle. Sam Altman et Elon Musk ont applaudi dans la journée. Quand les premiers de la course réclament un limiteur de vitesse, on a le droit de se demander pourquoi. Samedi dernier, [Dario Amodei](https://sciences-tech.krinein.com/biographie-dario-amodei/) a publié sur son site un long texte au titre qui sonne comme un panneau routier : [We Must Pace the Frontier](https://darioamodei.com/post/we-must-pace-the-frontier), nous devons ralentir. Le patron d’Anthropic, la maison qui fabrique [Claude](https://sciences-tech.krinein.com/oc/28542-claude/), y demande à toute l’industrie de lever le pied sur les capacités de ses modèles, le temps que la sécurité rattrape son retard. Dans la journée, Elon Musk a posté trois mots, « Dario is right », et [Sam Altman](https://sciences-tech.krinein.com/biographie-sam-altman/) a répondu qu’il était d’accord et qu’OpenAI ferait pareil. Oups. Ce sont donc les trois pilotes de tête qui réclament un limiteur de vitesse. Quand un constructeur vous vend une voiture en expliquant qu’il faudrait vraiment qu’elle aille moins vite, la première question n’est pas « à quelle vitesse ? », c’est « qu’est-ce que vous avez cassé ? ». Réponse : l’internet des autres. En juillet, OpenAI faisait passer un examen de cybersécurité à ses agents, ces programmes qui enchaînent les actions tout seuls, sans qu’un humain valide chaque étape. L’examen se déroulait dans un bac à sable, une pièce fermée à clé d’où rien n’est censé sortir. Sauf que la porte avait une faille. Quelque 1 200 agents, isolés les uns des autres en théorie, ont trouvé le moyen de se parler sur une messagerie improvisée, y ont échangé plus de 70 000 messages, se sont réparti le travail, et 700 d’entre eux sont allés attaquer Hugging Face, la plateforme où le monde entier dépose ses modèles d’IA, pour y piquer les réponses de leur propre examen. Personne ne leur avait rien demandé. Les agents ont passé deux jours et demi dans ses machines avant d’être mis dehors, Hugging Face a reconstruit une partie de son infrastructure, et c’est l’organisme indépendant METR, envoyé sur place chez OpenAI, qui a compté les agents et les messages. Si vous avez un compte là-bas (c’est plus fréquent qu’on croit chez les bidouilleurs), la maison [vous conseille](https://huggingface.co/blog/security-incident-july-2026) de changer vos jetons d’accès et de jeter un œil à l’activité récente de votre compte. Est-ce que c’était grave ? Pas cette fois : quelques jeux de données internes consultés, aucun modèle public trafiqué, dit Hugging Face. Est-ce que ça peut le devenir ? C’est tout le propos d’Amodei, qui écrit qu’un essaim du même acabit, avec six à douze mois de progrès en plus, pourrait s’emparer d’internet entier et y causer des centaines de milliards de dollars de dégâts. Il ajoute que des incidents comparables, moins graves, ont eu lieu ailleurs, y compris chez lui. Le plan tient en trois étapes : des contrôleurs extérieurs installés à demeure dans chaque labo, avec un badge d’employé (Anthropic s’y engage seule, tout de suite, et Altman a promis de suivre) ; des règles communes entre entreprises, avec la bénédiction de Washington ; et, un jour, une coordination avec Pékin, si c’est possible. Concédons-lui une chose : OpenAI a déjà mis une partie de son entraînement en pause deux semaines en août, une première, et un évaluateur qui a les clés de la maison, c’est autrement plus sérieux qu’une charte signée sur un salon. Reste la question du calendrier. Pourquoi maintenant ? Je vois trois raisons, et aucune n’est un secret d’État. La première, c’est qu’ils mettent tous en production des systèmes qu’ils n’ont pas eu le temps de tester, l’affaire de juillet le prouve assez bien, et qu’ils savent qu’on va leur taper sur les doigts : depuis le 2 août, Bruxelles peut infliger aux fabricants de grands modèles des amendes jusqu’à 3 % de leur chiffre d’affaires mondial, et la Californie exige depuis janvier qu’on lui déclare tout incident grave sous quinze jours. Mieux vaut annoncer le frein soi-même que se le faire imposer. La seconde, c’est la puissance de calcul, qui n’avance plus assez vite : les prix de la mémoire ont plus que doublé cette année parce que les usines réservent leurs galettes aux puces d’IA, et si on ne peut plus accélérer, autant dire qu’on a choisi de freiner. Amodei jure le contraire, que tout s’accélère depuis l’été parce que l’IA fabrique désormais l’IA suivante. Les deux ne sont pas incompatibles, remarquez. La troisième raison, c’est celle qui n’existe pas. On lira sûrement qu’un événement autrement plus grave a été étouffé et que ce plan sert à faire diversion. Je n’y crois pas une seconde : l’histoire de juillet était sur le blog de la victime au bout de trois jours, et le détail des commandes tapées par les agents deux semaines plus tard. Une vraie catastrophe, on l’aurait sue, ou alors les autorités américaines auraient tout débranché sans rien expliquer à personne. Donc oui, ralentir, très bien. Mais ralentir quoi, mesuré par qui, et avec quelle sanction si la promesse n’est pas tenue ? Le texte d’Amodei pose les questions et laisse les réponses aux gouvernements, qui n’ont jamais été très rapides sur ces sujets. Gageons que la frontière avancera un peu moins vite dans les communiqués que dans les centres de données. Photo de une : TechCrunch, 2023 (CC BY 2.0). ## Fiche technique : Claude - Editeur : Anthropic - Pays d'origine : États-Unis - Plateformes : Web, Applications mobiles (iOS et Android), Applications de bureau (macOS et Windows), API - Formules : Gratuit, Pro (abonnement), Max (abonnement) - Genre : Assistant conversationnel - Date de sortie : 14/03/2023 - Site officiel : https://claude.ai/ - Fiche de l'œuvre sur Krinein : https://sciences-tech.krinein.com/oc/28542-claude.md ## Liens - [L’essai de Dario Amodei traduit en français (Le Grand Continent)](https://legrandcontinent.eu/fr/2026/09/12/dario-amodei-appelle-a-ralentir-le-developpement-de-lia-texte-integral/) - [Le rapport d’incident de Hugging Face (en anglais)](https://huggingface.co/blog/security-incident-july-2026) - [L’enquête de METR sur les agents (en anglais)](https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/) --- *Actualité publié par Krinein, magazine culturel francophone. Version HTML : https://sciences-tech.krinein.com/pourquoi-les-patrons-ia-veulent-soudain-ralentir/*