Anthropic propose sa loi au Congrès : qui tient la manette ?

Politico a publié le 16 octobre les grandes lignes d'un projet de loi confidentiel qu'Anthropic fait circuler au Congrès. Trois mécanismes à lire de près, et le texte européen à poser à côté.

Le 16 octobre, Politico a révélé qu'Anthropic faisait circuler au Congrès américain un projet de loi sur la sécurité des modèles d'IA de frontière. Le texte est confidentiel, trois sources l'ont confirmé au journal, et l'entreprise ne nie rien : son porte-parole explique que le projet reprend le cadre qu'elle défend depuis juin auprès des élus fédéraux et des États. J'ai donc lu ce cadre, puis la loi californienne dont il s'inspire, et j'ai posé l'AI Act à côté. Trois pièces du mécanisme méritent le détour : le seuil, la manette et le compte à rebours.

Le seuil

D'après Politico, le gouvernement ne pourrait bloquer la sortie ou l'usage d'un modèle que devant un risque prévisible et imminent de plus d'un milliard de dollars de dégâts, ou de plus de cinquante morts ou blessés graves. Et ce risque devrait venir de l'un de trois scénarios : une arme biologique, un modèle qui échappe au contrôle de son fabricant, une cyberattaque. Ces chiffres ont une origine. La Californie les a inscrits dans sa loi SB 53, signée le 29 septembre 2025, qui définit le « risque catastrophique » ainsi : plus de cinquante personnes tuées ou gravement blessées, ou plus d'un milliard de dollars de dommages, en un seul incident. Le cadre publié par Anthropic en juin renvoie à cette définition en note de bas de page.

L'AI Act ne compte ni les morts ni les dollars. Il présume qu'un modèle présente un risque systémique au-delà de 10 puissance 25 opérations de calcul à l'entraînement (article 51), et c'est le seuil que le cadre d'Anthropic retient lui aussi pour désigner les développeurs concernés. Puis il définit l'incident grave par sa nature, à l'article 3, point 49 : un décès ou une atteinte grave à la santé, une perturbation grave et irréversible d'une infrastructure critique, une violation des droits fondamentaux, un dommage grave aux biens ou à l'environnement. Un seul mort suffit. Un chiffre se vérifie. Il laisse aussi tout ce qui reste en dessous au seul fabricant, et je racontais dans ma dernière chronique que les incidents d'aujourd'hui vivent là.

La manette

Deuxième pièce : qui tient la manette. Dans le projet, un seul service, le département du Commerce, et encore pas tout seul. Il doit demander à un juge fédéral du district de Columbia d'ordonner la suspension du modèle. Le texte interdit explicitement à tout autre département, agence ou fonctionnaire de suspendre le développement, le déploiement ou l'usage interne d'un modèle. Politico rappelle le contexte : cet été, des contrôles à l'exportation décidés en quelques coups de fil entre l'administration et les dirigeants de l'entreprise ont mis à l'arrêt deux de ses modèles les plus avancés. La clause se lit comme une réponse à cet épisode. Une porte, une clé, un juge.

Le projet préempterait aussi certaines lois d'État sur la publication des risques, l'évaluation par des tiers et la déclaration d'incidents. Le cadre de juin promettait une préemption chirurgicale, et seulement en échange d'un régime fédéral au moins aussi exigeant que ses propres propositions. Le Congrès jugera si le projet tient cette promesse.

En Europe, la porte est unique aussi, mais la clé diffère. La Commission dispose de pouvoirs exclusifs sur les modèles d'IA à usage général, et elle en confie l'exécution au Bureau de l'IA (article 88). Depuis l'Omnibus de juillet, ce même Bureau est seul compétent pour les systèmes bâtis sur ces modèles quand le fabricant du modèle et celui du système ne font qu'un (article 75). L'article 93 dit ce que la Commission peut demander : des mesures d'atténuation quand une évaluation a fait naître des préoccupations sérieuses et fondées, et jusqu'à restreindre la mise à disposition du modèle, le retirer ou le rappeler. Avant cela, un dialogue structuré, au terme duquel les engagements du fournisseur peuvent être rendus contraignants par décision. Ni juge en amont, ni seuil chiffré. Une évaluation, un dialogue, une décision. Les deux systèmes ferment toutes les portes sauf une, et chacun met autre chose derrière.

Le compte à rebours

Troisième pièce, la plus discrète : les évaluateurs. Le projet confie l'évaluation périodique des laboratoires et de leurs modèles à des évaluateurs indépendants, enregistrés auprès du Commerce. Le laboratoire peut les payer, pourvu que la rémunération ne dépende pas du résultat. S'ils concluent à un risque imminent dans l'une des trois catégories, ils ont 72 heures pour le signaler au Commerce. Le compte à rebours démarre à la fin de l'évaluation, pas au moment où le risque apparaît. Le cadre de juin a au moins la franchise de nommer le piège : il consacre un paragraphe au magasinage d'évaluateurs, ce réflexe qui consiste à choisir celui qui demandera le moins.

La loi californienne donne quinze jours au fabricant pour déclarer un incident critique, et 24 heures s'il existe un risque imminent de mort. Le cadre d'Anthropic reprend les quinze jours. L'AI Act demande aux fournisseurs de modèles à risque systémique de signaler les incidents graves au Bureau de l'IA « sans retard injustifié » (article 55), et le code de bonnes pratiques, qu'Anthropic a signé, traduit la formule en quatre délais : deux jours pour une infrastructure critique, cinq pour une atteinte à la cybersécurité, dix pour un décès, quinze pour le reste, comptés à partir du moment où le fournisseur apprend que son modèle est impliqué. Pour un décès, Bruxelles veut savoir en dix jours, la Californie et le cadre d'Anthropic en quinze. La même entreprise vit avec deux comptes à rebours, et celui qu'elle a accepté à Bruxelles tourne plus vite que celui qu'elle propose chez elle.

Ce que j'en retiens

Le reste du projet, tel que Politico le décrit, ne dépaysera pas un lecteur européen : des cadres de sécurité publiés, des rapports de transparence à chaque nouveau modèle, une protection des lanceurs d'alerte, des déclarations d'incidents à l'administration. C'est, à quelques mots près, ce que les articles 53 à 55 de l'AI Act demandent aux fournisseurs de modèles d'IA à usage général depuis le 2 août 2025. L'écart entre les deux rives est plus étroit que le discours ambiant ne le laisse croire. Il se résume à une question : qui tient la manette, et à partir de quel seuil. Le fabricant qui écrit sa loi répond : une seule agence, un juge, cinquante morts ou un milliard. Le règlement européen répond : une évaluation, un dialogue, une décision.

Si vous déployez ces modèles en France, votre fournisseur américain vivra bientôt sous deux régimes, avec deux seuils et deux comptes à rebours. Demandez-lui lequel vous couvre, dans quel délai il vous préviendrait, et ce qu'il fait des incidents qui n'atteignent aucun seuil. Et tenez votre propre registre : en dessous de cinquante morts ou d'un milliard, c'est le seul qui existe.

Sources

• · Politico, « Anthropic quietly pitches its own AI safety bill to lawmakers », Owen Dahlkamp, 16 octobre 2026
• · Anthropic, « Anthropic's Advanced AI Framework », juin 2026
• · Californie, Senate Bill 53, chapitre 138, approuvée le 29 septembre 2025, sections 22757.11 et 22757.13
• · Règlement (UE) 2024/1689, article 3 point 49, articles 51, 53 à 55, 75, 88 et 93
• · Code de bonnes pratiques pour l'IA à usage général, chapitre Sûreté et sécurité, mesure 9.3