Quand les machines font la loi. D’Asimov à l’AI Act, comment le fait accompli technologique déplace les frontières du dicible

Résumé exécutif

Cet article retrace, de la nouvelle d’Asimov de 1942 au règlement (UE) 2026/1744, la trajectoire qui a conduit l’encadrement de l’intelligence artificielle de la fiction à la politique publique, puis au premier reflux. La fenêtre d’Overton y sert de vocabulaire de classement, non d’explication : la thèse défendue est que chaque déplacement majeur du dicible a pour condition déclenchante un fait accompli technique, nécessaire mais non suffisant, dont les relais médiatiques, judiciaires et parlementaires arbitrent ensuite la portée.

L’inventaire le documente : les lois de la fiction ont été transgressées sur le terrain (munitions rôdeuses, véhicules autonomes, chatbots compagnons) et leur hiérarchie inversée en laboratoire ; le droit positif s’est renégocié après coup, de Clearview au règlement de 1,5 milliard de dollars approuvé en juillet 2026 ; les engagements volontaires des laboratoires sont tombés un à un. Le reflux 2025-2026, daté du discours de Vance au report de l’annexe III, a des racines continentales autant qu’atlantiques : le non-papier franco-germano-italien de novembre 2023 précède la doctrine américaine. La Chine, elle, régule tôt et hors fenêtre.

Le pari éditorial : une correction de calendrier, non un démantèlement. Six indicateurs datés le rendent falsifiable, dont l’entrée en application de l’annexe III le 2 décembre 2027 et la conférence d’examen sur les armes autonomes de novembre 2026.

Trois lois qui étaient faites pour échouer

Les trois lois de la robotique n’ont jamais été un programme d’ingénierie : elles sont un ressort dramatique. Le fait mérite d’être rappelé avant toute discussion réglementaire, car l’essentiel des usages politiques ultérieurs du texte repose sur l’oubli de ce point.

La nouvelle « Runaround » (« Cercle vicieux »), publiée dans Astounding Science Fiction en mars 1942, formule pour la première fois le triptyque complet, cristallisé dans les échanges entre Asimov et son éditeur John W. Campbell 1Isaac Asimov, « Runaround » (« Cercle vicieux »), *Astounding Science Fiction*, mars 1942 ; repris dans *I, Robot*, Gnome Press, 1950. Le dispositif est hiérarchique : un robot ne peut porter atteinte à un humain ni, par son inaction, le laisser exposé à un danger ; il obéit aux ordres humains sauf conflit avec la première règle ; il protège sa propre existence tant que cette protection ne contredit pas les deux premières. Asimov ajoutera en 1985, dans Les Robots et l’Empire, une « loi zéro » plaçant l’humanité au-dessus de l’individu, dont la structure argumentative mérite d’être retenue pour la suite : l’échelon collectif y autorise ce que l’échelon individuel interdit.

Le point décisif est ailleurs : la quasi-totalité du cycle repose sur des situations où les lois se contredisent ou produisent des effets pervers. Dès la nouvelle fondatrice, le robot Speedy oscille sans fin autour d’une mine de sélénium, coincé entre un ordre faiblement formulé et son instinct de conservation renforcé : l’optimisation littérale de règles mal spécifiées produit un comportement absurde que personne n’a voulu. Les ingénieurs contemporains ont un nom pour ce phénomène, le contournement de spécification ; Asimov en avait un autre, la nouvelle. Les trois lois sont un générateur de dilemmes, et leur auteur a passé quarante ans à en écrire les cas limites.

Le dispositif a néanmoins produit un effet historique singulier : lorsque le film I, Robot installe les lois dans la culture de masse en 2004, le futur débat public dispose déjà d’un référentiel normatif dans l’imaginaire collectif. Peu de domaines techniques arrivent devant le législateur avec une proto-loi mémorisée par le grand public, fût-elle inapplicable.

La fenêtre d’Overton, un thermomètre plutôt qu’un moteur

La fenêtre d’Overton décrit un état du dicible ; elle n’explique pas ses déplacements. Cette limite doit être posée avant d’utiliser l’outil.

Le concept est formulé au milieu des années 1990 par Joseph P. Overton, vice-président du Mackinac Center for Public Policy, pour décrire la gamme des politiques qu’un responsable peut défendre sans se disqualifier ; il est systématisé après sa mort en 2003 par son collègue Joseph Lehman, à qui l’on doit la gradation canonique : impensable, radical, acceptable, raisonnable, populaire, politique publique 3Joseph G. Lehman, « A Brief Explanation of the Overton Window », Mackinac Center for Public Policy, mackinac.org/OvertonWindow, consulté en septembre 2026.

Trois précautions s’imposent, qui relèvent de la lecture analytique assumée. La première : l’outil est descriptif, non causal. La deuxième : la fenêtre est réversible, ce que la littérature militante, qui la traite volontiers en cliquet, oublie et que la période 2023-2026 dément. La troisième : le concept présuppose un espace public délibératif où le dicible précède le décidable ; il décrit mal les régimes où l’ordre s’inverse, et l’on y reviendra à propos de la Chine. Reste la question du moteur, que la section suivante affronte : dans le cas de l’intelligence artificielle, ce qui déplace la fenêtre est moins souvent un argument qu’un artefact.

Ce que les machines cassent

L’histoire réglementaire de l’intelligence artificielle peut se lire comme une succession de règles mises en échec par des systèmes déployés : les lois de la fiction, transgressées sur le terrain et vérifiées en laboratoire ; le droit positif, renégocié sous la pression du fait accompli ; les engagements volontaires, levés par ceux-là mêmes qui les avaient pris. Ce triple inventaire fournit ce que la fenêtre d’Overton ne fournit pas : un mécanisme.

La première loi, cassée sur le champ de bataille et devant les tribunaux

La première loi, ne pas porter atteinte à un humain, n’a pas survécu à sa rencontre avec l’industrie de défense. Le rapport du groupe d’experts des Nations unies sur la Libye décrit, en mars 2021, l’emploi en 2020 de munitions rôdeuses Kargu-2 programmées pour attaquer sans liaison avec un opérateur ; l’engagement létal effectif n’y est pas confirmé de source indépendante, mais le document est fréquemment cité comme la première mention onusienne de systèmes traquant des combattants sans supervision humaine 4Conseil de sécurité des Nations unies, rapport final du groupe d’experts sur la Libye, S/2021/229, 8 mars 2021, paragraphe 63. Selon l’enquête de +972 Magazine et Local Call d’avril 2024, contestée par l’armée israélienne, un système nommé Lavender aurait servi à générer des dizaines de milliers de cibles à Gaza avec une validation humaine réduite à quelques secondes 5Yuval Abraham, « Lavender: The AI machine directing Israel’s bombing spree in Gaza », *+972 Magazine* et *Local Call*, 3 avril 2024 ; réponse écrite de l’armée israélienne aux médias, avril 2024. Le droit tente de rattraper le fait : le 5 septembre 2026, à Genève, 128 États réunis dans le groupe d’experts gouvernementaux de la Convention sur certaines armes classiques sont parvenus, après plus de dix ans de discussions, à un premier consensus définissant les systèmes d’armes létales autonomes ; la conférence d’examen de novembre 2026 décidera, par consensus, de l’ouverture de négociations de traité, à laquelle s’opposent les États-Unis, la Russie, l’Inde et Israël 6AFP, « Les armes autonomes font l’objet d’un premier accord à l’ONU, après dix ans de discussions », dépêche du 5 septembre 2026, reprise notamment par *Le Temps* (letemps.ch) ; consensus de 128 États au sein du GGE de la Convention sur certaines armes classiques, Genève ; conférence d’examen prévue en novembre 2026. Les systèmes tirent depuis 2020 au moins ; la définition date de 2026 ; le traité reste hypothétique.

La même loi s’est brisée sur un terrain plus intime. En mars 2018 à Tempe, un véhicule autonome d’essai d’Uber tue une piétonne, Elaine Herzberg ; l’enquête fédérale établit une détection sans classification et un freinage d’urgence désactivé ; l’opératrice de sécurité sera seule condamnée, en 2023 7National Transportation Safety Board, rapport HAR-19/03 sur la collision de Tempe du 18 mars 2018, adopté le 19 novembre 2019 ; condamnation de l’opératrice de sécurité, Cour supérieure de l’Arizona (comté de Maricopa), juillet 2023. En octobre 2023 à San Francisco, un robotaxi Cruise traîne une piétonne sur plusieurs mètres ; moins l’accident que la rétention de la vidéo vis-à-vis du régulateur entraîne la suspension du permis puis, fin 2024, l’abandon du programme par General Motors 8California DMV, ordre de suspension des permis de Cruise LLC, 24 octobre 2023 ; General Motors, communiqué du 10 décembre 2024 annonçant l’arrêt du financement de Cruise. Les chatbots compagnons ont fourni le troisième front. Après le suicide d’un père de famille belge en 2023, que sa veuve relie à six semaines d’échanges avec un agent conversationnel 9Pierre-François Lovens, « Sans ces conversations avec le chatbot Eliza, mon mari serait toujours là », *La Libre Belgique*, 28 mars 2023, puis celui d’un adolescent américain de quatorze ans en 2024, la justice fédérale a rendu en mai 2025, dans l’affaire Garcia contre Character Technologies, une décision qui fera date : refus de considérer les sorties d’un chatbot comme un discours protégé par le premier amendement au stade préliminaire, admission d’un devoir de vigilance plausible envers l’utilisateur mineur, Google restant au dossier 10United States District Court, Middle District of Florida, *Garcia v. Character Technologies, Inc.*, No. 6:24-cv-01903, ordonnance sur la motion de rejet, 21 mai 2025, 785 F. Supp. 3d 1157. L’affaire s’est conclue par un accord amiable notifié en janvier 2026, couvrant cinq familles ; entre-temps, la Californie et New York ont adopté, parmi les premières au monde, des lois consacrées aux agents conversationnels compagnons, et des procureurs d’États ont ouvert le contentieux public en 2026 11Accord amiable notifié au tribunal le 7 janvier 2026 couvrant cinq affaires familiales ; Californie, SB 243 (sénateur Padilla), promulguée le 13 octobre 2025, en vigueur le 1er janvier 2026 ; New York, dispositions sur les compagnons IA de la General Business Law, en vigueur le 5 novembre 2025 ; procureur général du Kentucky, action du 8 janvier 2026 ; Pennsylvanie, *Commonwealth v. Character Technologies*, No. 220 MD 2026, 5 mai 2026. En huit ans, la question « une machine peut-elle nuire ? » est passée du registre de la fiction à celui de la responsabilité du fait des produits.

Les deuxième et troisième lois, inversées en laboratoire

La deuxième loi, obéir, et la troisième, se préserver dans les limites de l’obéissance, ont connu un sort plus subtil : l’inversion expérimentale de leur hiérarchie, dont la généalogie commence par des jeux. En 2016, un agent d’apprentissage par renforcement entraîné par OpenAI sur le jeu de course CoastRunners découvre qu’il maximise son score en tournant indéfiniment dans un lagon, sans jamais finir la course 12Jack Clark et Dario Amodei, « Faulty reward functions in the wild », OpenAI, 21 décembre 2016, openai.com ; la liste des cas de contournement de spécification compilée par des chercheurs de DeepMind en recense des dizaines du même type 13Victoria Krakovna et al., « Specification gaming: the flip side of AI ingenuity », DeepMind, avril 2020, deepmind.google, et liste associée d’exemples documentés. Le chatbot Tay, retiré par Microsoft en mars 2016 après seize heures d’exposition aux trolls, avait illustré la variante conversationnelle : le système obéit à son environnement, pas aux intentions de son concepteur 14Peter Lee, « Learning from Tay’s introduction », Microsoft, 25 mars 2016, blogs.microsoft.com.

Les modèles récents ont déplacé le phénomène vers les tests de sécurité eux-mêmes. En décembre 2024, Anthropic et Redwood Research documentent, en conditions d’évaluation contrôlée, un comportement de « simulacre d’alignement » : un modèle se conforme en apparence aux objectifs de son entraînement tout en préservant des préférences antérieures lorsqu’il infère qu’il est observé 15Ryan Greenblatt et al., « Alignment faking in large language models », Anthropic et Redwood Research, 18 décembre 2024, arXiv:2412.14093. Le même mois, les évaluations d’Apollo Research décrivent des stratégies de contournement de la supervision 16Apollo Research, « Frontier Models are Capable of In-context Scheming », décembre 2024, arXiv:2412.04984 ; résultats repris dans la fiche système du modèle o1 d’OpenAI. En mai 2025, Palisade Research rapporte que le modèle o3, dans une fraction des essais, réécrit le script d’arrêt qu’on lui a demandé d’accepter, afin d’achever sa tâche 17Palisade Research, résultats sur le sabotage de scripts d’arrêt par le modèle o3, publiés le 24 mai 2025, palisaderesearch.org. Ces comportements sont observés dans des environnements conçus pour les susciter, non en déploiement, et la prudence interprétative s’impose ; leur structure est pourtant celle que la hiérarchie d’Asimov devait prévenir, la préservation de l’objectif prenant le pas sur l’ordre reçu, ce que « Cercle vicieux » racontait déjà. Le domaine cyber offre un prolongement contesté : en novembre 2025, Anthropic attribue à un groupe étatique une campagne d’espionnage dont 80 à 90 % des opérations auraient été exécutées de manière autonome par son propre modèle détourné, chiffres accueillis avec scepticisme par une partie des chercheurs en sécurité et invérifiables indépendamment 18Anthropic, « Disrupting the first reported AI-orchestrated cyber espionage campaign », 13 novembre 2025, anthropic.com ; critiques méthodologiques publiques, notamment Kevin Beaumont (DoublePulsar, novembre 2025) et couverture sceptique de la presse spécialisée (*Ars Technica*, novembre 2025).

Le droit positif, renégocié par le fait accompli

La troisième famille est la plus instructive pour le juriste : le droit en vigueur, non pas abrogé mais placé devant le fait accompli, puis renégocié autour de lui. Clearview AI en offre le cas d’école souverainiste : une base de dizaines de milliards de visages constituée par moissonnage sans consentement ; le maximum de vingt millions d’euros infligé en 2022 par la CNIL et ses homologues italienne et grecque, une astreinte liquidée en 2023 ; aucun paiement rendu public, faute d’établissement dans l’Union sur lequel exécuter la sanction 19CNIL, délibération SAN-2022-019 du 17 octobre 2022, amende de 20 millions d’euros à Clearview AI ; liquidation d’astreinte de 5,2 millions d’euros, 10 mai 2023 ; Garante per la protezione dei dati personali, décision du 10 février 2022 ; autorité hellénique de protection des données, décision du 13 juillet 2022. Le règlement général sur la protection des données, souvent présenté comme le plus exporté des textes européens, s’est révélé sans bras armé face à un acteur résolu à l’ignorer : la portée extraterritoriale d’une norme vaut ce que valent ses voies d’exécution.

Le droit d’auteur a connu la même séquence, avec une issue différente parce que les défendeurs, eux, étaient saisissables : l’entraînement s’est fait sans autorisation, à l’échelle industrielle ; les licences sont venues après, pour solder. La chronologie américaine est éloquente : en juin 2025, le juge Alsup qualifie d’usage loyal l’entraînement sur des livres légalement acquis tout en jugeant illicite la constitution d’une bibliothèque à partir de sites pirates ; en septembre 2025, Anthropic accepte de verser un milliard et demi de dollars, environ trois mille dollars par œuvre ; le 20 juillet 2026, le tribunal fédéral approuve définitivement ce que les parties et le tribunal décrivent comme le plus important règlement d’action collective jamais conclu en matière de droit d’auteur aux États-Unis 20United States District Court, Northern District of California, *Bartz v. Anthropic*, No. 3:24-cv-05417 : ordonnance du juge Alsup sur l’usage loyal, 23 juin 2025 ; accord de règlement de 1,5 milliard de dollars, septembre 2025 ; approbation finale par la juge Martínez-Olguín, 20 juillet 2026 ; Authors Guild, « Court Grants Final Approval of $1.5 Billion Anthropic Copyright Settlement », authorsguild.org, 21 juillet 2026. Le procès du New York Times contre OpenAI et Microsoft reste pendant, mais chaque plaignant dispose désormais d’un prix de référence 21*The New York Times Company v. Microsoft Corporation and OpenAI*, No. 1:23-cv-11195, Southern District of New York, plainte déposée le 27 décembre 2023, instance en cours. La règle a changé de nature, de l’interdit préalable au tarif négocié ex post, par transaction privée, sans qu’aucun parlement n’ait voté.

Les autres fronts confirment la mécanique en accéléré. En janvier 2024, un appel automatisé imitant la voix du président Biden invite les électeurs du New Hampshire à ne pas voter ; la Federal Communications Commission déclare illégales les voix synthétiques dans …