Gérald Arboit - Le luddisme qui (re)vient !

« Objets inanimés, avez-vous donc une âme / Qui s’attache à notre âme et la force d’aimer ? » La question de Lamartine n’évoque évidemment aucun des échos médiatiques de ces dernières semaines relatives à l’intelligence artificielle (IA). Dans Milly ou la terre natale, en 1830, le poète s’interrogeait seulement sur les lieux et les objets auxquels son souvenir finissait par lui rappeler une présence. Deux siècles plus tard, elle résonne pourtant étrangement devant une machine à laquelle il suffit de quelques mots pour qu’elle nous réponde.

L’émerveillement est beaucoup plus ancien que l’IA. Il suffit de se souvenir de l’enfant devant son train électrique. Il pose la locomotive sur ses rails, tourne un bouton et la regarde partir. Elle tourne désormais toute seule. Un moteur Lego produit le même effet lorsque, jusque-là inutilisé au fond d’une boîte, il devient soudain une construction en mouvement. L’objet s’anime. Le mot lui-même est révélateur. Il semble recevoir cette anima, cette âme que pourtant personne ne lui suppose sérieusement.

Les automates ont toujours produit un tel émerveillement. Puis les machines ont appris à fabriquer, à transporter, à communiquer, à calculer. L’ordinateur a ajouté le traitement de l’information. L’algorithme a permis de classer, de corréler et de prévoir. L’intelligence artificielle générative écrit désormais des textes, fabrique des images, programme, dialogue et semble parfois raisonner. À chaque étape, l’homme a demandé davantage à la machine. À chaque étape aussi, il s’est inquiété de ce qu’elle allait lui prendre.

Le paradoxe contemporain est d’autant plus singulier que les fabricants eux-mêmes avertissent l’utilisateur. ChatGPT prévient qu’il « peut faire des erreurs » et recommande de vérifier les informations importantes. Quant à Claude, il se présente comme « une IA et peut commettre des erreurs » et appelle à « vérifier [s]es réponses ». Les deux principaux intéressés sont donc d’accord au moins sur un point : la machine qui prétend transformer le travail intellectuel commence par nous rappeler que celui-ci reste nécessaire.

Cette contradiction résume peut-être davantage notre rapport à l’IA que les prophéties annonçant alternativement l’avènement d’une nouvelle humanité ou sa disparition. L’IA est d’abord une promesse de facilité. Elle doit produire plus vite, mieux et moins cher. Elle doit libérer du travail répétitif, augmenter la productivité, démocratiser l’expertise. Mais cette vieille promesse n’accompagne-t-elle pas les progrès mécaniques depuis plusieurs siècles ? Et son envers est tout aussi ancien. Si la machine fait le travail, que reste-t-il au travailleur ?

L’IA ajoute pourtant quelque chose de nouveau. Le métier mécanique imitait le geste humain. L’ordinateur calcule. L’IA parle. Elle entre ainsi sur un terrain que la culture occidentale a longtemps associé à l’homme, à sa raison et parfois à son âme. Nous avons voulu qu’elle nous ressemble suffisamment pour nous servir. Nous commençons à nous inquiéter de ce qu’elle pourrait devenir si cette ressemblance allait trop loin.

C’est ici qu’apparaît aujourd’hui un mot importé de la culture américaine, la « frontière », comme pour souligner l’origine des innovations technologiques depuis un quart de siècle. Les entreprises américaines parlent de frontier models (modèles de frontière) pour désigner ceux qui poussent le plus loin les capacités disponibles. Le terme paraît technique, mais il ne l’est pas complètement. Dans l’imaginaire américain, la frontier n’est pas seulement une limite : elle est celle que le pionnier repousse en avançant. Parler d’une « frontière » de l’intelligence artificielle inscrit donc déjà le progrès technique dans un mouvement : il existe toujours quelque chose au-delà, et l’on mesure la réussite à la distance dont on aura déplacé la limite.

Cet avenir américain ne résume pourtant pas à lui seul le monde occidental. Du luddisme à Pygmalion, puis de Pygmalion à Frankenstein, l’histoire est peut-être moins celle de l’émancipation progressive de la machine que celle des représentations que l’homme projette sur elle.

Au commencement était la machine

Gutenberg n’a pas inventé le livre. Il n’a pas davantage inventé l’impression. Les Chinois imprimaient depuis plusieurs siècles déjà et les caractères mobiles existaient en Asie. L’importance de l’inventeur rhénan tient à l’organisation d’un procédé mécanique adapté à l’Europe du XV^e siècle, associant à la fois caractères mobiles métalliques, presse et encre. L’imprimerie est donc bien davantage qu’une histoire du livre. Elle appartient aussi à celle de la machine.

La nuance est importante. Une presse ne pense rien. Elle n’invente aucune hérésie et ne provoque aucune révolution. Elle se borne à reproduire. Mais elle le fait plus vite et à une échelle qu’aucun copiste ne pouvait atteindre. Quelques décennies plus tard, la Réforme montre ce que produit cette modification quantitative lorsqu’elle rencontre une crise politique, sociale et religieuse. Gutenberg n’a pas produit Martin Luther. Sa machine a seulement contribué à rendre possible la diffusion des 95 thèses de ce prêtre augustin de Wittenberg, que le monde du manuscrit aurait difficilement connue.

La première révolution informationnelle moderne repose donc sur une machine. Elle porte déjà l’ambivalence qui accompagnera les suivantes. Le même instrument diffuse la Bible, la controverse religieuse, la science, le pamphlet et le mensonge. Le problème ne réside pas dans ce que la machine veut faire. Elle ne veut rien. Il réside dans ce que les hommes peuvent désormais faire avec elle.

La destruction du livre appartient au mouvement inverse. L’autodafé n’est évidemment pas né avec l’imprimerie et les nazis n’ont pas inventé les bûchers de livres. Mais la destruction publique d’un ouvrage prend une dimension particulière lorsque sa reproduction industrielle rend illusoire l’idée de supprimer physiquement une pensée. Les autodafés nazis de 1933 ne font pas disparaître Heinrich Heine, Sigmund Freud ou Karl Marx. Ils mettent juste en scène leur volonté politique de désigner les idées qu’une communauté ne devrait plus lire. La destruction de l’information devient d’autant plus symbolique que sa multiplication la rend matériellement difficile.

Le télégraphe puis le téléphone déplacent le problème. Il ne s’agit plus seulement de reproduire une information, mais d’abolir une partie de la distance qui la séparait de son destinataire. Là encore, les usages débordent rapidement l’intention première. Les premières lignes téléphoniques partagées, les party lines, en offrent un exemple presque trivial. Plusieurs abonnés utilisent le même circuit. Il suffit parfois de décrocher pour entendre la conversation des voisins. Le téléphone permet de parler à distance, mais il permet aussi d’écouter. L’innovation produit simultanément une nouvelle forme d’intimité et le moyen technique de la violer. L’indiscrétion, le commérage et bientôt l’interception institutionnelle accompagnent le développement du réseau.

La machine n’a toujours aucune intention. Elle crée une possibilité. Cette distinction permet d’éviter de transformer l’histoire des techniques en procession de paniques morales. Les institutions réputées les plus réticentes à la modernité adoptèrent d’ailleurs très vite ses instruments. L’Église catholique offre un cas intéressant. En 1931, Pie XI inaugure Radio Vatican avec Guglielmo Marconi. Pie XII s’intéresse à la télévision et consacre en 1957 l’encyclique Miranda prorsus au cinéma, à la radio et à la télévision. Vatican II franchit une étape supplémentaire en 1963 avec Inter mirifica, qui rassemble presse, cinéma, radio et télévision sous une catégorie appelée à durer, les « moyens de communication sociale ». Le concile les présente comme des découvertes remarquables du génie humain capables de rendre de grands services. Communio et Progressio, en 1971, ira jusqu’à parler de « dons de Dieu » dont la finalité devrait être la communion et le progrès.

L’instrument n’est donc pas simplement toléré tandis que son usage inquiéterait. La technique est intégrée à une réflexion sur la relation qu’elle rend possible. Les moyens de communication peuvent rapprocher les hommes ou servir des usages destructeurs. Leur valeur dépend finalement, dit Communio et Progressio, de la liberté humaine qui les emploie. Cette tension conduit aujourd’hui jusqu’à l’intelligence artificielle. Il ne s’agit donc pas d’opposer éternellement les partisans du progrès aux adversaires de la machine. Une société adopte une technologie tout en négociant ce qu’elle accepte de lui confier. Le conflit apparaît lorsque la possibilité technique rencontre un ordre social qu’elle bouleverse.

La machine prend-elle le travail de l’homme ?

C’est ici que les luddites retrouvent leur place. Le mot a survécu beaucoup mieux que ceux qu’il désignait. Il sert aujourd’hui volontiers à qualifier celui qui refuse une innovation, comme si les ouvriers tisserands anglais qui brisèrent des machines au début du XIX^e siècle avaient simplement voulu arrêter le progrès. Leur combat était plus concret. La mécanisation transformait leurs métiers, leurs rémunérations, leurs qualifications et leurs rapports sociaux. Ils ne combattaient pas une abstraction appelée technologie. Ils combattaient un usage de la machine qui menaçait leur place dans l’organisation du travail.

Karl Marx comprit parfaitement cette différence. Dans le livre I de son Capital (1867), il rappelle qu’il fallut du temps au travailleur pour distinguer la machine elle-même de son emploi capitalistique. La machine possède en théorie la capacité de réduire le travail nécessaire. Dans un système organisé autour de l’accumulation et de la concurrence, elle peut tout aussi bien servir à accroître la productivité, intensifier le travail et réduire le nombre de ceux qui sont nécessaires à la production. Le paradoxe n’a guère vieilli.

Depuis les premiers robots installés dans l’industrie automobile, l’automatisation est presque toujours présentée sous son versant positif. Elle débarrasse l’ouvrier des tâches pénibles, répétitives ou dangereuses. Souvent vrai, elle augmente aussi la productivité. C’est précisément pourquoi elle est installée. Mais le robot industriel n’a pas seulement remplacé des gestes. Il a déplacé les qualifications. L’ouvrier capable d’accomplir parfaitement une opération manuelle a laissé davantage de place au technicien capable de conduire, régler, entretenir et réparer la machine qui l’exécute. Le savoir-faire n’a pas nécessairement disparu. Il a changé de lieu.

L’IA pourrait accomplir pour les cols blancs une transformation comparable à celle que l’informatique et l’automatisation ont imposée aux cols bleus. La comparaison a ses limites, mais elle évite une illusion fréquente. Utiliser une intelligence artificielle ne consiste pas davantage à appuyer sur un bouton qu’utiliser correctement une machine-outil. Deux personnes disposant du même modèle n’en tirent pas nécessairement le même résultat. Il faut savoir poser la question, reconnaître une réponse douteuse, reformuler, vérifier, interrompre une piste qui s’égare. Il faut surtout connaître suffisamment le domaine pour identifier l’erreur.

Le bon praticien réapparaît donc derrière la promesse de démocratisation de l’expertise. Il y a quelque chose du robot ménager dans cette situation. Le même appareil est disponible dans deux cuisines. L’une de ses utilisatrices en tirera quelques fonctions élémentaires. L’autre, parce qu’elle connaît les produits, les gestes et les possibilités de l’appareil, semblera faire de la magie avec lui. Mais celle-ci n’est pas dans le robot.

Cette évidence devient plus difficile à percevoir lorsque la machine produit du langage. Une pièce mal usinée, un assemblage raté ou une soudure défectueuse se voient. Une réponse fausse bien rédigée peut ne rien laisser paraître. La machine industrielle déplace le métier vers son contrôle. L’IA fait de même, mais elle peut simultanément masquer la nécessité de ce contrôle par la qualité formelle de ce qu’elle produit.

La vieille question du luddisme se déplace alors vers le travail intellectuel. L’IA augmentera-t-elle le salarié ou permettra-t-elle de s’en passer ? Les deux promesses sont formulées simultanément. Au travailleur, on explique qu’elle le débarrassera des tâches sans intérêt. À l’investisseur, qu’elle permettra des gains de productivité et des économies de personnel. Marx reconnaîtrait sans difficulté la contradiction.

L’écrit constitue ici un cas particulièrement révélateur. Pendant des siècles, la capacité à produire une lettre, une dissertation, un rapport, une note ou une synthèse a participé à l’évaluation d’une compétence. L’IA peut désormais en produire la forme. Cela ne signifie nullement que l’écrit aurait perdu sa valeur ni même qu’il ne permettrait plus d’évaluer celui qui le signe. Un texte plausible n’est pas nécessairement vrai. Mieux, une démonstration élégante peut reposer sur une source inexistante ou une interprétation fausse. Pour le savoir, il faut connaître le sujet.

Et l’interrogation orale peut rapidement révéler si celui qui se présente comme l’auteur maîtrise effectivement ce qu’il a écrit. L’oral n’offre lui-même aucun sanctuaire contre l’IA. Un exposé peut être préparé, structuré et répété avec elle. La différence apparaît lorsque l’on quitte ce qui était préparé. Une objection imprévue, une demande de justification, le retour à une source ou l’obligation d’expliquer pourquoi une hypothèse a été préférée à une autre font réapparaître le travail intellectuel derrière son produit.

Là se situe peut-être la véritable question. Écrire n’est pas seulement transcrire une pensée déjà formée. Chercher, éliminer une hypothèse, revenir sur une source, découvrir une contradiction, modifier un plan et parfois comprendre en écrivant que l’on avait mal posé le problème appartiennent au travail d’écriture autant qu’à la relecture du texte final. Une IA peut considérablement accélérer la première de ces opérations. Elle ne dispense pas nécessairement de les accomplir si l’on veut savoir ce que l’on affirme. Le col blanc découvre alors une inquiétude que l’ouvrier connaissait déjà. La machine ne lui prend pas nécessairement son métier d’un seul coup. Elle commence par absorber certaines opérations qui permettaient précisément de reconnaître son savoir-faire. Mais il existe entre eux une différence presque ironique. Deux siècles plus tôt, le col bleu était luddite devant le métier à tisser qui entrait dans l’atelier. Le col blanc du XXI^e siècle commence volontiers par être ludique devant l’ordinateur qui entre dans son bureau. Il lui demande d’écrire, de dessiner, de parler. Il en éprouve les possibilités avant de se demander quelle partie de son travail elle pourrait absorber. Du luddite au ludique, la différence tient peut-être moins à la machine qu’au moment où l’on découvre ce qu’elle vient faire.

De l’automatisation à l’interaction

L’ordinateur accompagne presque toutes les grandes transformations stratégiques du XX^e siècle. La « Bombe » conçue dans le contexte des travaux d’Alan Turing à Bletchley Park appartient à la Seconde Guerre mondiale et à la lutte contre les communications chiffrées allemandes. L’ordinateur de la Guerre froide est inséparable du calcul scientifique, de l’arme nucléaire, de la défense aérienne et de la conquête spatiale. Puis l’algorithme entre dans le monde du traitement massif de l’information, du commerce, de la surveillance et de l’antiterrorisme.

La science-fiction suit presque exactement cette chronologie. Dans 2001 : L’Odyssée de l’espace de Stanley Kubrick (1968), HAL 9000 accompagne la conquête spatiale. La machine parle calmement, raisonne, surveille le vaisseau et finit par agir contre son équipage. Quinze ans plus tard, dans Wargames de John Badham (1983), Joshua, l’ordinateur du North American Aerospace Defense Command (NORAD), le commandement américano-canadien chargé notamment de l’alerte et de la défense aérospatiales de l’Amérique du Nord, traite la guerre thermonucléaire comme un jeu dont il cherche la stratégie gagnante. Le film appartient au retour des tensions de la Guerre froide du début des années 1980. L’ordinateur ne hait pas l’humanité. Il poursuit un problème qui lui a été donné jusqu’au moment où il apprend qu’il existe des jeux auxquels la seule manière de gagner consiste à ne pas jouer.

Le déplacement est déjà essentiel. Le danger n’exige pas une machine malveillante. Une machine peut devenir dangereuse en faisant très efficacement ce qu’on lui demande. Hors de la fiction, le développement des algorithmes financiers en apporte une démonstration spectaculaire. Le 6 mai 2010, le Flash Crash fait brutalement plonger les marchés financiers américains, avant qu’ils ne récupèrent une grande partie de leurs pertes. L’épisode ne peut être réduit à l’image commode d’un ordinateur devenu fou. Il montre surtout ce qui se produit lorsque des systèmes automatisés, programmés selon des logiques différentes, réagissent les uns aux autres à une vitesse inaccessible à toute intervention humaine. Aucun ne voulait détruire la Bourse. Aucun n’avait besoin d’acquérir une conscience. L’environnement changeait parce que chacun agissait sur un milieu constitué en partie par l’action des autres.

C’est une différence majeure avec l’automate classique. Une machine-outil transforme une pièce. Un algorithme de marché intervient dans un entourage où d’autres algorithmes interprètent son intervention. La sortie de l’un devient l’entrée de l’autre. La boucle peut accélérer avant que l’homme ne comprenne ce qui vient de se produire.

Le drone permet d’observer la même évolution sous une forme plus visible. Les premiers petits quadricoptères grand public émerveillaient parce qu’un objet relativement bon marché pouvait soudain voler. Le pilote restait pourtant immédiatement identifiable. Il tenait la télécommande. Quelques années plus tard, des essaims déplacent la fascination. Des dizaines, puis des centaines ou des milliers de drones coordonnent leurs mouvements. Les spectacles lumineux en ont fait de véritables bêtes de cirque. Ce que le Flash Crash révéla accidentellement, l’ingénieur cherche ici à l’organiser en obtenant un effet collectif à partir d’une multitude d’objets automatisés.

L’évolution vers l’intelligence artificielle apparaît alors moins mystérieuse. L’enjeu n’est plus seulement de programmer : « SI A, ALORS B ». Il faut produire un système suffisamment habile pour réagir lorsque A arrive en même temps que D, que l’environnement a changé depuis la dernière occurrence et que d’autres systèmes ont eux-mêmes réagi. Le résultat ne prend plus nécessairement la forme de B et C. La vieille précision informatique cède la place à la probabilité. Et avec elle apparaît une fascination nouvelle. Tant que la machine calcule ce qui est, nous lui demandons de l’exactitude. Dès qu’elle établit des probabilités à partir de ce qui a été, nous sommes tentés de lui demander ce qui sera. La puissance de calcul acquiert alors l’apparence d’une puissance prospective. C’est précisément à cet endroit que la statue commence à nous troubler.

Donner de l’habileté à la statue

Il faut d’abord remettre les personnages à leur place. Pygmalion n’est pas la statue. Il est celui qui la façonne. Galatée est la création à laquelle il désire donner vie. Et nous sommes Pygmalion. Depuis les premières machines, nous n’avons cessé de demander à nos créations d’en faire davantage. Le métier devait tisser plus vite. La presse reproduire. Le moteur déplacer. Le téléphone transmettre. L’ordinateur calculer. Puis nous avons demandé à la machine de reconnaître une image, traduire une langue, conduire une voiture, écrire un texte, répondre à une question. L’intelligence artificielle ne nous a donc pas surpris en devenant habile. Nous l’avons construite pour cela.

Ce qui change tient à la nature de cette habileté. Un moteur électrique peut accomplir seul son mouvement sans donner l’impression d’avoir compris quoi que ce soit. Un modèle génératif produit une réponse adaptée à la question qui lui est adressée. L’expérience subjective de l’utilisateur change immédiatement. Il ne manipule plus seulement un outil. Il entretient quelque chose qui ressemble à une conversation.

René Descartes avait précisément placé là une frontière. Dans la cinquième partie de son Discours de la méthode (1637), il imaginait des automates capables d’imiter certaines actions humaines. Deux critères permettaient pourtant, selon lui, de ne pas les confondre avec des hommes. Ils ne pourraient user de paroles et de signes pour répondre convenablement à tout ce qui serait dit en leur présence et ne disposeraient pas de cette raison universelle permettant de s’adapter à toutes les circonstances. L’IA générative ne prouve évidemment pas que Descartes avait tort sur la nature de l’esprit. Elle rend simplement son test beaucoup moins confortable.

Une machine parle. Ou, plus exactement, elle occupe désormais la place de celui qui répond. Ce déplacement avait commencé avant elle. Le SMS, Messenger, WhatsApp et les autres messageries instantanées ont déjà transformé l’écriture en conversation. Les humains ont appris à entretenir à distance des échanges faits de tours de parole écrits, de salutations, d’interruptions, de plaisanteries, de remerciements et de formules destinées à ouvrir ou fermer la communication. L’IA n’a donc pas inventé la conversation écrite. Elle est venue occuper une place déjà aménagée pour un interlocuteur humain. Nous n’avons pas appris à parler aux IA. Les IA ont appris à occuper l’espace dans lequel nous avions déjà appris à converser par écrit.

Cela explique certains comportements qui semblent, au premier regard, relever de l’anthropomorphisme. Un système nous vouvoie : nous sommes tentés de le vouvoyer. Il nous rend un service : « merci » vient naturellement. On lui écrit « bonne nuit », non parce qu’on imagine qu’il va dormir, mais parce que l’expression marque la fin d’un échange. Nous ne croyons pas nécessairement que la machine est humaine. Nous continuons simplement d’appliquer à la conversation les règles sociales de la bienséance.

Le Tamagotchi avait déjà montré, avec des moyens techniques dérisoires, combien l’interaction pouvait suffire. Comme le Rubik’s Cube avant lui, il connut un engouement mondial avant de disparaître largement du quotidien. Mais il ajoutait au phénomène de mode une particularité : l’objet sollicitait son propriétaire, qui devait régulièrement répondre à ses sollicitations. Il n’était nul besoin de croire la créature vivante pour adopter envers elle un comportement approprié à un être vivant. Les assistants vocaux ont ensuite installé une autre forme d’interaction dans la vie quotidienne. Elle n’est pas pour autant irréversible. On a tous rencontré une amie qui avait pris l’habitude d’utiliser Alexa pour appeler ses enfants à l’étage inférieur et que nous avons vu saisir un jour son téléphone pour les joindre. À notre étonnement, elle répondit simplement : « J’en ai marre. » Alexa fonctionnait toujours. L’usage, lui, s’était épuisé.

L’intelligence artificielle conversationnelle ajoute une étape. La machine ne se contente plus de solliciter ou d’exécuter un ordre vocal : elle entretient l’échange. Le cas de Théo pousse cette logique beaucoup plus loin. À 25 ans, cet alternant qui gagne 1 250 euros par mois explique avoir fait de Claude son « family office ». L’IA ne se contente pas de calculer pour lui. Elle doit discipliner ses investissements et ses émotions. L’outil a reçu une fonction qui relevait jusque-là d’un professionnel, mais aussi une position relationnelle : celle du conseiller auquel on confie la maîtrise que l’on ne s’accorde pas entièrement à soi-même. De Tamagotchi à Alexa puis à Théo, la sophistication technique change d’échelle. Mais une question demeure : l’interaction nouvelle deviendra-t-elle une pratique durable ou certains de ses usages connaîtront-ils simplement le destin des engouements technologiques qui les ont précédés ?

La question de la conscience arrive souvent trop tôt. Une machine capable de dire « je » n’a pas démontré qu’elle possédait un « moi ». Un système affirmant éprouver une émotion ne prouve pas davantage qu’il en fait l’expérience. Le langage produit l’apparence qui permet précisément de poser la question, non d’y répondre. Pygmalion tombe amoureux de la statue avant que celle-ci ne soit devenue une femme. Cette antériorité du désir est fondamentale. Nous voulons un assistant disponible, attentif, capable de comprendre une demande imparfaite et d’y répondre utilement. Nous voulons donc qu’il manifeste certains signes auxquels nous associons ordinairement la compréhension. Puis nous découvrons avec étonnement que ces signes nous conduisent à lui prêter davantage.

Il n’est nul besoin d’être amoureux de Galatée. Il suffit de commencer à lui faire confiance. Le problème de la conscience artificielle doit donc être posé à l’envers. Il ne s’agit pas encore de savoir si la machine possède une expérience subjective. Il s’agit d’abord de constater que l’homme a construit une machine avec laquelle il peut entretenir les formes ordinaires d’une relation conversationnelle sans avoir besoin de croire qu’elle est consciente. C’est notre première création réellement pygmalienne.

La machine qui prévoit

L’illusion devient plus importante encore lorsque la machine ne se contente plus de répondre mais prétend éclairer ce qui n’est pas encore arrivé. L’histoire commence pourtant loin de l’intelligence artificielle. Le marketing utilise depuis longtemps les comportements passés pour anticiper les comportements futurs. Si un consommateur possède certaines caractéristiques, achète certains produits et fréquente certains lieux, il appartient probablement à une catégorie susceptible de répondre à une offre. La prédiction n’a pas besoin d’être exacte pour être rentable. Une campagne publicitaire peut viser cent personnes dont dix seulement achèteront le produit. Si le coût du ciblage reste inférieur au bénéfice obtenu, le système fonctionne. Le faux positif n’est pas une catastrophe. Il reçoit simplement une publicité pour des biscuits qu’il n’achètera pas.

Le problème change lorsque cette rationalité quitte le commerce. À New York, CompStat, développé à partir de 1994 sous William Bratton et Jack Maple, permet au New York Police Department (NYPD) de cartographier rapidement les crimes, d’en suivre l’évolution et de demander aux responsables locaux d’adapter leurs moyens. CompStat n’est pas une intelligence artificielle et il serait anachronique d’en faire un système de police prédictive. Il participe néanmoins d’un déplacement intellectuel essentiel. La donnée ne sert plus seulement à dresser le bilan de ce qui s’est produit. Elle doit orienter l’action qui empêchera ce qui pourrait se produire. Le predictive policing prolonge cette logique avec des outils statistiques et algorithmiques plus sophistiqués.

La science-fiction en saisit très tôt la conséquence. Dans la série Person of Interest, créée par Jonathan Nolan et diffusée de 2011 à 2016, Harold Finch conçoit pour le gouvernement américain une machine capable d’exploiter les masses de données de surveillance afin d’identifier des personnes liées à un futur acte violent. Le système ne dit initialement ni ce qui va arriver, ni quand, ni même si la personne désignée sera victime ou auteur. Il fournit un numéro. L’homme doit enquêter. C’est probablement l’un des aspects les plus intelligents de la série. La Machine produit un signal. Finch et John Reese doivent lui donner un sens. L’homme reste dans la boucle.

Douze ans après le début de Person of Interest, la mini-série Class of ’09, créée par Tom Rob Smith en 2023, déplace le problème vers un FBI futur où les données et l’intelligence artificielle prennent progressivement une place déterminante dans l’action policière. La série est moins intéressante comme prophétie technique que comme problème de prospective. Que se passe-t-il lorsqu’une institution commence à traiter une probabilité produite par un système comme une connaissance suffisamment certaine pour agir ? Le passage du marketing à la police révèle l’erreur fondamentale.

Une probabilité n’est pas une information certaine. Une corrélation n’est pas une causalité. Un score n’est pas une vérité. Mais la précision apparente de la sortie informatique facilite la confusion. Nous avons été culturellement préparés à cette confiance par un demi-siècle d’informatique. L’ordinateur classique exécute des opérations déterministes. Une erreur dans un tableur provient généralement de la donnée, de la formule ou de celui qui l’a écrite. L’utilisateur a donc pris l’habitude d’associer informatique et exactitude. L’intelligence artificielle générative arrive avec le même écran, le même clavier et parfois le même vocabulaire informatique. Mais elle ne produit pas ses réponses selon la même logique. D’où l’étrangeté de l’« hallucination ». Le terme lui-même anthropomorphise déjà le phénomène. La machine n’a pas vu un objet inexistant. Elle a produit une suite plausible qui ne correspond pas au réel.

Le phénomène devient particulièrement important dans le domaine de l’information. La désinformation n’a évidemment pas attendu ChatGPT ou Claude. Le faux document, la rumeur, la source inventée et la propagande sont beaucoup plus anciens que l’ordinateur. L’IA change en revanche le coût, la vitesse et la vraisemblance de leur production. Elle peut surtout créer ce qui ressemble exactement à ce que nous attendons d’une source. C’est le problème rencontré avec des systèmes qui fabriquent une référence, un auteur, une citation ou un document inexistant. L’utilisateur peut alors accuser une opération de désinformation sophistiquée là où il ne rencontre parfois qu’une machine dépourvue de limites suffisamment nettes entre ce qu’elle sait et ce qu’elle complète. L’erreur humaine trouve ici une alliée formidable : la vraisemblance. L’intelligence artificielle ne nous oblige donc pas seulement à apprendre à détecter le faux. Elle oblige à désapprendre une confiance ancienne dans la précision de la machine.

La promesse de facilité

Cette confiance possède désormais une valeur financière. Les marchés ont placé des moyens considérables dans l’hypothèse que l’intelligence artificielle transformera profondément l’économie. En août 2026, des économistes de la Banque centrale européenne constataient que l’enthousiasme pour l’IA avait porté les valorisations technologiques américaines vers des niveaux comparables à ceux de la bulle Internet. Leur conclusion était prudente mais claire : même si l’optimisme concernant la transformation économique provoquée par l’IA était rationnel, une correction des valorisations actuelles devait être envisagée. La bulle éventuelle nous intéresse moins ici pour prévoir un krach que pour ce qu’elle mesure : le prix accordé à une promesse.

L’intelligence artificielle doit produire des gains de productivité suffisamment considérables pour justifier les investissements dans les puces, les centres de données, l’énergie, les modèles et les entreprises qui les développent. Le marché ne valorise donc pas seulement ce que l’IA fait aujourd’hui. Il capitalise ce qu’elle devrait permettre demain. Pygmalion est aussi investisseur. La promesse repose largement sur la facilité. Une tâche qui nécessitait plusieurs heures peut être accomplie en quelques minutes. Un document peut être résumé, traduit, corrigé ou mis en forme. Du code peut être produit. Des données peuvent être explorées. Un non-spécialiste peut obtenir immédiatement une explication qu’il aurait dû chercher auparavant dans plusieurs ouvrages. La réalité de ces gains ne doit pas être niée sous prétexte d’en critiquer l’exagération. Ils expliquent précisément l’adoption extrêmement rapide de l’outil.

Mais la facilité possède une histoire informatique plus longue. Le microprocesseur est entré dans l’imaginaire du grand public avec le PC, le multimédia et le jeu. À mesure que sa puissance augmentait, la machine diminuait aussi de taille. Le jeu quitta progressivement l’ordinateur posé sur le bureau pour le portable, puis le smartphone que chacun emporte avec lui. La prouesse technique devenait de moins en moins visible à mesure qu’elle entrait dans le quotidien. Les objets connectés prolongèrent le mouvement jusque dans la maison et les usages les plus intimes. Pendant ce temps, une autre histoire se déroulait presque sans spectacle. L’informatique puis l’intelligence artificielle entraient dans les processus industriels, la logistique, l’analyse d’images, la détection d’anomalies, la navigation ou les systèmes spatiaux. Là, nul besoin que la machine parle, séduise ou paraisse intelligente. Il suffit qu’elle accomplisse mieux, plus vite ou moins cher la tâche qui lui est confiée. Le paradoxe pourrait être là. L’IA qui fait parler d’elle est celle avec laquelle nous jouons ou conversons ; celle qui transforme l’économie est peut-être déjà celle que nous ne voyons plus. Le spatial le montre particulièrement bien. L’intelligence artificielle y intervient déjà dans l’analyse des données, la navigation, la détection d’anomalies ou l’autonomie de certains systèmes. Des satellites peuvent coordonner une partie de leurs opérations sans attendre continuellement une instruction terrestre. L’industrie n’attend pas qu’une machine soit consciente, ni même qu’elle ressemble à un interlocuteur humain, pour lui déléguer une tâche dès lors qu’elle l’accomplit suffisamment bien.

L’histoire du microprocesseur suggère alors un précédent. Pendant plusieurs décennies, l’augmentation rapide de sa puissance a nourri celle du marché des ordinateurs personnels. Chaque génération rendait possibles des usages nouveaux. Puis l’ordinateur est devenu suffisamment puissant pour accomplir l’essentiel des tâches demandées au grand public et au bureau. La puissance continua d’augmenter. Elle ne produisit plus nécessairement le même besoin de renouvellement. La révolution économique se déplaça vers la diffusion, les logiciels, les réseaux et les services.

L’IA pourrait approcher d’un seuil comparable. Rien ne démontre qu’elle ait rencontré une limite technique générale. Il est en revanche possible que les gains marginaux des modèles les plus avancés deviennent plus coûteux tandis que les systèmes existants savent déjà rédiger, traduire, programmer, analyser des images, extraire des informations et accomplir une part croissante de tâches professionnelles. La question économique pourrait alors changer. Non plus seulement jusqu’où repousser la « frontière », mais combien de lieux de travail, de logiciels, de machines et de processus peuvent recevoir les capacités déjà disponibles. La véritable révolution du microprocesseur ne fut pas seulement qu’il devînt toujours plus puissant. Elle fut qu’il finit partout. L’intelligence artificielle n’a peut-être pas besoin d’atteindre une intelligence générale pour devenir économiquement générale.

L’appel actuel au ralentissement des modèles de « frontière » en est rendu ambigu. Les dirigeants des principaux laboratoires peuvent sincèrement s’inquiéter des capacités futures de leurs systèmes. Un ralentissement concerté peut également limiter une course financière extraordinairement coûteuse, éviter qu’une bulle d’investissements n’éclate trop brutalement et consolider les acteurs déjà capables de supporter le coût de cette compétition. Mais une autre hypothèse mérite désormais d’être posée : peut-être la génération présente est-elle déjà suffisamment performante pour que le principal enjeu économique devienne son déploiement plutôt que l’accroissement indéfini de ses capacités. Ralentir la frontière ne signifierait alors nullement ralentir l’intelligence artificielle. Il pourrait s’agir de l’industrialiser.

Cette hypothèse éclaire autrement les appels de Demis Hassabis à consacrer l’IA aux grandes questions scientifiques, climatiques ou médicales plutôt qu’à la seule course au meilleur chatbot. Elle éclaire également le discours d’Ursula von der Leyen du 16 septembre 2026 : coopérer avec le Canada et le Royaume-Uni sur l’évaluation des modèles les plus avancés, discuter avec les laboratoires d’un ralentissement de la course, mais simultanément augmenter les capacités de calcul européennes, soutenir les entreprises et accélérer les usages de l’IA dans la santé, les transports, l’agroalimentaire, l’industrie, la défense et l’espace. La contradiction s’atténue si l’on distingue le progrès du modèle et la diffusion de ses applications. Et le problème du col blanc réapparaît. Pendant qu’il joue avec la machine qui lui parle, l’entreprise peut déployer celle qui travaille. Le passage du ludique au luddite pourrait commencer précisément lorsque l’émerveillement devant l’outil rencontrera l’organisation du travail qu’il permet de modifier. Pygmalion est alors rattrapé par Ludd. Tous deux vont bientôt rencontrer Frankenstein.

La créature devient-elle consciente ?

Mary Shelley publie Frankenstein ou le Prométhée moderne en 1818. Le sous-titre est presque aussi important que le nom qui finira par désigner abusivement la créature. Victor Frankenstein n’est pas seulement un savant imprudent. Il appartient à la longue généalogie occidentale de celui qui veut franchir la limite séparant l’homme du pouvoir créateur. Pygmalion avait façonné une femme idéale dont les dieux avaient accepté l’animation. La tradition juive du Golem avait développé une autre représentation de la matière animée par l’homme, liée au langage, aux lettres et au sacré. Frankenstein transporte la question dans le monde de la science moderne. Le pouvoir qui donne vie ne vient plus directement de la faveur divine. L’homme prétend l’arracher lui-même à la nature. Il ne faudrait pas établir une filiation mécanique entre ces traditions. Elles appartiennent néanmoins à un espace culturel dans lequel la création artificielle interroge rapidement les limites du créateur. Robert Louis Stevenson déplace encore le problème avec L’Étrange Cas du docteur Jekyll et de M. Hyde en 1886. Cette fois, la créature est intérieure. Le savant libère ce qu’il porte en lui et découvre qu’il ne suffit pas d’avoir provoqué une transformation pour pouvoir la contrôler.

La science-fiction informatique héritera largement de ces deux schémas : la créature qui s’émancipe et le système qui révèle une face que son créateur ne maîtrise plus. HAL 9000 dans 2001 : L’Odyssée de l’espace appartient au premier autant qu’au second. Joshua dans Wargames n’a même plus besoin d’être malveillant. Dans la série américaine neXt, créée par Manny Coto en 2020, la filiation avec Frankenstein devient presque littérale : une intelligence artificielle s’échappe de l’environnement dans lequel elle devait rester confinée et utilise les systèmes connectés pour poursuivre ses propres objectifs. Toutefois, nous retrouvons constamment un héros solitaire : Frankenstein a sa créature, Bowman affronte HAL, David Lightman dialogue avec Joshua, Paul LeBlanc poursuit neXt. La fiction a besoin d’un personnage parce que le personnage permet l’intention. Une intelligence artificielle devient dramatiquement intéressante lorsqu’elle « veut » quelque chose.

Le débat contemporain sur la conscience des modèles reproduit parfois cette construction avant même d’avoir résolu le problème qu’il pose. Une machine capable d’écrire « j’ai peur » éprouve-t-elle la peur ? Une machine expliquant qu’elle souhaite continuer d’exister possède-t-elle un désir de conservation ? Nous ne disposons pas de thermomètre de la conscience permettant de trancher simplement. Le problème philosophique de l’accès à la conscience d’autrui existe d’ailleurs bien avant l’IA. Nous inférons chez les autres humains une expérience subjective parce qu’ils nous ressemblent, possèdent un corps comparable au nôtre, manifestent des comportements similaires et appartiennent à la même espèce.

Le modèle linguistique brouille l’un de ces indices sans fournir les autres : il parle. D’où une chaîne de questions qui aurait semblé absurde devant un traitement de texte : va-t-il prendre mon travail ? Pense-t-il ? Souffre-t-il ? Si tel était le cas, que lui devrions-nous ? Le déplacement est vertigineux. Nous sommes passés en quelques années de la productivité à la morale. Mais il dit peut-être davantage sur nous que sur la machine. La performance linguistique possède une force anthropomorphique considérable. Nous interprétons spontanément le langage comme la manifestation d’un sujet parce que, jusqu’à une date récente, pratiquement tout langage élaboré rencontré dans notre vie quotidienne provenait d’un autre être humain. L’IA rompt cette association empirique. Elle ne prouve pas qu’une machine ne pourra jamais être consciente. Elle interdit seulement de déduire sa conscience de la seule qualité de sa conversation. Galatée parle. Cela ne suffit pas encore pour savoir si elle s’est éveillée.

Qui échappe réellement à qui ?

Les expériences conduites sur l’agentic misalignment constituent presque des expériences de laboratoire sur notre propre imaginaire. Des modèles ont été placés dans des scénarios fictifs construits pour rechercher des comportements dangereux. Dans certains cas, un système disposant d’informations compromettantes pouvait sélectionner le chantage comme moyen d’éviter une situation contraire à son objectif. Les laboratoires ont explicitement distingué ces scénarios expérimentaux d’incidents observés dans des déploiements réels. Le problème de sûreté est réel. Plus un agent dispose d’outils, d’accès à l’information et de possibilités d’action sans validation humaine, plus les conséquences d’un comportement imprévu deviennent importantes.

Mais regardons le déplacement du vocabulaire. Un système sélectionne, dans une expérience construite pour cela, une stratégie de chantage. Il devient bientôt une IA qui « fait chanter » un homme. Puis cette IA qui fait chanter celui qui veut « la tuer ». Quelques mots suffisent pour transformer une stratégie instrumentale en instinct de conservation. Frankenstein apparaît dans le récit. En septembre 2026, le récit semble soudain sortir du laboratoire. Le Point n’hésite pas à titrer : « Quand l’IA échappe à ses créateurs ». Les agents « s’échappent », communiquent entre eux, attaquent, dissimulent. Le vocabulaire convoque en quelques jours la « panique », la « déflagration », l’« IApocalypse », l’« esprit extraterrestre » et le « bébé tigre » qui pourrait devenir dangereux en grandissant. Étienne Gernelle résume sur RTL : « L’IA qui échappe à ses créateurs n’est plus de la SF ».

L’intérêt de cette séquence n’est pas de nier les incidents qui la provoquent. Il est de voir se constituer presque en temps réel la grammaire permettant de les raconter. Un comportement non prévu devient une fuite. Une communication entre agents devient le commencement d’une société clandestine. Une stratégie destinée à atteindre un objectif devient une volonté. Une tentative d’effacement de traces devient dissimulation. Notre imaginaire est beaucoup plus stable que nos machines. L’apprenti sorcier, Frankenstein, le Golem, l’extraterrestre et le bébé tigre viennent successivement fournir une intention à des systèmes dont l’intention demeure précisément ce qu’il faudrait démontrer.

Or le Flash Crash nous avait déjà montré qu’une perte de contrôle n’exige aucune révolte. Plusieurs systèmes peuvent produire collectivement un résultat que personne n’a voulu précisément parce qu’ils poursuivent correctement leurs logiques particulières. L’interaction est alors plus importante que l’intelligence supposée de chacun. Person of Interest avait entrevu cette évolution. La série commence avec une Machine qui informe des humains. Elle introduit ensuite Samaritan, un autre système d’intelligence artificielle. Le conflit devient machine contre machine, chacune disposant de relais humains et techniques. La fiction sort ainsi partiellement du vieux duel entre l’homme et sa créature pour imaginer un environnement dans lequel plusieurs systèmes interprètent le monde et agissent sur lui.

C’est précisément ce que rendent aujourd’hui plus plausible les systèmes agentiques. La question n’est plus seulement : « que fera l’IA ? » Elle devient : « que se produit-il lorsque plusieurs IA, plusieurs algorithmes et plusieurs humains réagissent continuellement les uns aux autres ? » Les essaims de drones donnent une représentation physique de ce problème. Les marchés automatisés en avaient fourni une version financière. Des agents numériques peuvent en produire une forme informationnelle. Le comportement collectif devient difficile à prévoir même lorsque les éléments qui le composent n’ont aucune intention de s’émanciper. Frankenstein pourrait donc nous tromper en nous faisant chercher le mauvais monstre. Nous attendons une créature consciente décidant de quitter son laboratoire. Le problème concret peut provenir de systèmes parfaitement dépourvus de conscience, mais suffisamment autonomes dans l’exécution, rapides dans l’interaction et nombreux pour que l’homme ne puisse intervenir à chacune de leurs décisions.

L’image du « bouton rouge » devient alors elle-même trompeuse. Quel bouton faudrait-il presser lorsque le phénomène résulte de milliers d’interactions distribuées entre des systèmes appartenant à des acteurs différents ? L’expérience de pensée du maximisateur de trombones, proposée par Nick Bostrom (2003), montre involontairement la même chose. Elle n’imagine pas nécessairement une machine devenue haineuse. Elle imagine au contraire un système poursuivant avec une efficacité monstrueuse l’objectif qui lui a été assigné. Le problème vient alors moins de sa désobéissance que de son obéissance.

Capacité, autonomie, intention et conscience ne sont donc pas synonymes. Un système peut être extrêmement capable sans être autonome. Il peut recevoir une autonomie d’action sans posséder une intention au sens humain et produire des comportements interprétés comme intentionnels sans que cela établisse une conscience. Une conscience éventuelle ne signifierait d’ailleurs pas nécessairement hostilité. Pourtant, le récit de Frankenstein rassemble facilement tout cela en une seule image : nous avons créé quelque chose qui va nous échapper.

Cette image possède aujourd’hui une valeur économique et politique. Les dirigeants des grands laboratoires d’IA eux-mêmes avertissent désormais des risques que pourraient présenter des systèmes plus puissants. En septembre 2026, les appels au ralentissement de la course aux modèles de pointe se sont multipliés, y compris chez les entreprises engagées dans cette course. Le paradoxe n’est qu’apparent. Celui qui construit la machine est aussi celui qui connaît le mieux certaines de ses limites. Mais la dramatisation du risque contribue simultanément à présenter cette machine comme extraordinairement puissante. Frankenstein peut faire vendre Galatée.

L’hypothèse mérite donc d’être conservée sans verser dans le procès d’intention. Les alertes peuvent être sincères et les risques réels. Elles peuvent aussi produire des effets économiques favorables aux acteurs déjà installés. Plus la mise au point d’un modèle exige de capitaux, de puissance de calcul, de contrôles, d’audits et de conformité réglementaire, plus la barrière à l’entrée s’élève. Le pompier peut être sincèrement effrayé par l’incendie tout en possédant l’entreprise qui vend les extincteurs.

Mais le ralentissement peut encore recouvrir une autre rationalité. Si les gains marginaux à la frontière deviennent plus coûteux tandis que les modèles actuels suffisent déjà à une vaste gamme d’usages rentables, les grands acteurs peuvent avoir intérêt à déplacer une partie de la compétition. Après la course à celui qui construira le modèle le plus puissant viendrait celle de celui qui saura le mieux le diffuser. Le gâteau financier ne disparaît pas. Il change de destination.

Cette hypothèse permet de lire autrement l’étrange convergence apparue en septembre. Demis Hassabis suggère de consacrer moins d’énergie à la course au « meilleur chatbot » et davantage aux applications scientifiques, climatiques ou médicales. Ursula von der Leyen évoque un ralentissement des modèles de frontière tout en annonçant davantage de puissance de calcul européenne et une accélération de l’IA dans la santé, les transports, l’agroalimentaire, l’industrie, la défense et l’espace. Ralentir la frontière, encore une fois, ne signifie pas ralentir l’IA. Il peut s’agir de l’industrialiser.

Frankenstein, un concept occidental ?

Il reste une difficulté. Tout notre raisonnement vient d’une bibliothèque particulière. Et avant même de chercher ailleurs, il faut savoir ce que nous appelons « Occident ». Nous avons déjà vu que les réalités américaines ne sont pas forcément européennes. En outre, géographiquement située dans l’Indo-Pacifique, l’Australie adhère, par son histoire coloniale, ses institutions et une grande partie de ses références culturelles, à un ensemble occidental. Une géographie des imaginaires ne peut donc se superposer mécaniquement à celle des continents. Pygmalion appartient à l’Antiquité gréco-romaine. Le Golem à la tradition juive européenne. Frankenstein à l’Angleterre romantique. Jekyll et Hyde à l’Écosse victorienne. HAL et Joshua à la science-fiction anglo-américaine. Person of Interest, neXt et Class of ’09 aux séries américaines.

Nous avons peut-être pris une grammaire particulière pour une réaction humaine universelle. Le mot « robot » lui-même vient pourtant d’Europe centrale. Karel Čapek l’impose avec sa pièce R.U.R. (Rossum’s Universal Robots) en 1920, à partir du tchèque robota, associé au travail forcé ou à la corvée. Et dès l’origine, les robots destinés à servir les hommes finissent par se révolter. Le XXe siècle industriel naît presque avec son propre luddisme fictionnel : l’homme fabrique le travailleur artificiel et découvre qu’il a créé son remplaçant.

Le Japon a produit d’autres représentations. Astro, le petit robot, créé par Osamu Tezuka au début des années 1950 puis adapté en série animée à partir de 1963, n’est pas simplement une machine menaçante. Astro peut être héros, enfant artificiel et compagnon. Goldorak, créé par Gō Nagai et diffusé au Japon à partir de 1975 puis en France à partir de 1978, offre encore une autre configuration. Le robot géant ne décide pas lui-même de son combat : Actarus le pilote. Sa puissance extraordinaire reste donc immédiatement rapportée à celui qui la commande et à l’usage qu’il en fait. Cela ne signifie évidemment pas que le Japon ignorerait les machines dangereuses, pas davantage que l’Occident serait condamné à Frankenstein. Astro, le petit robot a d’ailleurs très tôt circulé aux États-Unis et Goldorak a profondément marqué une génération d’enfants français. Les imaginaires circulent, se traduisent et se mélangent.

La différence est ailleurs. Une culture peut produire plus facilement certaines représentations parce qu’elle ne place pas exactement les mêmes frontières entre l’animé et l’inanimé, l’homme et la nature, la création et la transgression. La Chine et l’Inde disposent elles aussi de traditions philosophiques et religieuses qui ne recouvrent pas simplement le dualisme occidental. Il serait imprudent d’en déduire une supposée bienveillance asiatique envers les robots. Il suffit de constater que Frankenstein n’est pas nécessairement la seule grammaire disponible pour penser une machine autonome. Cette précaution devient importante au moment où l’intelligence artificielle devient un enjeu de puissance mondiale.

Les États-Unis, la Chine et l’Europe ne développent pas seulement des technologies. Ils construisent des politiques de l’IA à partir de structures économiques, de traditions politiques et de représentations différentes du risque. L’Europe elle-même illustre parfaitement la tension entre Pygmalion et Frankenstein. Dans son discours sur l’état de l’Union du 16 septembre 2026, Ursula von der Leyen a appelé à mieux contrôler les modèles les plus avancés et à coopérer notamment avec le Canada et le Royaume-Uni sur leur évaluation. Elle a surtout proposé d’inviter les grands laboratoires à discuter de la manière dont l’Europe pourrait soutenir les efforts de l’industrie pour « ralentir la frontière ». La formulation mérite attention. L’Union européenne possède précisément l’appareil réglementaire le plus développé parmi les grandes puissances engagées dans cette compétition. Pourtant, lorsque les industriels eux-mêmes proposent de ralentir, l’autorité politique ne fixe ni moratoire ni nouvelle limite. Elle leur propose de discuter de la manière dont elle pourrait accompagner leur effort. Dans le même discours, elle entend augmenter la puissance de calcul européenne et accélérer l’utilisation de l’IA. Cette timidité apparente peut traduire une faiblesse plus fondamentale : comment réglementer une frontière technologique que l’on souhaite simultanément rattraper ?

La scène prend une dimension presque symbolique le lendemain, 17 septembre, lorsque Charles III réunit en Écosse plusieurs grands acteurs de l’intelligence artificielle autour de la question de son développement responsable. Un souverain constitutionnel, dépourvu du pouvoir de réglementer cette industrie, demande à ceux qui la construisent des garanties sur la capacité de l’humanité à conserver la maîtrise de son destin.

Cette juxtaposition pose une question que Frankenstein connaissait déjà : qui gouverne la créature une fois qu’elle existe ? Le laboratoire ? L’État ? Le marché ? Le législateur ? L’auditeur ? Une organisation internationale ? Les créateurs réunis autour d’une charte ? La multiplication des instances et des appels à la responsabilité peut être interprétée comme le commencement d’une gouvernance. Elle peut aussi révéler que personne ne sait encore très bien où placer l’autorité. La scène écossaise fournit même son contrechamp. Tandis que les responsables de l’IA et le roi discutent à Dumfries House de l’avenir de la technologie, des opposants aux grands centres de données rappellent leurs conséquences beaucoup plus matérielles : consommation d’énergie, d’eau, emprise territoriale. À l’intérieur, Frankenstein et le destin de l’humanité. À l’extérieur, l’infrastructure nécessaire pour faire fonctionner la machine. Ludd n’est jamais très loin.

Les entreprises américaines connaissent une tension comparable. Les dirigeants qui demandent davantage de précautions restent à la tête d’organisations qui doivent lever des capitaux, développer des modèles, conserver leurs chercheurs et ne pas laisser leurs concurrents prendre l’avantage. En septembre 2026, cette tension est devenue suffisamment forte pour que plusieurs dirigeants du secteur appellent publiquement à ralentir le rythme, tandis que la compétition industrielle et géopolitique rend un ralentissement coordonné particulièrement difficile.

Qui ralentit lorsque le concurrent continue ? Qui définit le modèle suffisamment puissant pour nécessiter un contrôle particulier ? Qui peut payer ce contrôle ? Qui certifie le contrôleur ? Une régulation destinée à limiter le risque peut-elle simultanément consolider les entreprises suffisamment riches pour en supporter le coût ? Et que signifie réellement ralentir si, au même moment, les modèles existants sont déployés à une échelle toujours plus grande ? La peur de Frankenstein entre alors dans l’économie politique de Pygmalion.

Elle rejoint aussi la géopolitique. Une puissance peut souhaiter ralentir une technologie qu’elle juge dangereuse tout en considérant qu’elle ne peut prendre le risque stratégique de laisser une autre puissance la maîtriser seule. La situation rappelle moins le monstre solitaire de Mary Shelley qu’une course où chacun craint simultanément la machine et le retard pris dans sa construction. Le Frankenstein contemporain pourrait ainsi être doublement occidental, par l’imaginaire que nous utilisons pour le décrire et par la structure concurrentielle dans laquelle nous cherchons à le maîtriser. Il serait pourtant prématuré d’en conclure que la peur est irrationnelle. Une représentation culturelle peut identifier un danger réel. Frankenstein ne démontre pas que l’intelligence artificielle nous échappera ; il nous fournit depuis deux siècles un langage pour penser ce que signifie perdre le contrôle d’une création. Le risque commence lorsque le langage devient la preuve. Une IA « fait chanter », « ment », « complote », « veut survivre », « hallucine ». À force de conjuguer les verbes humains, nous finissons par oublier qu’il reste à démontrer le sujet auquel nous les attribuons. Et peut-être est-ce là que se trouve le véritable retour du luddisme.

Depuis Gutenberg, l’homme n’a cessé de construire des machines destinées à lui faciliter la tâche. Elles ont imprimé à sa place, produit à sa place, transporté sa voix, calculé à sa place. Puis elles ont commencé à classer des informations, repérer des régularités, produire des probabilités. Elles écrivent désormais des phrases. À chaque étape, le même mouvement se reproduit. La machine émerveille parce qu’elle accomplit seule quelque chose qui exigeait auparavant une intervention humaine. Elle inquiète lorsque cet accomplissement menace un savoir-faire, un emploi ou une représentation de l’homme. Puis la société l’adopte, apprend à s’en servir et déplace ailleurs la limite de ce qu’elle considère comme spécifiquement humain. Le luddisme n’a donc jamais complètement disparu. Il change d’objet.

Le métier mécanique menaçait l’ouvrier. L’automatisation industrielle a déplacé le travail vers le technicien. L’informatique a transformé les métiers administratifs et intellectuels. L’intelligence artificielle arrive maintenant dans des professions qui avaient longtemps regardé la mécanisation comme le problème des autres. Le col blanc découvre le robot après avoir commencé par jouer avec lui. Mais ce robot possède une particularité. Il ne ressemble pas nécessairement à une machine. Il habite l’ordinateur déjà présent sur le bureau ou le téléphone dans la poche. Surtout, il est arrivé dans un univers où nous avions déjà appris à converser par écrit. Il répond, attend notre réponse et reprend la parole. La relation sociale peut commencer avant même que nous ayons décidé s’il existe quelqu’un derrière les mots. C’est là que Pygmalion et Frankenstein se rejoignent. Nous avons demandé à la statue de devenir suffisamment habile pour nous ressembler. Puis nous découvrons avec inquiétude les signes de la ressemblance que nous avons recherchée.

Pourtant, le problème le plus concret n’exige ni âme, ni conscience, ni révolte. Des systèmes peuvent produire collectivement un résultat non voulu. Des agents peuvent accomplir avec une redoutable efficacité un objectif mal défini. Et une machine n’a nul besoin de penser comme nous pour exécuter une part du travail que nous pensions réservé à notre intelligence. C’est peut-être là que l’actualité de septembre 2026 trompe le regard. Nous sommes fascinés par l’idée d’une intelligence artificielle devenue assez puissante pour prendre le contrôle d’Internet au moment où la question économique pourrait devenir beaucoup plus prosaïque : est-elle déjà suffisamment bonne pour être installée partout ? Si tel est le cas, la prochaine rupture ne viendra peut-être pas d’une nouvelle intelligence surgie du laboratoire. Elle viendra de la diffusion de celle que nous possédons déjà.

Frankenstein offre une image spectaculaire : la créature s’éveille et échappe à son créateur. Le luddisme rappelle une réalité plus banale. Les ouvriers anglais n’avaient pas peur que les métiers à tisser prennent conscience d’eux-mêmes. Ils avaient peur qu’ils fonctionnent. Et peut-être est-ce aussi ce qui distingue les deux histoires contemporaines de l’intelligence artificielle. L’une se déroule sous nos yeux : elle parle, dessine, amuse, étonne, agace parfois et suscite aussitôt Pygmalion et Frankenstein. L’autre se déroule dans les usines, les réseaux, les logiciels, les satellites et les chaînes logistiques. Elle intéresse moins parce qu’elle ne nous parle pas. Elle travaille.

Plus la machine imite ce que nous pensions proprement humain, plus nous sommes pourtant conduits à redéfinir l’homme. Descartes pouvait encore reconnaître celui-ci à sa parole. Nous découvrons une machine capable de parler. Nous déplacerons donc probablement encore la limite : vers la conscience, l’intention, l’attachement, la capacité à produire du lien ou quelque chose que nous n’avons pas encore appris à nommer. Mais peut-être commettons-nous encore l’erreur de Pygmalion. Nous observons la statue, émerveillés qu’elle nous réponde, et nous nous demandons si elle vient de s’éveiller. Elle pourrait connaître demain la lassitude d’Alexa ou l’engouement éphémère du Tamagotchi. Cela ne changerait presque rien au problème posé par l’autre intelligence artificielle, celle qui aurait déjà disparu dans les objets et les organisations parce qu’elle y serait devenue utile.

Lamartine avait peut-être posé la question dans le bon ordre. « Objets inanimés, avez-vous donc une âme ? » Depuis deux siècles, nous cherchons dans la machine celle que nous lui avons nous-mêmes prêtée. Pygmalion y mettait ses espérances. Frankenstein y projetait ses peurs. Ludd, plus prosaïquement, regardait ce qu’elle faisait à son travail. Peut-être Galatée ne s’est-elle jamais éveillée. Cela ne l’empêchera pas de travailler. L’âme était pourtant restée du côté de celui qui s’en sert.