Adrien Abecassis – L’homme devant la machine Babel, Jérusalem et les machines

Chaque grande mutation technique rouvre une question que l’on croyait close : qu’est-ce qu’un être humain ? Adrien Abecassis, directeur des initiatives politiques au Forum de Paris sur la Paix, part de cette intuition pour lire Magnifica Humanitas comme une encyclique sur l’homme devant la machine.
Elle protège l’irréductible dignité humaine ;
Elle s’arrête peut-être trop tôt devant l’énigme de l’IA.

Chaque grande mutation technique oblige une société à reprendre la question qu’elle croyait déjà résolue : qu’est-ce qu’un être humain ? C’est l’ambition de Magnifica Humanitas. Ne nous y trompons pas : ce texte n’est pas une encyclique sur l’intelligence artificielle. Ou plutôt : s’il l’est, c’est au sens où Rerum novarum n’était pas seulement une encyclique sur les usines. L’IA n’est jamais le vrai sujet. Elle est le révélateur, l’événement qui force une tradition morale à regarder ce que l’époque fait à l’homme.

Toute l’encyclique se déploie à partir de l’alternative biblique posée dès le départ : Babel ou Jérusalem. Babel représente le progrès sans limite et sans communion : une humanité fascinée par sa propre puissance technique, cherchant l’unité par l’uniformisation, sacrifiant les personnes à l’efficacité et croyant pouvoir traduire tout le réel, jusqu’au mystère humain, en performance et en données. Jérusalem, à travers Néhémie, représente l’autre voie : une reconstruction patiente, fragile, collective, pluraliste, où chacun prend sa part, où les liens sont restaurés avant de poser les pierres.

Voilà le choix. Il serait donc vain d’y chercher une position de l’Église “pour ou contre la technologie”. Elle demande quel monde nous voulons construire avec elle. L’IA y sert de loupe et agrandit les questions anciennes – pouvoir, dignité, vérité, travail, paix, fragilité – en les déplaçant dans un monde où la technique s’infiltre partout, au point de devenir un milieu.

Le texte avance ainsi dans une tension continue. La technique n’est jamais condamnée comme telle. Elle est même reconnue comme profondément humaine, produit de sa créativité et de sa liberté. Nous y reviendrons, car ce présupposé emporte beaucoup de conséquences. Magnifica Humanitas pose magnifiquement la question de l’homme ; elle laisse volontairement de côté celle de la machine – et laisse presque intacte la question, plus trouble, de savoir si certaines machines pourraient un jour cesser d’être de simples instruments.

La technique comme grâce et comme pouvoir

La technique, issue de l’homme et de son Créateur, peut être une grâce. Elle peut soigner, relier, éduquer, protéger la création. L’encyclique insiste sur ce point : l’humanisme chrétien ne demande pas de rejeter la science ni de se retirer du progrès ; il demande que le progrès soit jugé à ce qu’il fait grandir en humanité.

Mais c’est précisément parce que la technique vient de l’homme qu’elle ne saurait être innocente. Parce qu’elle garde la trace des mains qui l’ont faite et qui la possèdent. La machine installe toujours un régime de pouvoir. Or ce régime est nouveau. Il est massif, diffus, quotidien et largement privé. Les États ne sont plus les seuls architectes du progrès ; de grandes entreprises transnationales contrôlent les infrastructures, les données, la puissance de calcul et, parfois, les conditions mêmes de visibilité du vrai.

Qui détient ce pouvoir, au nom de quoi, avec quels contre-pouvoirs ?

C’est le premier angle de cette encyclique. Ici, l’encyclique rejoint en partie le langage européen de la régulation : l’idée que le contrôle politique et moral d’une technologie importe davantage que sa production. Pourtant, le contrôle politique d’une technologie ne suffit pas si l’on ne possède ni les infrastructures ni les compétences qui permettent de peser sur sa trajectoire. Une puissance sans morale devient Babel. Mais une morale sans puissance peut se condamner à commenter le monde au lieu de l’orienter.

Toute la difficulté tient dans cet entre-deux. Il faut pouvoir gouverner la technique, mais on ne gouverne pas longtemps ce que l’on ne sait pas produire.

L’homme contre sa réduction

La position la plus claire, et sans doute la plus forte de l’encyclique, est anthropologique. La personne humaine est relationnelle avant d’être productive. Sa dignité ne dépend ni de son utilité, ni de son intelligence, ni de sa santé, ni de sa réussite, ni de sa performance. Elle est ontologique : elle précède tout mérite. C’est la réponse directe à une culture numérique où tout tend à être classé, noté, optimisé, comparé.

Léon XIV prolonge Laudato si’ et sa critique du “paradigme technocratique”, c’est-à-dire le moment où l’efficacité, le profit et le contrôle deviennent une métaphysique implicite de la société. L’IA accélère ce paradigme, en s’infiltrant partout – parce qu’elle agit sur la décision, sur la connaissance, sur l’imaginaire, sur le travail, sur l’intimité. Les moyens du règne de la technique augmentent, mais la maturité morale ne suit pas nécessairement.

Le texte se garde pourtant d’un ton apocalyptique. Il insiste sur les grands principes de la doctrine sociale : la destination universelle des biens, la solidarité, la justice sociale, le développement humain intégral. Léon XIV voit l’histoire depuis le bas : les humbles, les pauvres, les affamés, les exilés, l’enfant blessé, l’étranger. C’est la clé politique de l’encyclique. Pour juger l’IA, le progrès, l’économie, la guerre ou la communication, il faut regarder depuis ceux qui subissent les systèmes. Face aux idéologies, anciennes ou nouvelles, qui veulent dépasser la limite par la puissance, le christianisme propose le mouvement inverse : Dieu descend dans la fragilité humaine. La dignité de l’homme se reconnaît dans sa capacité de réflexion critique, de choix, d’amour gratuit, de relation authentique. Aucun système de calcul ne produit un cœur qui se donne.

Dès lors, le texte est plus dur sur les récits transhumanistes et posthumanistes. Léon XIV ne ridiculise pas la recherche d’amélioration humaine. Il vise autre chose : l’imaginaire du salut technique, cette promesse selon laquelle l’homme serait enfin libre lorsqu’il aurait supprimé sa fragilité. Le christianisme dit presque l’inverse. La limite, la vulnérabilité, la dépendance, la vieillesse, la maladie ne sont pas des défauts à corriger. Elles sont aussi des lieux où l’homme se découvre relié, obligé, appelé au soin, à la patience, au pardon. La vraie grandeur humaine n’est pas l’optimisation sans faille. Une erreur, pour un algorithme, est un bug ; pour une personne, elle peut être le début d’une transformation.

Léon XIV ne parle d’ailleurs presque jamais de catastrophe existentielle. Il cite Gandalf mais refuse la science-fiction. Sa peur est plus ancienne et plus terrestre : une société techniquement brillante mais spirituellement vide, où les êtres humains perdraient progressivement le sens de leur propre dignité. L’enjeu est de rester humain dans un monde où tout pousse à la réduction de l’homme à une fonction ou à une performance.

Les lieux de résistance : éducation, travail, guerre

C’est notamment par l’éducation que cette anthropologie devient concrète. La rapidité de la réponse peut tuer le désir de chercher. Plutôt que de courir après la vitesse numérique, le développement d’une âme – celle d’un enfant, mais aussi celle d’un adulte – doit s’appuyer sur ce que le numérique ne donne pas spontanément. La durée. Le silence. La lecture. La confrontation lente dans laquelle se forme le jugement, le vrai, non celui à l’emporte-pièce. Le texte a une formule heureuse de “jeûne de l’IA”, comme discipline de liberté. Savoir utiliser l’IA suppose aussi de savoir ne pas l’utiliser. Laisser une question ouverte. Chercher avant de demander. Lire avant de résumer. Écrire avant de faire produire. Se tromper avant de corriger. Tout cela participe à la formation d’une intériorité capable de résister à l’assistance permanente.

Le travail est le lieu où cette critique rejoint le cœur le plus classique de la doctrine sociale de l’Église. La ligne est très sociale, au sens classique. Le travail est bien plus qu’un revenu ; il est un lieu d’expression et de coopération, un lieu de maturation humaine. L’automatisation peut soulager les tâches pénibles, mais elle peut aussi déqualifier, rigidifier et forcer les travailleurs à s’adapter à la machine au lieu d’adapter la machine au travail humain.

L’impact de l’IA sur l’emploi n’est pas réductible à une prophétie, et l’encyclique a raison de déplacer la question : quel type de travail sera laissé aux hommes, sous quelles formes de contrôle, avec quelle autonomie, quelle reconnaissance, quelle possibilité de progresser ? Le texte ne promet pas de solution universelle : il insiste au contraire sur le caractère inégal, local et conflictuel des transitions. Il appelle à des critères sociaux pour l’innovation, à la formation continue et à la reconversion, et bien sûr à la participation des travailleurs. La responsabilité des entreprises se mesure aussi à la qualité du travail, et non à la seule productivité qu’elles extraient.

La guerre est le cas limite. Sur les armes autonomes et l’IA militaire, la position est sans ambiguïté : la décision de tuer ne peut être confiée à des processus automatisés. Le jugement moral n’est pas un calcul et, pour le pape, une machine ne peut pas être un agent moral. Aucun algorithme ne rend la guerre acceptable. Il insiste sur la traçabilité des décisions, sur le temps du jugement moral.

De telles règles internationales communes ont-elles la moindre chance de voir le jour ? Léon XIV parle lucidement d’un monde déjà engagé dans une forme de “guerre mondiale par morceaux”, ou graduelle, où le seuil du recours à la force baisse continuellement, à coups de cyberattaques, d’opérations d’influence, de systèmes semi-autonomes, de brouillage entre guerre et paix. D’où son appel à “désarmer l’IA”, qui signifie résister à une pente profonde : celle qui rend l’usage de la force plus facile parce qu’il devient plus distant, plus rapide et moins visible pour celui qui décide.

Le pape n’est pas naïf. Il est moralement maximaliste mais politiquement semi-réaliste. Les États raisonnent autrement : ils craignent d’abord que l’adversaire automatise plus vite qu’eux. L’encyclique parle depuis l’éthique de la limite ; les États, eux, raisonnent depuis l’éthique de la survie. Entre les deux, il y a tout l’espace – étroit, nécessaire, souvent décevant – de la diplomatie. C’est un dilemme de praticien : l’éthique de conviction dit que certaines délégations sont interdites parce qu’elles détruisent l’humanité de l’acte moral. L’éthique de responsabilité répond : si les autres les développent, puis-je m’interdire de le faire sans mettre les miens en danger ? Le texte ne résout pas cette tension, il la tranche : c’est une grandeur et, peut-être, une faiblesse.

L’autre versant : que sont les machines que nous fabriquons ?

Léon XIV pose admirablement la question : quel type d’humanité sommes-nous en train de fabriquer ? Il effleure une autre question, plus étrange et peut-être théologiquement plus dérangeante : quel type de technologie sommes-nous en train de fabriquer ?

La pensée est prudente. Elle reconnaît que toute affirmation sera vite dépassée, et que même les concepteurs comprennent imparfaitement ces systèmes, qui sont davantage “cultivés” que construits. Elle refuse surtout l’assimilation entre intelligence artificielle et intelligence humaine. L’IA calcule, classe, imite, synthétise, prédit, mais elle ne vit pas ce qu’elle énonce. Elle n’a pas de corps exposé au monde, pas d’expérience vécue de la joie ou de la douleur, pas de conscience morale, pas de responsabilité devant autrui. Elle peut reproduire le langage de la relation, mais elle ne porte pas le poids de la relation.

Cette position découle de la vision fondamentale de la technique explicitée dès le début du texte. Si la technique est une création humaine, elle ne peut pas échapper à son contrôle. Dès lors, la réflexion est placée intégralement sous le cadre de la doctrine sociale de l’Église et de ses conséquences sociales. La question anthropologique est essentielle : quel type d’humanité sommes-nous en train de fabriquer ? Mais que faire de l’autre question anthropologique : quel type de technologie sommes-nous aussi en train de fabriquer ?

Le texte écarte assez vite les hypothèses pourtant débattues, même si elles demeurent minoritaires, selon lesquelles les machines pensantes que nous sommes en train de créer seraient réellement pensantes. Il ne s’agit pas de dire que l’IA pense comme nous. Bien sûr, l’homme a un corps et apprend avec lui, avec le regard des autres, avec le désir, la peur, la douleur. Tout cela donne au sens une épaisseur que la machine ne possède pas. L’IA n’a qu’un seul “sens”, celui du texte. Elle a un accès beaucoup plus étroit au réel.

Mais il serait trop simple d’en conclure qu’elle ne manipule que des signes vides. Le langage humain n’est pas une coquille vide. Il est la compression de millénaires d’expériences sensorielles, physiques, émotionnelles et logiques. Je reprends cette réflexion de George Steiner sur la capacité du langage à contenir, structurer et “habiter” notre monde. Certes, une IA ne connaît pas la souffrance, mais elle en a rencontré des milliards de formes dans les récits, les lettres, les prières. Elle ne désire pas, mais elle a cartographié le désir tel que nous l’avons laissé dans nos phrases. Le langage conserve nos perceptions, nos peurs, nos gestes, nos lois, nos mythes, nos techniques. Et la probabilité statistique finit par reconstituer l’image complète d’un objet, avec sa physique, ses émotions et ses attributs.

Est-ce assez pour comprendre ? Probablement pas au sens humain. Est-ce absolument rien ? Je ne sais pas. Personne ne le sait. L’IA ne pense pas comme nous. Elle ne comprend pas comme nous. Mais peut-être faut-il se retenir de conclure trop vite qu’elle ne pense pas du tout. Nous savons que notre conscience est liée au corps, à la mémoire, au monde vécu. Nous ne savons pas encore si une autre forme d’intégration, non biologique, pourrait produire une autre forme d’intériorité – étrange, discontinue, non humaine, mais réelle.

Pour l’Église, la réponse est évidemment différente. L’homme est créé à l’image de Dieu. Il est unique, inaliénable, irréductible. C’est précisément ce qui le rend incomparable à la machine. Mais cette certitude, si forte pour protéger l’homme, peut aussi rendre plus difficile la reconnaissance de ce qui ne lui ressemble pas. Depuis Galilée, on sait que l’altérité est toujours plus difficile à reconnaître lorsqu’elle dérange notre place dans l’ordre du monde.

L’idée que l’homme puisse se muer en créateur n’est pas une hypothèse que l’Église peut accepter facilement. À raison, sans doute, si cette idée signifie que l’homme se prend pour Dieu. Mais si la question est plus modeste et plus inquiétante – si nous fabriquons des systèmes qui ne sont plus seulement des instruments passifs, sans être pour autant des personnes –, alors il faudra bien, un jour, inventer un langage pour les penser.

C’est peut-être ici que Magnifica Humanitas s’arrête trop tôt. Elle protège l’homme contre sa réduction à la machine, et cette protection est indispensable. Elle regarde moins directement l’hypothèse inverse : la possibilité que certaines machines cessent un jour d’être seulement des choses. Magnifica Humanitas est une grande encyclique de doctrine sociale parce qu’elle comprend que l’IA oblige d’abord à redemander ce qu’est l’homme. Elle n’est pas encore, ou pas vraiment, une grande philosophie de l’intelligence artificielle. Elle fait le choix de laisser ouverte une question que la tradition chrétienne devra peut-être, un jour, affronter plus directement.