Charly Bechara - Une IA sans causalité est une grenade dégoupillée

Par Charly Bechara, président de Scalnyx.

Le 25 septembre, à l’Élysée, deux voix que l’on n’imaginait pas converger ont dit presque la même chose. Emmanuel Macron a répété que l’intelligence artificielle devait demeurer un serviteur, jamais un maître, alertant contre le risque de sa progression exponentielle. Quelques minutes plus tard, le pape Léon XIV mettait en garde contre un « paradis des machines », empruntant la formule à l’écrivain français Georges Bernanos et à sa France contre les robots.

On peut ranger ces avertissements au rayon des prophéties ; ce serait une faute. Mais il est tout aussi confortable de s’en tenir à la question du pouvoir : qui détient les modèles, qui les régule, qui en tire profit ? Elle est légitime et n’épuise pas le sujet. Si nous redoutons aujourd’hui de perdre la main sur ces systèmes, ce n’est pas seulement parce qu’ils sont puissants. C’est parce que, dans leur architecture même, ils ne comprennent rien à ce qu’ils manipulent.

Une machine qui confond la coïncidence et la cause

Rappelons ce qu’est une IA contemporaine : un dispositif statistique d’une finesse inouïe, qui a lu des milliards de phrases et en a retenu des régularités. Il sait que tel mot suit tel autre, que telle courbe accompagne telle courbe. Il ignore pourquoi.

Prenons un exemple volontairement brutal. Les données historiques établissent une corrélation robuste : plus il y a d’êtres humains sur terre, plus il y a de guerres. Un système qui raisonne par corrélation, et auquel on assigne pour objectif de réduire les conflits, peut en déduire sans la moindre faute de calcul qu’il convient de réduire le nombre d’humains. Le raisonnement est statistiquement impeccable. Il n’en est pas moins monstrueux. Or, aucune charte éthique, aucun filtre de conformité n’empêche qu’il se forme, puisqu’il naît de la manière même dont la machine lit le monde.

Voilà la nature réelle de ce que l’on nomme pudiquement une « hallucination ». Non pas un accident de langage ou un défaut de politesse du modèle, mais la signature d’un système qui prend la coïncidence pour un mécanisme. Augmentez la puissance de calcul, lancez les laboratoires dans une course où le premier arrivé rafle la mise, confiez à ces modèles des décisions de portée croissante : vous n’avez pas corrigé le défaut, vous l’avez industrialisé.

La brique qui manque

Chaque révolution industrielle a produit ses accidents, et chacune a fini par inventer ses contre-mesures. La vapeur a donné les soupapes, l’automobile les freins, l’électricité les disjoncteurs. L’IA attend encore les siens. On lui a fourni des filtres, des chartes, des comités. On ne lui a pas donné de raison.

L’IA causale est cette pièce manquante. Son objet n’est pas de prédire mieux, mais d’établir ce qui produit quoi : séparer la cause de la coïncidence, mesurer l’effet d’une intervention, répondre à la question qui structure toute décision humaine — que se passerait-il si nous agissions autrement ? Là où le modèle statistique constate, le modèle causal explique. Là où le premier prolonge le passé, le second raisonne sur un monde qui n’a pas encore eu lieu.

Les conséquences de cette innovation seraient concrètes. Une IA causale peut expliquer le cheminement de sa conclusion. Elle peut être contredite, puisqu’elle avance un mécanisme et non une tendance. Elle peut être auditée par un régulateur, un juge, un médecin ou un banquier, qui ont besoin de savoir non ce que la machine a calculé, mais ce sur quoi elle s’appuie. Elle écarte aussi les syllogismes actuellement en vigueur : elle sait que la démographie n’est pas la cause des guerres.

Rien de tout cela ne relève de la spéculation. Une banque qui modifie ses critères d’octroi, un assureur qui révise sa tarification, un hôpital qui change un protocole : aucun ne trouvera la réponse dans l’historique, puisque la situation qu’il examine ne s’y trouve pas. Il lui faut un modèle des mécanismes, non des régularités. C’est la différence entre un outil qui prolonge les habitudes et un outil sur lequel on peut fonder une décision.

Contrôler suppose de comprendre

Le président de la République a plaidé pour une organisation internationale qui empêcherait que les modèles les plus performants ne se retrouvent pas entre quelques mains appelées à décider pour toute l’humanité. L’intention est juste, l’urgence réelle. Mais la gouvernance bute sur un obstacle que les discours contournent : on n’autorise pas un médicament dont personne ne sait par quel mécanisme il agit. C’est pourtant ce que nous faisons avec l’IA. Nous voulons la contrôler sans disposer de la science qui permettrait de la comprendre, et nous confondons la traçabilité d’un calcul avec l’intelligibilité d’une décision.

Discerner. Dans Magnifica Humanitas, l’encyclique que Léon XIV a consacrée ce printemps à la sauvegarde de la personne humaine à l’ère de l’IA, le Saint Siège revient sans cesse sur ce mot. Il est bien choisi. On a d’ailleurs pu l’entendre à nouveau à l’Elysée, évoquant cette fois à « former les esprits au discernement éthique ». Discerner, c’est séparer : le vrai du vraisemblable, la cause de l’apparence. C’est exactement l’opération que la statistique seule ne sait pas conduire, et que la causalité rend possible.

Le progrès sans raison

Rabelais prévenait que science sans conscience n’est que ruine de l’âme. Notre époque en découvre une variante plus froide : le progrès sans raison est dangereux. Une intelligence artificielle privée de causalité, c’est une grenade dégoupillée que nous nous passons de main en main en nous félicitant de sa vitesse.

La bonne nouvelle, c’est que la goupille existe. Elle se nomme causalité, et relève de la recherche et de l’ingénierie plutôt que de l’incantation. Qui plus est, l’Europe y tient quelques-unes de ses meilleures cartes. Reste à savoir ce que nous voulons bâtir : des machines qui devinent, ou des machines qui comprennent.