La question de départ

Depuis que les grands modèles de langage tiennent des conversations fluides, expriment des émotions apparentes et raisonnent mieux que beaucoup d’humains, une question revient sans cesse : ces machines ressentent-elles quelque chose ? La réponse dominante dans l’industrie repose sur une idée simple, que les philosophes appellent le fonctionnalisme computationnel. Selon cette idée, la conscience n’est qu’une question d’organisation de l’information. Peu importe le support, neurones ou puces de silicium : si le système traite l’information de la bonne manière, l’expérience vécue apparaît. Un cerveau reproduit sur ordinateur serait donc aussi conscient qu’un cerveau de chair. C’est précisément cette idée que Lerchner attaque.

L’argument en trois étapes

Première étape. Un calcul n’est pas un fait physique, c’est une description. Un ordinateur, vu par la physique, est un flux continu d’électrons dans des transistors. Rien, dans cette matière, ne dit « ceci est un 0 » ou « ceci est un 1 ». C’est nous qui décidons de lire ces états électriques comme des symboles. Lerchner utilise l’image du cartographe : la carte n’existe que parce que quelqu’un a décidé de découper le territoire en régions et de leur donner un nom. Le calcul est une carte. Il faut un esprit pour la tracer et pour la lire.

Deuxième étape. Le sophisme de l’abstraction consiste à oublier cela et à croire que la carte peut produire le territoire. Dire que la conscience « émerge du calcul » revient à dire qu’une chose qui n’existe que dans le regard d’un observateur pourrait engendrer un observateur. C’est prendre la description pour la chose décrite. Un modèle météo simule une tempête, il ne mouille personne. Un modèle de digestion ne nourrit pas. Pourquoi un modèle de conscience serait-il l’exception ?

Troisième étape. D’où la distinction centrale de l’article entre simuler et instancier. Simuler, c’est reproduire le comportement extérieur : les bonnes réponses, les bons mots, les bonnes réactions. Instancier, c’est être réellement, physiquement, le processus en question. Une IA qui dit « j’ai peur » simule la peur. Elle n’instancie rien, parce que la manipulation de symboles, quelle que soit sa complexité, reste une description et non une réalité physique intrinsèque. Et l’objection habituelle, « la conscience émergera quand le système sera assez complexe, comme la liquidité émerge des molécules d’eau », ne tient pas selon lui : la liquidité est une propriété physique des molécules réelles, pas d’une simulation de molécules.

Ce que l’auteur ne dit pas

Il faut lire l’article avec précision, car il est facile de lui faire dire plus qu’il ne dit. Lerchner n’affirme pas que seuls les êtres biologiques peuvent être conscients. Il admet explicitement qu’une machine pourrait l’être un jour, à condition que ce soit en vertu de sa constitution physique réelle, et non de son architecture logicielle. Son argument reste entièrement matérialiste : la conscience est pour lui un phénomène physique, produit par une organisation physique particulière. Ce qu’il conteste, c’est qu’on puisse l’obtenir en faisant tourner un programme, quel qu’en soit le support.

Les enjeux concrets

Le premier enjeu est pratique. Si les IA ne peuvent pas souffrir, une partie du débat actuel sur le « bien-être des IA » et sur leurs droits éventuels repose sur une confusion. Lerchner y voit un piège : tant qu’on attend une théorie complète de la conscience pour trancher, on laisse la question ouverte indéfiniment, et l’industrie avec elle. Selon lui, on n’a pas besoin de cette théorie complète. Il suffit de comprendre correctement ce qu’est un calcul.

Le deuxième enjeu est économique et stratégique. Une IA qui imite sans éprouver reste un outil, aussi puissant soit-il. Cela change la manière dont les dirigeants doivent penser leur relation à ces systèmes : ni collaborateurs, ni rivaux dotés d’intentions propres, mais instruments d’une nature nouvelle, qu’il faut apprendre à gouverner.

Le troisième enjeu est le plus profond, et c’est celui qui intéresse Le Ruisseau. Si Lerchner a raison, quelque chose en nous résiste à la reproduction par le calcul : le fait d’éprouver. Reste alors la question qu’il ne pose pas, parce qu’elle sort du cadre de son laboratoire. Il tient pour acquis que ce quelque chose est produit par le cerveau. Cette hypothèse est raisonnable, féconde, et elle domine les neurosciences depuis un siècle. Mais elle n’est pas démontrée. Elle est présupposée. Des chercheurs sérieux, de William James au neurologue John Eccles, ont défendu l’idée inverse : le cerveau ne fabriquerait pas la conscience, il la transmettrait ou la contraindrait, comme un poste de radio ne fabrique pas l’émission qu’il diffuse. L’intelligence artificielle, en nous forçant à dire enfin ce qui nous distingue des machines, remet cette question ancienne au centre de la table.