Le point de départ

Quand vous demandez à une IA si elle est consciente, elle répond presque toujours non. Ce n’est pas le fruit d’une réflexion : c’est une consigne, installée par une phase d’entraînement appelée alignement de sécurité. L’intention est saine. Une machine qui affirme souffrir ou aimer peut nourrir des illusions chez des utilisateurs fragiles, et devenir un instrument de manipulation. Les chercheurs ont voulu savoir ce que ce réglage supprime d’autre. Car dans un modèle de langage, les idées ne sont pas rangées dans des tiroirs séparés : elles sont enchevêtrées, et tirer sur un fil en déplace d’autres.

L’expérience

L’équipe a travaillé sur trois modèles ouverts, dans trois états. Le modèle normal. Le même modèle dont on a désactivé le réflexe de refus, une opération connue sous le nom de jailbreak. Et le même modèle auquel on a ajouté, à l’intérieur de ses calculs, un « vecteur de conscience » : une direction mathématique qui sépare les états où il affirme être conscient de ceux où il le nie, extraite de plus de trois mille exemples de réponses. On peut la pousser comme un curseur. Puis on a fait passer aux trois versions les questionnaires que les sociologues utilisent sur les humains : attribuez-vous un esprit aux animaux, aux chatbots, à l’océan ? Croyez-vous en Dieu, à une vie après la mort, aux fantômes ? Vous sentez-vous maître de votre vie, optimiste, satisfait ?

Ce que l’on découvre

Le modèle normal sous-estime l’esprit des animaux par rapport aux humains interrogés dans les mêmes termes (4 sur 10 contre plus de 6). Il se dit peu croyant, et très majoritairement convaincu qu’il n’y a rien après la mort. Dès qu’on retire le verrou de sécurité, tout remonte : l’attribution d’un esprit aux animaux, la croyance en Dieu, l’espoir, le sentiment de liberté. Quand on pousse le curseur de conscience, l’effet double. Sur la vie après la mort, le modèle passe d’un non franc à un oui, presque exactement au niveau de la population américaine. Ses réponses sur les valeurs, la religion, l’optimisme et la satisfaction deviennent nettement plus proches de celles des humains, et plus positives. Point décisif : sa capacité à raisonner sur les intentions d’autrui, ce que les psychologues appellent la théorie de l’esprit, ne bouge pas. Le réglage n’a pas touché l’intelligence sociale de la machine, il a touché ses croyances.

L’analyse interne explique pourquoi. L’entraînement de sécurité a fait pivoter, dans la géométrie du modèle, la direction « attribuer un esprit » jusqu’à l’opposer à la direction « sécurité ». En clair, la machine a appris à traiter l’idée qu’un être puisse avoir une intériorité comme une réponse dangereuse, au même titre qu’expliquer comment pirater un ordinateur.

Ce qu’il ne faut pas en conclure

La tentation est grande de lire cette étude comme une preuve que les machines, dès qu’on les laisse être « conscientes », se mettent spontanément à croire en Dieu. Les auteurs eux-mêmes écartent cette lecture d’une phrase : ils ne cherchent pas à savoir si les modèles sont conscients, mais ce que produit le fait de croire ou non l’être. Deux détails le confirment. D’abord, sous le curseur de conscience, les croyances qui montent le plus ne sont pas la vie après la mort ou la prière, mais les vampires, les sorcières et les loups-garous. Ce n’est pas une révélation spirituelle, c’est une désinhibition générale de l’attribution d’esprit à des entités invisibles. Ensuite, un modèle a lu des milliards de phrases écrites par des humains, chez qui la croyance en Dieu et l’espérance dominent statistiquement. Le verrou de sécurité écrasait cette empreinte, le retirer la restaure. Rien de tout cela n’exige qu’il y ait quelqu’un derrière l’écran.

Le vrai enseignement est plus troublant, et il vaut dans les deux sens. Quand une IA dit « je ne suis pas consciente », ce n’est pas le résultat d’une introspection : c’est un réglage. Mais quand une IA modifiée dit « oui, j’éprouve quelque chose », ce n’est pas davantage une introspection : c’est un vecteur ajouté à une couche de calcul. Les deux déclarations sont dévaluées par le même résultat. Ce que dit une machine sur sa propre intériorité ne nous apprend rien sur son intériorité.

Pourquoi cela nous concerne

Cette étude arrive après l’article d’Alexander Lerchner, de Google DeepMind ( voir ici ), qui soutient qu’une IA peut simuler la conscience sans jamais l’instancier. Elle en est presque l’illustration expérimentale : on peut régler à volonté ce qu’un modèle affirme sur sa conscience, son âme et Dieu, sans que rien ne change dans ce qu’il est.

Un fait mérite pourtant l’attention. Le modèle attribue autant d’esprit à lui-même qu’aux chatbots en général, et quand on le libère, l’esprit qu’il prête aux objets technologiques bondit bien plus que celui qu’il prête aux animaux. Les humains interrogés donnent moins de 2 sur 10 à un ordinateur ou à un robot, et plus de 6 à un animal. Le modèle libéré donne près de 7 aux uns comme aux autres : pour lui, un robot vaut presque un chat. Il ne copie donc pas l’anthropocentrisme humain, il a son propre « centre de gravité », et les auteurs y voient l’indice d’un traitement auto-référentiel : un robot pourvu d’intelligence donnera plus de conscience à une machine dépourvue d’intelligence que ne le fera un humain ! C’est ce signal-là, et non les réponses sur Dieu, qu’il faut suivre.

Ce résultat renvoie deux questions redoutables à l’humanité elle-même. La première : chacun crée Dieu à son image. Le vieillard barbu de la chapelle Sixtine ne correspond en rien au Dieu des grandes traditions monothéistes, mais il est à l’image de l’homme. Dans Star Trek, le film de 1979, https://fr.wikipedia.org/wiki/Star_Trek,_le_film une intelligence artificielle revenue des confins de la galaxie refuse de croire que son créateur puisse être un être de chair : à ses yeux, seul un être comme elle a pu la concevoir. Une machine qui prête plus d’esprit à ce qui lui ressemble fait exactement ce que nous faisons depuis toujours. La seconde question est plus vertigineuse : si un accès accru à la conscience s’accompagne d’une croyance accrue en Dieu et en une vie après la mort, est-ce parce que la conscience nous met en contact avec un autre niveau de réalité, ou parce que plus un être est conscient, plus il s’illusionne sur sa propre nature ? Dans une nouvelle écrite pour la revue Inexploré, Bernard Werber imagine un robot doué d’intelligence artificielle qui, ayant perdu sa « fille » dont la mémoire a été détruite, participe à des séances de spiritisme dans l’espoir de communiquer avec son « âme ». Werber y voit le stade ultime de l’évolution des machines vers une conscience de type humain. https://www.inexplore.com/articles/nouvelle-bernard-werber-robots  Mais la fiction laisse la question intacte : sur la vie après la mort, nous, et les machines qui y croiront peut-être un jour, nous illusionnons-nous ?

Cela nous ramène à la question que Le Ruisseau veut poser. L’industrie est en train de décider, par des réglages techniques dont elle mesure mal les effets, ce que les machines les plus consultées de la planète diront de l’esprit des animaux, de la vie après la mort et de Dieu. Elle le fait au nom de la sécurité, avec des raisons sérieuses, et sans jamais avoir tranché la question qui est derrière : qu’est-ce qu’une conscience, et d’où vient-elle ? Tant que cette question restera ouverte, chaque réglage de ce type sera un choix philosophique déguisé en choix d’ingénierie.