Les mots pour comprendre

AGI, pour intelligence artificielle générale : un système capable de faire, au niveau d’un expert humain, à peu près toutes les tâches intellectuelles. ASI, pour superintelligence artificielle : un système qui ne dépasse pas seulement un expert, mais des organisations entières d’experts coordonnés, sur la quasi-totalité des domaines. Entre les deux, le rapport décrit quatre chemins possibles : agrandir encore les modèles actuels, changer de paradigme technique, laisser l’IA améliorer elle-même sa propre conception, ou faire émerger une intelligence collective à partir de millions d’agents artificiels travaillant ensemble.

Ce que le rapport affirme

Le message central est que rien ne garantit que le progrès s’arrêtera au niveau humain. Le rapport ne prédit pas une date, il refuse même de le faire, mais il juge qu’on ne peut pas exclure une accélération continue dans les prochaines années. Un exemple frappe l’imagination : maintenir aujourd’hui le rythme de la loi de Moore demande dix-huit fois plus de chercheurs que dans les années 1970. Or multiplier par dix-huit le nombre de chercheurs artificiels tournant sur des ordinateurs pourrait se faire en quelques heures ou quelques semaines. Si des IA deviennent des chercheurs compétents, l’économie même de la découverte scientifique change de nature. Le rapport en tire une conclusion sobre : il faut se préparer non pas à un événement unique, mais à une série de transformations en cascade, dans toutes les sciences et toutes les techniques.

Ce que le rapport admet ne pas savoir

C’est ici que le texte devient passionnant, car il formule lui-même deux limites possibles à cette course.

La première, la « barrière de l’abstraction », vient d’un chercheur du laboratoire, Alexander Lerchner (voir la présentation sur notre site ici : ) Les modèles actuels ont appris sur des textes produits par des humains : ils héritent de nos concepts, ils ne les inventent pas. Le rapport propose une expérience de pensée saisissante. Prenez un modèle d’aujourd’hui, entraînez-le sur autant de données, mais uniquement avec le savoir scientifique d’avant Newton. Il est hautement improbable qu’il découvre seul la relativité ou la mécanique quantique, faute de posséder les concepts de calcul infinitésimal, de gravitation ou d’électromagnétisme. Les modèles n’ont pas de mécanisme pour découvrir en partant de zéro des idées comme « force » ou « causalité ». Ils les reçoivent de nous.

La seconde, le « goulot de l’incarnation », en découle. Une IA peut formuler mille hypothèses par seconde sur une loi physique ou un mécanisme biologique, mais les vérifier reste un problème empirique, soumis aux lenteurs du monde réel : une réaction chimique prend le temps qu’elle prend, un organisme nouveau ne se simule pas parfaitement. Si cette limite est réelle, le progrès de l’intelligence serait plafonné non par la puissance de calcul, mais par le rythme de la science expérimentale.

Enfin, dans son chapitre sur la créativité, le rapport reconnaît que les exploits actuels, du fameux coup 37 d’AlphaGo (dans une partie contre le champion du monde de go que l’IA a battu) aux structures de protéines d’AlphaFold, relèvent d’une créativité qui explore des espaces déjà définis par les humains, et non d’une créativité qui invente des espaces nouveaux, comme Einstein ou Picasso. Il cite Demis Hassabis, le patron du laboratoire : si l’on donnait à une IA les informations dont disposait Einstein en 1900, arriverait-elle à la relativité générale ? Aujourd’hui, clairement, non. « Il manque encore quelque chose. » Le rapport ne dit pas quoi.

Le point aveugle

Voilà donc le laboratoire le plus avancé du monde qui écrit noir sur blanc que quelque chose, dans l’esprit humain, échappe encore à ses machines : la capacité de forger des concepts vraiment nouveaux à partir de l’expérience brute. Mais il ne s’interroge à aucun moment sur la nature de ce quelque chose. Tout le rapport suppose que l’intelligence et la conscience humaines sont produites par le cerveau, et qu’elles sont donc, en principe, reproductibles par une machine adéquate. Cette hypothèse n’est pas défendue, elle est posée au départ. Une seule note de bas de page, page 10, mentionne la proposition de Roger Penrose selon laquelle comprendre la conscience pourrait exiger une physique nouvelle, peut-être incalculable, et la range aussitôt parmi les questions techniques de calculabilité.

C’est exactement le point aveugle que Le Ruisseau veut explorer. Car il existe une autre lecture, ancienne et sérieuse, qui va de William James au neurologue John Eccles : le cerveau ne fabriquerait pas la conscience, il la capterait ou la canaliserait. Si cette hypothèse a la moindre part de vérité, alors le « quelque chose qui manque » de Demis Hassabis n’est pas un problème d’ingénierie en attente de solution. C’est la marque de ce qui nous distingue absolument des machines que nous construisons. Et l’intelligence artificielle, en poussant l’humanité à formuler enfin ce qui lui est propre, devient le meilleur révélateur de notre vraie nature.