Pierre Cassou-Noguès, Gödel, Les Belles Lettres, coll. « Figures du savoir », 2004, 190 pages.

Après un Hilbert plutôt incomplet dont j’ai rendu compte ici (voir Philosophiques, vol. 29, n^o 2 (Automne 2002), p. 391-392), Pierre Cassou-Noguès nous livre un Gödel plus équilibré et mieux informé.

Un premier chapitre « Gödel dans la bibliothèque de Babel » présente la méthode diagonale et les paradoxes de l’imprédicativité (Richard, Poincaré) qui en découlent, dans un décor à la Borgès, d’une pédagogie fort efficace. Poincaré est un des lecteurs de cette bibliothèque qui ont proposé l’idée du cercle vicieux pour sortir du labyrinthe borgésien. Hilbert s’y retrouve aussi, mais sa métamathématique finitaire confine à certains rayons de la bibliothèque les ouvrages de mathématique-fiction où sont conservés « les éléments idéaux », alors que pour un Finsler, la bibliothèque tout entière est la bibliothèque idéale. Gödel entre à son tour ; en supposant que l’ensemble infini (dénombrable) des livres de la bibliothèque ne comporte pas de contradiction — c’est la consistance oméga —, il montrera à l’aide de la diagonale de Cantor que la bibliothèque ne possède pas tous les livres (1^er théorème d’incomplétude) et qu’on doit en sortir pour montrer qu’il en est bien ainsi (2^e théorème d’incomplétude sur les preuves de consistance « externe »). Je n’ai fait que paraphraser le propos de Cassou-Noguès dans ce chapitre. L’auteur choisit de traiter le problème en termes de fictions idéales et de réalité mathématique plutôt qu’en termes de constructivisme finitiste et de réalisme infinitaire. Il est vrai que Gödel a professé un réalisme platonicien, mais c’était pour justifier l’accès au paradis cantorien du transfini en sortant de la bibliothèque !

Le deuxième chapitre, « Gödel dans l’histoire des sciences », part de la théorie des ensembles et de l’hypothèse du continu pour évaluer le logicisme de la théorie des types (Russell), l’intuitionnisme (Brouwer) et le formalisme (Hilbert) à la lumière des résultats de Gödel. La théorie des types, simple ou ramifiée, achoppe à l’axiome de réductibilité, qui demeure arbitraire, le principe du tiers exclu est rejeté par Brouwer pour les suites infinies et la théorie des systèmes formels, ou métamathématique de Hilbert, viendra se heurter au théorème d’incomplétude (sémantique) de Gödel. Ici encore le traitement est élémentaire, et l’auteur ne se soucie guère des détails techniques ; par exemple, il néglige de faire la distinction entre 1^er et 2^e ordre (et ordres supérieurs) pour la logique des prédicats, et l’arithmétique de Peano — qui est catégorique au second ordre (p. 50-51).

« Le théorème d’incomplétude » présente informellement le résultat de Gödel. Ici, le texte est clair, et si la discussion est sommaire en ce qui a trait, par exemple, aux fonctions récursives primitives et l’arithmétisation de la syntaxe, le parcours conceptuel est suffisamment rigoureux pour donner une idée juste de la démonstration de Gödel. L’auteur ne manque pas de rapprocher le résultat d’incomplétude du paradoxe du menteur (Épiménide) comme l’avait fait Gödel dans son mémoire original, ce qu’il regrettera plus tard en déplorant l’assimilation d’un résultat fondamental à une boutade philosophique. Mais contrairement à Gödel, l’auteur n’admet pas la possibilité d’une preuve « interne » de la consistance de l’arithmétique et suppose que l’on doit accepter l’existence d’un infini actuel (p. 73) d’un point de vue transcendant que Gödel n’a pu cependant récuser.

Le chapitre portant sur la calculabilité adopte le même langage élémentaire pour aborder les travaux de Turing, Church et Kleene. Le problème de l’arrêt, qui est la version machine-de-Turing du théorème d’incomplétude, a droit à un traitement élaboré, mais l’auteur n’insiste guère sur les notions d’ensemble récursivement énumérable et d’ensemble récursif (dont le complément est aussi récursivement énumérable), qui sont pourtant les éléments clés de la sémantique ensembliste à l’origine des travaux de Turing et de Gödel ; l’auteur préfère s’en tenir ici à des considérations épistémologiques sur les limites de l’esprit humain ou l’optimisme rationaliste de Gödel (p. 100 et ss.) débouchant sur une théorie des concepts qui semble avoir été l’intérêt principal du dernier Gödel.

L’hypothèse du continu fait l’objet d’un traitement spécial dans l’ouvrage de Cassou-Noguès. On sait que Gödel a démontré la consistance relative (à la théorie axiomatique des ensembles de Zermelo-Fraenkel) de l’hypothèse qui affirme que l’ensemble des nombres réels a une cardinalité immédiatement supérieure, soit aleph un, à la cardinalité de l’ensemble des entiers, soit aleph zéro. Cohen démontrera en 1963 la consistance de la négation de l’hypothèse du continu, ce qui signifie que l’hypothèse est indépendante des axiomes de la théorie axiomatique des ensembles. L’auteur attribue à Zermelo en 1930 la structure cumulative des rangs en théorie des ensembles, alors qu’elle est plutôt le fait de von Neumann, et elle repose sur l’axiome de fondation formulé d’abord par Mirimanoff en 1917. Il y a donc là des informations historiques quelque peu imprécises. Une autre imprécision, conceptuelle celle-là, concerne le modèle constructible — l’auteur dit constructif — de Gödel. Cassou-Noguès parle d’indiscernables à la suite de Badiou là où il faudrait plutôt mettre l’accent sur les formules absolues qui permettent de passer de l’univers ensembliste à l’univers constructible (ou relativisé) de la hiérarchie L (pour lawlike ou « régulière »). La hiérarchie constructible n’a en réalité rien de constructif, puisque les ordinaux qu’on utilise pour y grimper sont définis arbitrairement, ce que l’auteur semble reconnaître aux pages 120-121. Les commentaires épistémologiques viendront accentuer l’inspiration vaguement husserlienne d’une phénoménologie de l’activité conceptuelle que Gödel ne fait qu’esquisser, si l’on se fie aux conversations qu’il a eues avec Hao Wang à la fin de sa vie.

Le dernier chapitre porte sur l’interprétation Dialectica de 1958 où Gödel propose une extension du point de vue finitiste. D’autres imprécisions devraient être corrigées ici : la traduction de Gödel de l’arithmétique classique à l’arithmétique intuitionniste est un aller simple, c’est-à-dire qu’au retour, elle n’est pas fidèle au sens intuitionniste des connecteurs et des quantificateurs. La traduction de Gödel avait été anticipée par Kolmogorov qui ne justifiait le passage de la double négation à l’assertion que pour les jugements ou énoncés finitaires. De même, Brouwer ne rejettera le tiers exclu que pour les suites infinies. L’interprétation Dialectica en termes de fonctionnelles calculables ne saurait constituer un fondement dernier pour l’arithmétique finitaire, puisqu’elle admet une quantification universelle sur tous les types finis, comme le reconnaît l’auteur à juste titre (voir là-dessus ma propre interprétation : Dialectica « Finite Arithmetic with Infinite Descent », Dialectica, 43 (4), 1989, p. 329-337).

En conclusion, l’auteur revient sur l’esprit-machine dans des réflexions épistémologiques qui veulent relancer les dernières méditations de Gödel jusqu’au Lacan du stade du miroir et prolongent, comme le dit l’auteur, le cercle de l’imprédicativité dans le cercle de l’imaginaire. P. Cassou-Noguès a fait oeuvre utile, et son élégant petit ouvrage constitue une excellente introduction à l’oeuvre du logicien-philosophe qui divisait le travail du logicien en deux parts égales, l’une mathématique et l’autre philosophique.