En 1931, Kurt Gödel démontre qu’il existe des vérités mathématiques qu’aucune démonstration ne pourra jamais atteindre. Le résultat porte un nom, le premier théorème d’incomplétude, et il vaut à son auteur, alors âgé de vingt-cinq ans, une place à part dans l’histoire de la logique. Gödel ne se contente pourtant pas de prouver un théorème ; il en tire une thèse philosophique sur la nature de la vérité mathématique.
La découverte de Gödel vient bouleverser le programme de David Hilbert, qui rêvait de fonder toutes les mathématiques sur un système formel. Celui-ci ressemble à un jeu : on part d’un petit nombre d’énoncés admis sans preuve, qu’on appelle les axiomes, puis on applique des règles fixes pour en déduire de nouveaux énoncés, sans jamais faire appel à l’intuition. Hilbert attendait deux choses d’un tel système. Il ne devait jamais se contredire, et il devait trancher toute question, c’est-à-dire démontrer ou réfuter n’importe quel énoncé. Dans ce cadre, être vrai et être démontrable auraient fini par coïncider, puisque toute vérité aurait reçu tôt ou tard sa démonstration. Gödel établit que ce programme est irréalisable.
La démonstration de l’incomplétude
Sa démonstration repose sur un procédé précis. Gödel attribue un numéro à chaque symbole, à chaque formule et à chaque suite de formules. Grâce à ce codage, l’arithmétique, qui parle de nombres, se met à parler de ses propres énoncés. Gödel construit alors une phrase arithmétique qui, une fois décodée, affirme d’elle-même qu’elle n’est pas démontrable. On songe à la phrase « je mens », qui se contredit dès qu’on la dit vraie, mais la phrase de Gödel évite le piège, car elle ne parle pas de sa vérité, seulement de sa démontrabilité. Si elle était démontrable, le système prouverait quelque chose de faux, puisqu’elle nie précisément qu’elle soit démontrable. Un système fiable ne commet pas cette erreur. La phrase n’est donc pas démontrable, et comme c’est exactement ce qu’elle énonce, elle est vraie. Il en résulte un énoncé arithmétique vrai, mais que le système reste incapable de démontrer.
Ce résultat distingue deux notions que le programme de Hilbert conduisait à rapprocher : la démontrabilité, qui dépend des axiomes et des règles d’un système formel, et la vérité, qui concerne l’interprétation des énoncés mathématiques. Gödel en tire une conviction qu’il a défendue toute sa vie et qu’on nomme réalisme ou platonisme mathématique. D’après lui, les objets mathématiques ne sont pas des inventions de notre esprit. Le nombre 7 est premier, et il l’était déjà avant que quiconque y pense : nous ne décidons pas cette vérité, nous la découvrons. Le mathématicien explore ainsi un domaine qui existe indépendamment de lui, comme un géographe cartographie un territoire qu’il n’a pas créé.
Le théorème d’incomplétude distingue la vérité mathématique de la démontrabilité, puisqu’un énoncé peut être vrai sans pouvoir être démontré dans un système formel donné.
Cette position engage aussi une thèse sur la connaissance. Gödel compare l’intuition qui nous fait saisir les objets mathématiques à la perception qui nous fait voir les objets ordinaires. Selon Gödel, de même que nos sens nous mettent en présence des choses qui nous entourent, l’intuition mathématique nous donnerait accès aux objets mathématiques et à leurs propriétés, que nous découvrirons plutôt que nous ne les fabriquons. En 1951, devant l’American Mathematical Society, Gödel tire de ses théorèmes une alternative restée célèbre : ou bien l’esprit humain dépasse les capacités de toute machine, ou bien il existe des problèmes mathématiques que l’esprit ne résoudra jamais. Gödel refuse la seconde branche car il croit que l’esprit accède à des vérités qu’aucun système formel n’enferme.
Tous les philosophes n’acceptent pas cette lecture. Michael Dummett objecte que nous apprenons le sens d’une phrase en observant dans quelles situations on a le droit de l’affirmer. Une vérité que rien, même en principe, ne permettrait jamais de vérifier, serait alors une vérité que personne n’aurait pu apprendre à reconnaître, si bien que la dire « vraie » ne signifierait plus rien. Dummett relit donc le théorème autrement. Selon lui, Gödel ne montre pas que la vérité déborde la preuve, mais qu’aucun système fixe n’épuise la preuve. L’énoncé indémontrable dans un système se démontre en effet dès qu’on se place au-dessus de ce système et qu’on raisonne sur lui. Gödel répond à l’objection par son réalisme même : si les vérités mathématiques existent avant nos systèmes, alors s’élever d’un cran ne fait que rejoindre une vérité déjà présente, sans jamais la produire.
Le réalisme mathématique de Gödel
Cette conception platonicienne conduit Gödel à distinguer la vérité mathématique de sa démonstration au sein d’un système formel donné. Si les objets mathématiques existent indépendamment de nos constructions, leurs propriétés ne dépendent pas des axiomes et des règles que nous choisissons pour les étudier. Un système formel permet ainsi d’établir certaines vérités, sans nécessairement rendre compte de toutes. Les énoncés vrais mais indémontrables révélés par le théorème d’incomplétude s’inscrivent, selon Gödel, dans cette conception d’une réalité mathématique que les démonstrations permettent progressivement d’explorer.
Pour Gödel, les systèmes formels permettent d’explorer la réalité mathématique sans pouvoir en épuiser les vérités.
