La critique du sujet comme fondement de la logique
La réponse la plus courante tient en un mot : le sujet. Edmund Husserl, le fondateur de la phénoménologie, lui a donné sa forme la plus rigoureuse en 1929 dans Logique formelle et logique transcendantale. Pour lui, les lois logiques et les objets mathématiques gardent une valeur idéale, mais leur sens renvoie aux actes d’une conscience qui les vise, les construit et les reconnaît. La logique formelle repose ainsi sur une logique transcendantale, qui décrit comment la subjectivité constitue ses objets. Cavaillès connaît ce programme de près, et il y voit une impasse.
Il la formule sous la forme d’un dilemme. Supposons d’abord que la conscience fonde la logique. Cette conscience doit alors procéder selon des normes, et ces normes réclament à leur tour un fondement. Aucune logique n’est alors absolue, puisque chacune dépend d’une instance qu’il faut encore fonder. Supposons ensuite qu’une logique absolue existe. Elle tire alors son autorité d’elle-même, et la conscience ne fonde plus rien. Dans les deux cas, le sujet ne peut pas servir de socle. Cavaillès cherche donc la nécessité ailleurs, dans la manière dont une théorie mathématique en engendre une autre.
Il décrit ce mouvement à l’aide de deux notions. La première s’appelle le paradigme. Une opération effectuée sur des objets précis s’en détache et devient une forme valable pour des objets quelconques. On écrit d’abord 2 + 3 = 3 + 2, puis a + b = b + a. La seconde s’appelle la thématisation. Les opérations que l’on effectuait deviennent à leur tour des objets sur lesquels on opère de nouveau. Vers 1830, Évariste Galois permute les racines d’une équation pour savoir si elle se résout par radicaux]. Ses successeurs étudient ensuite ces permutations pour elles-mêmes, et la théorie des groupes naît de ce retournement. Dans les deux cas, ce que le mathématicien faisait devient ce qu’il étudie.
Pour Cavaillès, la nécessité mathématique ne vient pas d’une conscience qui imposerait ses fondements aux objets : elle apparaît dans le mouvement par lequel les concepts et les opérations se transforment en nouveaux objets de pensée.
C’est dans ce double mouvement que Cavaillès saisit la notion de nécessité. Chaque notion nouvelle répond à un problème que les notions antérieures posaient et soulève à son tour des problèmes que personne ne pouvait prévoir. En 1939, devant la Société française de philosophie, il compare le travail du mathématicien à une aventure qu’on ne peut interrompre que de façon arbitraire. Le traité de prison va plus loin. Aucune conscience ne produit ses objets depuis un point de vue extérieur aux mathématiques : le mathématicien est toujours engagé dans des concepts et des problèmes dont les relations internes orientent sa pensée. C’est en ce sens que la conscience se trouve chaque fois dans l’idée, « perdue en elle et se perdant avec elle ». Le progrès n’empile pas les résultats ; il révise les contenus en les approfondissant et en les raturant. Cavaillès oppose alors une philosophie de la conscience à une philosophie du concept, et il réserve à la seconde le pouvoir de rendre compte de la science. Il précise que « la nécessité génératrice n’est pas celle d’une activité, mais d’une dialectique ».
Le mathématicien comme révélateur de nécessités
Les mathématiques pensent-elles alors sans les mathématiciens ? Cavaillès ne supprime pas le mathématicien ; il déplace son rôle. Dès 1938, il le définit comme un « révélateur de nécessités ». Le mathématicien ne fabrique pas les enchaînements ; il les fait apparaître, et il n’y parvient qu’en refusant l’autorité de la tradition et les évidences de son époque. Pour Cavaillès, les biographies, les rivalités et les hasards de l’histoire existent bien, mais ils n’expliquent pas pourquoi une théorie succède à une autre. Les mathématiques ont besoin de mathématiciens pour s’effectuer, mais ce ne sont pas eux qui en fixent la direction.
Pour Cavaillès, cette nécessité déborde les mathématiques. À Londres, en 1943, il confie à Raymond Aron qu’il est spinoziste et qu’il croit que « nous saisissons partout du nécessaire ». Il range dans cette nécessité les enchaînements des mathématiciens, les étapes de la science mathématique et la lutte que mène la Résistance. Chez Spinoza, la liberté ne consiste pas à échapper à la nécessité ; elle consiste à la comprendre et à agir en connaissance de cause. Canguilhem dira plus tard de son ami qu’il a été « résistant par logique ».
En 1978, dans une préface consacrée à Canguilhem, Michel Foucault partage la philosophie française du XXe siècle en deux lignées. La première part de l’expérience, du sens et du sujet, et Foucault y place Sartre et Merleau-Ponty. La seconde part du savoir, de la rationalité et du concept, et il y range Cavaillès. Foucault relève que c’est cette seconde lignée qui, pendant la guerre, a pris part au combat de la façon la plus directe. Le traité écrit en cellule posait une question de logique. Mais la réponse de Cavaillès déborde ce seul problème : en opposant une philosophie du concept à une philosophie de la conscience, elle contribue à la ligne de partage de la philosophie française du XXe siècle que Foucault décrira entre philosophie du sujet et philosophie du savoir, de la rationalité et du concept.
Le mathématicien demeure indispensable à l’effectuation des mathématiques, mais il en révèle les nécessités sans en déterminer souverainement l’enchaînement : la direction du progrès appartient à la dialectique interne des concepts.