Cirphles
�cole normale sup�rieure CNRS
> CIEPFC > Publications > David Rabouin > Les mathématiques à l’épreuve de la représentation

Première version d’un article publié dans le numéro 661-662 de Critique (D. Rabouin, "les mathématiques à l’épreuve de la représentation", Critique, n. 661-662, Juin-juillet 2002, p. 517-531)

A propos de Lucien Vinciguerra, Langage, visibilité, différence. Histoire du discours mathématique de l’âge classique au XIXème siècle, Paris, Vrin, coll. « Mathesis », 1999, 370 p.

De quoi parlent les mathématiques ? Que nous donnent-elles à voir ? Les questions qui orientent l’enquête de Lucien Vinciguerra pourront sembler bien générales. Elles trouvèrent leur impulsion, nous est-il dit, dans une remarque qui ne portait d’ailleurs pas sur les mathématiques, mais sur une vignette : le fameux « canard-lapin » de Wittgenstein. Qu’y voit-on ? Un canard ? Un lapin ? Un peu des deux ? Quel langage pourra donc échapper à cette indécision ? Et de quel rêve fou les mathématiques ont-elles pu se nourrir pour croire y parvenir ? Pour autant, il ne saurait s’agir d’investir le champ des mathématiques à partir de cette question résolument naïve. Ce serait poser le langage comme surface d’inscription miraculeusement transparente où lire le jeu des différences. Ce serait privilégier sans raison un des pôles du dispositif annoncé : Langage, visibilité, différence. Or le discours lui-même a sa part d’obscurité, celle de l’histoire, de la contingence irréductible qui nimbe chaque énoncé. Ainsi se trouvent d’emblée mis à distance les deux points aveugles de la plupart des « philosophies des mathématiques » : le postulat d’une transparence du langage de la théorie à ce qu’elle donne à voir ; le déni de la part irréductible de contingence que porte son inscription dans une histoire. D’où le choix d’une suite de « tableaux historiques » qui, de Viète à Felix Klein, exposeront les manières dont nos trois protagonistes (Langage, Visibilité et Différence) ont joué leur histoire et leurs indécisions.

Il faudra attendre la troisième partie pour que cette « histoire du discours mathématique de l’âge classique au XIXème siècle » reconnaisse clairement son héritage. Car il s’agit, on l’aura compris, de tenter une sorte « d’archéologie des mathématiques », à la manière dont Foucault avait tenté dans les Mots et les Choses une « archéologie des sciences humaines ». Les limites chronologiques choisies, les concepts amenés dès les premiers pas de l’exposition, la manière de « tramer les différences » entre le « dicible » et le « visible » ne tromperont d’ailleurs personne. Mais il serait réducteur de lire cet essai simplement comme une tentative pour pousser plus avant le projet archéologique et peut-être l’auteur a-t-il bien fait de ne pas en annoncer trop vite la couleur. Ce serait risquer de ramener le questionnement à une simple bravade insolente (montrer, comme il nous sera dit, que Foucault aura été encore « trop pieux » en refusant à l’archéologie la possibilité d’investir le domaine des sciences exactes). Aussi peut-il être intéressant de rappeler, pour commencer, pourquoi la question des rapports du « visible » et du « dicible », qu’on la dise dans un vocabulaire foucaldien ou non, est une question centrale, et pourtant rarement posée, dans le rapport qu’entretiennent la philosophie et les mathématiques.

Commençons par une question simple : pourquoi s’intéresser aux mathématiques ? Pourquoi, après tout, le philosophe ne devrait-il pas laisser les mathématiques aller leur chemin dans cette indécision de leurs objets, dont elles s’accommodent fort bien ? Pourquoi ne pas dire avec Russell, que les mathématiques sont une science où l’on ne sait pas de quoi on parle et aller voir ailleurs si la philosophie y est ? Peut-être parce que, n’en déplaise à l’auteur des Principles of Mathematics, il n’est pas si facile de dire « adieu à Pythagore » ; qu’il fut un temps rêvé où ces questions trouvèrent une réponse simple et fondatrice ; qu’il reste en nous l’espoir secret que cette réponse n’est pas loin, qu’elle doit être simple et qu’elle pourra enfin tout fonder. Le nombre et la grandeur, le nom et la figure, marquèrent cette heureuse et fugace conciliation, rencontre miraculeuse de ce qui est dit et de ce qui est vu, où l’ensemble du savoir trouvait, pour la première fois peut-être, son unité. Permettez moi de construire un cercle et je vous expliquerai comment mener sur tout segment donné un triangle équilatéral : Tracez un cercle ayant comme centre une des extrémité du segment, puis à l’autre extrémité un deuxième, etc. Ainsi s’inaugurait la grande fable des Éléments. Qui pourrait rêver plus belle transparence ? Je découpe dans le monde les figures, les met en rapport, les mesure et voilà tout l’espace du "visible" qui se déplie devant moi. Les mathématiques pouvaient enfin être nommées : "on dit, rapporte Héron dans ses Définitions, que les Pythagoriciens ont donné le nom particulier de mathématiques (mathèmatikès) aux seules géométrie et arithmétique ; auparavant chacune était appelée par son nom séparé, et il n’y avait pas de nom commun aux deux". Or cette unité où s’inventèrent les mathématiques était bien le nom propre non de quelque région du savoir, mais de tout savoir (mathesis) : "L’opinion (des pythagoriciens) sur les sciences (mathèmata) me paraît juste, et ils me semblent avoir porté un jugement exact sur l’essence de chacune d’elles. Ayant su former une idée juste de la nature du tout, ils devaient également bien voir la nature essentielle des parties. De la géométrie, de l’arithmétique, de la sphérique, ils nous ont laissé des théories certaines et évidentes : il en est de même en musique. Car toutes ces sciences paraissent être sœurs et se tiennent les unes les autres comme les anneaux d’une chaîne" [1] . Récit des origines, où s’indique non quelque écho d’un archaïque "pythagorisme", mais une fondation que nous ne pouvons plus oublier, nous qui ne croyons pourtant plus aux mythes.

Que Langage, visibilité, différence, se veuille l’histoire d’un écart, qui taraude le discours mathématiques entre ce qu’il dit et ce qu’il donne à voir, ne doit pas faire oublier le rêve de transparence d’où cet écart tire son aspect scandaleux : que l’on puisse, en tout domaine, procéder à la manière des géomètres grecs ; prendre une portion du visible, en parler selon des procédures réglées et parvenir, par le seul jeu de ce discours, à convaincre que ce qu’on dit est "là". C’est de ce rêve d’une coïncidence du visible et du dicible, à la fois impossible et pourtant apparemment nécessaire que se nourrit toute connaissance (mathesis). Et comment oublier alors la faillite de cette coïncidence fragile ? Comment ignorer la fracture qui déchira aussitôt la figure et le nombre : l’irruption de l’irrationnel, de l’inexprimable, dans le champs clos de la raison triomphante, les paradoxes, l’infini qui fait fuir le discours en tous sens ? N’est-ce pas plutôt en ce lieu que la mathématique prit vraiment son départ ? À chaque fois - et elles furent nombreuses - qu’elle nous promit depuis lors l’unité tant attendue de ses objets et la belle transparence des origines, le rêve s’effondra à nouveau de lui-même dans la résistance de tout ce qu’il avait laissé dehors. Aujourd’hui encore, personne ne sait si l’étude des rapports entre les choses - écho des antiques logoi - peut se déployer dans l’univocité, l’unité pleine et fondatrice d’une mathèse rayonnante, ou s’il nous faudra toujours concéder qu’être peut se dire en plusieurs sens. C’est dire que cette histoire, si l’on veut bien prendre la peine d’en rapporter le récit fondateur, dépasse de loin les frontières disciplinaires de la soi-disant philosophie des mathématiques.

Peut-être n’y a-t-il pas d’autre "philosophie des mathématiques", d’ailleurs, que celle qui creuse l’écart du visible et du dicible, s’installe en ce milieu inconfortable d’où un improbable discours pourrait naître. C’est l’audace et la force du livre de Lucien Vinciguerra de revendiquer cette position précaire : aller droit au "jeu entre ce qui se voit et ce qui se dit", "diagonale du sens" où l’un et l’autre se détachent ; mais où se jouent également les possibilités indéfiniment éconduites de leur rencontre :

Ce qu’on découvre en ces effets, et que les historiens des mathématiques, au fond, rencontrent tous les jours, c’est une sorte de diagonale du sens, entre des marques visibles sur les pages des livres, qui ne sont pas langage, mais qu’il faut néanmoins voir comme autre chose qu’elles-mêmes pour comprendre ce que le langage du texte veut dire, et les phrases de ce langage, dont il faut atteindre les objets. Mais c’est aussi une sorte de basculement de ce rapport au moment où on le rapproche d’un autre savoir, renvoyant notre lecture à cet autre savoir, nous y donnant accès dans une sorte d’altérité nécessaire, comme une fracture qui le traverserait. (p. 10)

Non qu’il faille simplement retranscrire ici l’habituel agacement des historiens face aux raccourcis commodes des mathématiciens et des philosophes. Car cet écart, il ne s’agit pas seulement de le constater, mais bien d’en penser la possibilité : "en tout cela, voilà, d’une certaine manière des évidences. Mais il faut les prendre au sérieux, ne pas trancher trop vite, et nous imaginer au milieu d’elles, historiens, face à toutes ces choses entremêlées (…). Que serait une histoire des mathématiques attentive à ces écarts à l’œuvre dans le regard et le langage, et aux renversements de l’ordre qui les subordonne ?". La méthode sera simple, directe : "on saute à pieds joints dans les textes. On cherche à saisir le lien de ce qu’ils disent et de ce qu’ils donnent à voir, et la manière dont s’organise, à l’intérieur d’eux-mêmes, la production incertaine des identités de leurs savoirs". (p. 19).

On voit l’art subtil des jointures qui sera requis. Toute la force de l’analyse sera dans la manière de sonder les articulations, de les faire céder dans un craquement sourd, où le corps de la Mathématique se déboîte. Prenez le "triangle de Pascal". Vous croyez peut-être qu’il fut la mise au jour de relations (les fameuses "relations de récurrence") apprises sur les bancs de l’école, pendant votre pénible apprentissage du calcul combinatoire. Soit, mais c’est que vous n’entendez plus le froissement de la figure et du nombre sous cette provocation : "triangle arithmétique". Car un drame sourd se joue dans ce nom entre la variation infinie des énoncés possibles (voir p. 28, le commentaire du fameux : "voilà comment on peut varier les énonciations") et la volonté de clore cette dispersion incontrôlable dans une figure. C’est sur cette scène que s’ouvre le livre. D’autres suivront, où se diront des jeux semblables : de la géométrie cartésienne - qui n’est pas la pleine unité de la géométrie et de l’algèbre, mais l’équilibre instable que fournit à l’une et l’autre de secrets "compas" -, au "programme d’Erlangen", qui est moins le grand programme d’unification de la géométrie sous le groupe, que la nouvelle subordination de l’espace à un pur système de différences.

Position instable assurément, où chaque membre lui-même se déboîte, et que rien ne vient stabiliser ou fonder par la suite : "à quoi parvenons-nous ? Une histoire des mathématiques ? Sûrement pas. Une série de chantiers, en archipels, autant de toiles dispersées, où les mathématiques semblent toujours perdre et retrouver autrement leur propre raison et leur propre unité" (p. 19). La virtuosité de celui qui parvient alors, traversant les textes de Pascal, Jean Bernoulli, Arbogast, Cauchy, Carnot, Poncelet, Hamilton, Puiseux, etc., à se maintenir sur le fil est étonnante. On aime le spectacle ou l’on déteste, c’est selon ; d’autant que l’auteur en rajoute tant qu’il peut à grand renfort de "mascarades wittgensteiniennes" (voir le chapitre du même nom, p. 287) et de rhétorique foucaldienne. Mais comment rester indifférent ? Car force est de concéder que cette posture est rarement, pour ne pas dire jamais, tenue. On pourrait se demander pourquoi.

***

La mathématique, on le sait, est tout entière traversée par un mouvement singulier où les successeurs se chargent de rendre "explicite" ce qui était prétendument "latent" chez leurs devanciers : Archimède aurait inventé avec son fameux "axiome" les grandeurs "archimédiennes", Eudoxe, avant lui, le corps ordonné qui les structure, Descartes les coordonnées "cartésiennes" où elles viennent s’inscrire dans l’espace, etc. Qu’on n’en trouve nulle trace dans les textes, voilà qui importe peu au mathématicien. Mais une des questions, qui persiste néanmoins, est de savoir si quelque chose ne se perd pas dans ce jeu de récupération incessante. Toutes les lectures positivistes viennent buter en ce lieu : car comment ignorer, même si l’on se veut working mathematician et rien que cela, l’importance qu’a eu cette interrogation dans le développement des mathématiques ? Combien sont-ils, et de quelle importance, à avoir pensé que quelque chose s’était perdu ? Fermat annotant Diophante, Leibniz critiquant Descartes et réveillant les intuitions de Desargues et Pascal, Riemann prolongeant Gauss, Lövenheim défendant Schröder contre Frege, Thom poursuivant les chemins ouverts par D’Arcy Thompson, Robinson réhabilitant Leibniz, etc. : tous, en même temps qu’ils découvrent et innovent, indiquent quelque chose qui, d’après eux, a été oublié.

C’est tout le mystère du "formel" ou de la "structure" d’être toujours déjà là sous le dégagement de sa gangue, et pourtant jamais totalement installée dans une pure positivité. Car comment ignorer le soupçon qui travaille sa "nécessité" ? Et si la forme n’avait pu se constituer comme évolution nécessaire de l’ancienne théorie qu’en barrant arbitrairement certaines voies ? Tant d’exemples viennent appuyer ce soupçon. La réflexion se voit alors déchirée entre la saine volonté de sortir du positivisme béat et le risque insensé d’y perdre un contenu qui se définit dans chacune de ses actualisations. Il y a là de quoi faire hésiter - d’autant que la seule manière d’ouvrir à nouveau un champ de possibles semble ici de faire de nouvelles mathématiques (voir p. 17).

Or il faut bien constater qu’entre la structure transparente qui "parle sur elle-même" (Cavaillès) et celle des "drames logiques qui se jouent au sein des théories" (Lautman) - selon les termes d’un débat qui opposa deux des plus influents philosophes des mathématiques français - c’est la première qui a jusqu’à présent tenu le devant de la scène. Plus exactement, la manière dont une "structure" mathématique peut être rapportée à ce point de tremblement, où sa belle transparence se brouille, n’a pu être pensée jusqu’à présent qu’en acceptant et sa donnée positive d’une part, et celle d’une philosophie existante de l’autre - qu’on aille la chercher dans le spinozisme (L. Brunschvicg, puis J. Cavaillès), la dialectique platonicienne (A. Lautman), la phénoménologie (J.T. Desanti), la logique transcendantale (G.G. Granger), voire l’idéalisme allemand (G. Châtelet) [2] . Dans ce cas, la "philosophie des mathématiques" est un lieu de rencontre qui suppose que la théorie mathématique est donnée et que la philosophie - elle aussi donnée ? - engage avec elle un dialogue. Il en résulte notamment que "philosophes des mathématiques" et "historiens des mathématiques" ont souvent beaucoup de mal à s’entendre. Ce type de lecture se heurte, en effet, du point de vue de l’historien, à deux écueils redoutables et philosophiquement intéressants : d’une part, le fait de se donner des formes découpées par l’état présent de la théorie amène immanquablement à laisser cette découpe dans l’ombre ; quel que soit son spinozisme de principe, une telle histoire ne pourra alors lire le passé que par rapport à ce qui lui manque - et il n’est pas surprenant, de ce point de vue, qu’elle laisse le mot de la fin à la "dialectique" (voir notamment ce qui est dit de Cavaillès qui, "dans sa présentation du procès mathématique, rejette pourtant au dehors un dispositif essentiel : il a besoin de maintenir hors de l’histoire l’instance de la forme", p. 14) ; d’autre part, les mathématiques font très bien cette histoire sans les philosophes, puisqu’elle est inhérente à leur développement théorique et "il faut sans doute réserver cette histoire, histoire des concepts, aux mathématiciens eux-mêmes. Elle appartient de part en part au discours mathématique" (p. 274).

D’où le dilemme : comment faire une philosophie des mathématique sans la mouler dans une philosophie déjà constituée et sans nier par ailleurs son histoire, c’est-à-dire la part irréductible de contingence qui accompagne le développement de toute science (p. 16) ? La difficulté est que la réponse à la première question se fait généralement au détriment de la seconde. On trouverait sans peine des philosophes qui ont puisé dans les mathématiques l’inspiration pour créer une philosophie originale. Tous les auteurs de la liste qui précède, même s’ils sont partis d’une philosophie donnée, s’y sont essayé. Mais ces positions n’ont fonctionné qu’à écarter la contingence du développement des concepts mathématiques. Réciproquement, les travaux des historiens des mathématiques restent généralement très prudents quant à d’éventuelles implications philosophiques et précisément parce qu’ils ont pleinement conscience du caractère indécis des "théories" qu’ils sont censés saisir.

Aussi n’est-on guère surpris de voir que la ligne directrice du travail de L. Vinciguerra est à chercher dans le projet d’une archéologie du savoir, telle qu’elle a été thématisée par Foucault. On ne sera pas plus surpris de constater qu’elle trouve parallèlement dans la question du "langage" et de ces jeux une "esquive" à l’engagement ontologique, où la philosophie des mathématiques se perd trop souvent. Wittgenstein et Foucault, si l’on veut. Mais aussi bien l’un contre l’autre, car il n’échappera à personne que ces deux lignes de perspective ne sont pas parfaitement convergentes.

Premier round : Foucault contre Wittgenstein. Que les textes mathématiques soient des jeux comme le sont les échecs, cela peut se soutenir ; qu’il soit particulièrement difficile de les subsumer sous une conception générale et univoque de ce qu’est une "règle", cela peut se montrer ; "mais les règles du jeu d’échec ont besoin néanmoins, afin d’être elles-mêmes, de tout un règlement silencieux de la présence visible de la surface et des pièces, qui les trame de différences, de passages, de déplacements et d’espacements où elles viennent trouver leurs points d’application (…). C’est une chose de refuser de prendre en compte la matérialité empirique des pièces et des cases du jeu, et une autre de considérer qu’elles reçoivent tout leur être du jeu de ces règles mêmes. Les règles du jeu s’appuient peut-être contre une régulation de l’espace qui les excède sans recours" (p. 291). Aussi peut-on se demander si une approche comme celle de Wittgenstein peut vraiment se préoccuper de ce que sont les mathématiques ou plutôt, comme l’auteur en fait l’hypothèse, d’un certain regard qu’on peut porter sur elles, comme sur n’importe quel autre discours, et qui lui permet de poser sa question : "qu’est-ce qu’une règle ?" (p. 292).

Deuxième round : Wittgenstein contre Foucault. Faire une "archéologie des mathématiques", voilà précisément ce à quoi l’archéologie ne pourra jamais prétendre. De fait, les mathématiques sont décrites par Foucault comme la "seule pratique discursive qui ait franchi d’un coup le seuil de la positivité, le seuil de l’épistémologisation, le seuil de la scientificité et celui de la formalisation. La possibilité même de leur existence impliquait que fût donné d’entrée de jeu ce qui, partout ailleurs, demeure dispersé tout au long de l’histoire" (L’Archéologie du savoir, citée et commentée p. 307). Il y a ici de très fines analyses sur le fait que Foucault a besoin de cette répartition première des discours entre un pôle de pure transparence (mathématique) et un pôle du pur écart (littérature), répartition qu’il ne parvient pas à justifier pleinement - en quoi, nous dit-on, il a peut-être été trop pieux. Le projet est alors simple et non moins audacieux : reverser la part d’ombre qui grève les énoncés de la littérature dans le discours mathématique.

Troisième round : Foucault contre Wittgenstein. Car, quoi qu’il en soit, la distance qui fait "jouer" les textes ne pourra pas se faire sans une surface d’inscription et un effet de répétition qui permet de les comparer. La question "qu’est-ce qu’une règle ?" a besoin de cette reconnaissance pour faire jouer les écarts. Pour cela, L. Vinciguerra propose de reprendre les leçons de l’Archéologie du savoir mais en se plaçant à un niveau qui serait intermédiaire entre l’énoncé et le discours : le "récit" (p. 293 sq.).

Victoire par K.O. ? Mais de qui ?

Car la difficulté à laquelle se heurte alors le projet apparaît aussitôt. D’une instabilité constitutive des savoirs, d’une indécision qui traversaient les textes mathématiques entre ce qui se dit et ce qui se donne à voir, nous sommes insensiblement passés à une indécision dans la manière de les lire (selon qu’on suit Foucault ou Wittgenstein). De fait, à y prêter attention, deux manières de lire cette étude nous ont été proposées : c’est à la fois une "série de chantiers" ou, plus exactement, "d’exercices historiques et philosophiques" où chaque texte joue pour lui-même ; mais c’est aussi une histoire du discours mathématique qui veut faire apparaître "d’autres régularités" et, notamment, qui s’emploie assez clairement à pointer le seuil qui fait basculer les mathématiques au XIXème siècle dans un "nouveau régime du visible et de l’invisible" (p. 155).

***

Il ne sert évidemment à rien de pointer les tensions dans les déclarations de principe. Après tout, nous avions été prévenus dès la première page : il faut avoir le goût du flou, ne pas vouloir tout de suite décider si la figure que trace Wittgenstein est un canard ou un lapin. La vraie question que pose cette étude n’est donc pas de savoir ce qu’elle veut, mais ce qu’elle fait - autrement dit, si la pratique discursive mise en place au croisement de ces deux lignes, qui refusent apparemment de se nouer l’une à l’autre, peut fonctionner ou si elle n’est pas condamnée à s’effilocher entre les mains de celui qui veut la saisir. Aussi pourrait-il être intéressant d’en analyser les démontages sur pièces - voyage au long court, dont on indiquera seulement quelques étapes.

Première machine, premier démontage : les mathématiques dites "classiques". Leur caractérisation est, presque mot pour mot, celle de l’épistémè du même nom analysée par Les Mots et les Choses : "savoir" tout entier traversé par l’idée de mathesis universalis comme science de "l’ordre et de la mesure", il cherche à capturer le régime du visible à partir d’un centre, qui en trame les différences et les clôt en un tableau. Bref, Il relève du régime de la "représentation". L. Vinciguerra montre avec brio comment ce régime est opérant dans les textes de Pascal, Descartes, Newton, Leibniz, Bernoulli et jusqu’à Lagrange assurément. Mais il y ajoute la malice wittgensteinienne, car cette exigence d’ordre et de mesure vient incessamment s’inscrire en des les lignes qui fuient de toute part :

Les mathématiques sont donc à l’époque classique une science de l’ordre et de la mesure. A condition de mettre à l’intérieur de ces deux petits mots une bonne dose d’ironie. Car cette langue qui dit l’ordre, l’assigne ici ou là et le déploie dans le jeu de ses signes, on ne sait jamais très bien laquelle elle est, ni où elle trouve ses pouvoirs. Serait-elle menacée sans le savoir par les puissances muettes du désordre ? Sous l’ordre des choses, faut-il entendre les craquements d’un chaos sauvage qu’elle ne domestique jamais tout à fait et qu’elle retrouve sans cesse malgré elle ? (p. 88)

Jusque là, pourrait-on dire, l’alliance de Wittgenstein et de Foucault s’avère assez efficace. On peut assurément discuter dans le détail, mais cela n’invalidera pas la démarche d’ensemble. Les difficultés n’apparaissent que lorsque ce "régime" est censé basculer. En effet, Les Mots et les Choses avait voulu trouver le paradigme du nouveau régime de savoir dans "l’analytique de la finitude" kantienne, corrélative de l’apparition de "l’histoire" au titre de nouveau régime. Or cet effet de bascule laissait intactes les disciplines formelles : "après la critique kantienne et tout ce qui est passé dans la culture occidentale à la fin du XVIIIème siècle, un partage d’un nouveau type s’est instauré : d’un côté la mathesis s’est regroupée, constituant une apophantique et une ontologie ; c’est elle qui jusqu’à nous a régné sur les disciplines formelles ; d’un autre côté, l’histoire et la sémiologie (celle-ci d’ailleurs absorbée par celle-là) se sont rejointes dans ces disciplines de l’interprétation qui ont déroulé leur pouvoir de Schleiermacher à Nietzsche et Freud" [Les Mots et les Choses, Gallimard, rééd. 1990, p. 89]. En ce lieu, notre archéologue devra donc voler de ses propres ailes.

Comment les mathématiques du XIXème siècle vont-elles donc accomplir à leur tour le renversement du "régime de la représentation" ? C’est l’objet de la seconde partie. Dans des analyses méticuleuses sur Carnot, Poncelet, Hamilton, Cauchy ou Boole, l’auteur montre comment se dénoue à cette époque un certain rapport du signe à ce qu’il désigne : "les fonctionnalités mathématiques n’ont plus d’ordre correspondant dans les choses. Il n’y a plus de force, plus de temps, plus rien que des variables qui tiennent leur efficace de la fonction mathématique qui les rassemble, mais n’articulent plus rien par elle-même : "symboles arbitraires"" (p. 198). Or cette idée de "symbole arbitraire" serait, pour la pensée classique, totalement impensable (p. 199). Il n’est pas possible d’entrer ici dans le détail de l’analyse, mais disons, pour faire vite, qu’on passe de fonctions qui organisent des objets à des objets nouveaux qui organisent des fonctions - ce qui est indiqué très clairement sur des exemples précis, qu’il faudrait regarder de près, comme la fonction caractéristique de Hamilton ou l’intégrale définie de Cauchy, mais aussi bien dans le calcul logique de Boole.

Analyse assez convaincante, peut-on concéder, mais d’autant plus convaincante qu’elle est attendue ; car nombre de philosophies des mathématiques trouveraient là un point d’accord. Le problème évident est qu’elle n’engage précisément aucune thèse archéologique. Ainsi le mouvement qui détache la fonction de son domaine d’objet pour la constituer elle-même comme objet ressemble étrangement à ce que Cavaillès appelait la "thématisation" [3] . Plus troublant, le détachement progressif du référent traditionnel de la représentation mathématique (la "quantité"), sur lequel l’auteur insiste à plusieurs reprises comme effet de rupture, était lu par un Couturat au début du siècle dernier comme le triomphe moderne de la… mathesis universalis leibnizienne (et justement contre l’analytique kantienne ) ! [4]

Un soupçon s’éveille. Porté par lui, de "petites différences" apparaissent, qui nous avaient jusque là échappé. Ainsi, lorsqu’il s’était agi d’analyser la ruine de la "représentation" dans la géométrie de Poncelet, rencontrions-nous un "nouveau régime du visible et de l’invisible". Or c’était le rapport problématique du visible et du dicible qui nous portait jusqu’à présent. Qu’il y ait un nouveau régime de représentation au XIXème siècle, qui le contesterait ? Mais en quoi signe-t-il la fin du régime de la représentation ? Qu’il n’y ait plus ordre, centre, clôture, tableau, où on les cherchait avant, voilà ce que l’auteur n’a guère de mal à montrer, mais en quoi s’est-on pour autant débarrassé de l’ancienne épistémè - dont Foucault avançait qu’elle est inhérente au dispositif de la mathesis et, plus généralement, de toute "discipline formelle" ?

De fait, il semble au moins possible de montrer que l’articulation de ces éléments est mise en question dès Leibniz (dans le cadre de sa mathesis universalis et surtout de sa philosophie du signe, déjà point aveugle de l’analyse foucaldienne de la "pensée classique") ; mais surtout qu’ils règlent encore le savoir mathématique "moderne". Felix Klein déclare assurément chercher désormais les invariants dans les formules, mais cela ne veut pas dire qu’il en a fini avec le rêve d’une clôture de la représentation, d’un tableau du visible, par le biais d’un ordre omnipotent et centré. Certes, il ne s’agit pas du même "visible", puisque nous sommes passé d’un espace intuitif à un espace abstrait, mais cela ne règle pas le sort de la "représentation". Le rêve d’une science de l’ordre s’est-il éteint ? Comment oublier que Camille Jordan présente sa théorie des substitutions, première mouture de la théorie des groupes, comme une "théorie de l’ordre" (qu’il reprend de Poinsot) ? Qu’Hamilton réclame qu’on affranchisse l’algèbre de la grandeur pour la rapporter à l’ordre seul, et en faire ainsi une "science du temps pur" ? Et que dire de l’obsession de Cantor, de Frege, de Russell à donner une théorie de l’ordre autosuffisante, qui viendrait rassembler ces lignes convergentes ?

Qu’on soit passé insensiblement de l’ordre inscrit dans les choses aux conditions de sa représentation (voir le beau face à face Cauchy-Newton du chapitre VI), voilà ce qu’on ne saurait guère contester - et c’est peut-être là que la ruine du kantisme annoncé par Couturat trouvera sa limite. Poincaré, Brouwer n’auront de cesse de rappeler cet héritage : le groupe peut aussi bien valoir comme a priori et l’ordre à l’intérieur du sujet . Mais en quoi en a-t-on fini alors avec la "représentation" ? En quoi n’y a-t-il plus de grand tableau offert au dépliement sous les puissances du discours ? L’auteur ne finit-il pas par pointer un "grand réseau des transformations" (p. 203) ? Ne devrait-on pas plutôt diagnostiquer ici une montée en puissance de ce régime avec l’émergence d’un espace abstrait qui renvoie son centre dans le sujet et sa clôture dans l’illusoire transparence des formes symboliques ? Ces questions, sans préjuger de leurs réponses, on peut au moins regretter qu’elles n’aient pas été ouvertes au point précis où l’archéologie foucaldienne ne soutenait plus le projet. Cela aurait notamment permis de tourner le regard vers des auteurs comme Leibniz et surtout, plus tard, Riemann, qui semblent effectivement en retrait du "régime de la représentation" de leurs contemporains.

Cela aurait surtout permis de poser directement la difficile question, incessamment reportée avant les trente dernière pages : le "langage", la "visibilité" des mathématiques peuvent-ils être considérés sur le modèle des "mots" et des "choses" ? N’est-ce pas l’inverse qui est vrai : ne fallait-il pas, comme semblent l’indiquer l’analyse du projet foucaldien, se donner d’abord la transparence des mathématiques pour penser l’écart du visible et du dicible ? L’archéologie du savoir, projet d’ailleurs apparemment laissé sur place, n’était-elle pas encore trop dépendante de ce dont elle voulait sortir : un "structuralisme" où le langage se trouvait toujours déjà conçu comme algèbre (Saussure déjà, mais surtout Hjelmslev) ?

L’auteur est parfaitement conscient de ces difficultés (voir notamment p. 325 sq.). Le "régime de la représentation" ne pouvait pas se fracturer de l’intérieur puisqu’il est en état de perpétuel déséquilibre - si bien qu’il semble condamné à perpétuellement se reconfigurer : "Ainsi, la représentation n’est peut-être pas ce grand espace plat dont Foucault voulait faire le socle immobile de la pensée classique. Elle n’est pas plate, elle est creusée d’abîmes ; elle s’exerce toujours dans les textes sous la domination d’une torsion fondamentale, qui la travaille, l’écarte d’elle-même, et la pousse à redoubler et multiplier à l’infini ses attaches" (p. 323). Mais ces difficultés, fallait-il y parvenir au risque de faire sombrer le projet archéologique dans une interminable mascarade ou, au contraire, en partir ? La ligne wittgensteinienne, thérapeutique, semble triompher : nous voilà débarrassés de bien des illusions sur la transparence des discours mathématiques. Mais cette victoire laisse un goût amer : une archéologie des mathématiques est-elle possible ? Voilà ce qui semble rester en suspens.

David RABOUIN

Notes

[1] Attribué par Jamblique, De comm. Math. sc. § 31, à Archytas de Tarente

[2] Ces positions sont en général explicitement revendiquées. Voir, dans l’ordre d’apparition : L. Brunschvicg, Les Étapes de la philosophie mathématique, Paris, Alcan, 1912 ; J. Cavaillès, Sur la logique et la théorie de la science, Paris, Vrin, rééd. 1976 ; A. Lautman, Essai sur l’unité des mathématiques et divers écrits, Paris, 10/18, 1977 ; J.-T. Desanti, Les Idéalités mathématiques, Paris, Seuil, 1968 ; G.-G. Granger, Formes, opérations, objets, Paris, Vrin, 1994 ; G. Châtelet, Les Enjeux du mobile, Paris, Seuil, 1993. Nous nous limitons ici à ce qu’on peut bien appeler avec F. Rivenc, l’"épistémologie à la française". Pour un regard sur cette tradition, d’un point de vue "analytique", voir justement F. Rivenc, "L’héritage de Léon Brunschvicg", in Critique nº582, novembre 1995.

[3] F. Rivenc reconnaît même dans ce diagnostic de "thématisation" un des points d’accord de l’épistémologie à la française depuis Brunschvicg : art.cit., p.832

[4] L. Couturat, Les Principes des mathématiques, Paris, Alcan, 1905

  |   Contacts & Plans  |   Mentions légales  |   Plan du site  |   Suivre la vie du site RSS