Corps de l’article

Ce n’est pas de l’ignorance, c’est du mystère.

Dominique Fortier[1]

La littérature québécoise des trente dernières années s’est enrichie de pratiques reposant en tout ou en partie sur les mathématiques, notamment celles de Cassie Bérard (La valeur de l’inconnue[2]), de Jean-François Chassay (Les taches solaires[3]), de Sébastien Dulude (Divisible par zéro[4]), de Nicole Brossard (Baroque d’aube[5]), de Wajdi Mouawad (Incendies[6]), de Steve Savage (2 x 2[7]), d’Alexandre Bourbaki (Traité de balistique[8]), de Dominique Fortier (Les larmes de saint Laurent) et de Jacques Marchand (La joie discrète d’Alan Turing[9]). En parallèle, on remarquera l’effort de catalogage de ce qu’on nomme en anglais la mathematical fiction de la part du professeur Alex Kasman, du Collège de Charleston aux États-Unis. Son importante base de données[10] cumule plus de 1 369 titres, depuis Les oiseaux d’Aristophane (414 av. JC) jusqu’à Apeirogon de Colum McCann (2020). En outre, la formation de l’Oulipo en 1960 a certainement contribué à la valorisation des points de rencontre entre ces deux disciplines fondamentales, multipliant les exemples poétiques (Cent mille milliards de poèmes de Queneau[11], ∈ de Roubaud[12]) et narratifs (Paris-Math de l’Oulipo[13], La formule de Stokes d’Audin[14], L’anomalie de Le Tellier[15]). Encouragée par cette triple impulsion qui anime en un même mouvement la littérature et les mathématiques, je porterai mon attention sur le contenu du concept de la math-fiction, étonnamment délaissé par la critique[16], et plus précisément sur les critères qui le fondent, afin de le définir en intension plutôt qu’en extension. Intension et extension relèvent de la logique du langage : une classe peut être définie en extension, par la désignation de chaque élément qui en fait partie, – comme dans le cas qui nous occupe, puisque les oeuvres énumérées fonctionnent comme autant d’exemples de la classe math-fiction –, ou en intension, par la description d’un certain nombre de prédicats qui définit cette classe ; l’objectif, donc, poursuivi par cet article. Je m’occuperai à peine de poésie[17] et très peu des autres formes artistiques investies par la math-fiction, comme le cinéma, pour privilégier le support textuel. En somme, plutôt que d’examiner « ponts » et « passerelles[18] » entre la littérature et les mathématiques, j’envisagerai la math-fiction comme un genre littéraire, en relevant d’abord quelques manières dont s’inscrivent les maths dans une oeuvre de fiction, puis en exposant deux grandes configurations internes, opposées voire contradictoires, qui animent les oeuvres de math-fiction. Je terminerai cet article en comparant la math-fiction à sa proche parente, la science-fiction.

De la référence significative au rôle de composition

Mon point de départ sera la manière dont Kasman établit sa base de données. Toute « référence significative » aux mathématiques dans la fiction (« all significant references to mathematics in fiction[19] »), incluant les éléments de la discipline elle-même et les personnages de mathématicien·ne·s ayant ou non déjà existé, légitime la présence de cette fiction dans le répertoire. Le contenu mathématique (mathematical content) de chaque entrée est évalué sur une échelle de 1 à 5 par Kasman et par les internautes qui souhaitent contribuer à l’enrichissement de la base de données. Si, dans ce contexte, une référence significative est interprétable comme une référence importante ou considérable, cela contredit l’échelle quantitative : en quoi un texte évalué 1/5 pour son contenu mathématique présente-il une référence significative ?

Il faut y aller du côté de la qualité et s’éloigner, quoique pas totalement, de la quantité. Une référence suffisamment significative passe d’abord par le texte et le paratexte, qui fournissent des marqueurs mathématiques plus ou moins explicites. Titre, sous-titre, résumé de couverture, étiquette générique et même le nom de l’auteur – un mathématicien connu peut-être – sont susceptibles de réguler les attentes de la lecture, de sorte qu’il est prévu que les mathématiques soient une composante importante de l’oeuvre. Sauf que ce n’est pas toujours le cas : parfois, rien ne permet d’envisager une math-fiction, parfois, l’interprétation d’un segment se prête à des doubles sens (La valeur de l’inconnue), parfois, le marqueur mathématique est une fausse piste. Par exemple, Deux et deux font cinq (2+2=5) d’Alphonse Allais[20] chapeaute le recueil de chroniques parues initialement dans Le journal et Le chat noir, regroupées en 1895 avec quelques inédits. Or, aucun texte de ce recueil n’est lié aux mathématiques : le titre-formule s’impose plutôt comme un slogan anti-intellectuel qui fait ressortir le côté absurde des textes. À noter qu’un marqueur trompeur[21] ne s’identifie comme tel qu’a posteriori de la lecture du livre.

Le cas des marqueurs trompeurs prouve bien qu’il est nécessaire de plonger dans les textes pour considérer la référence « significative » : une formule mathématique située en évidence dans le titre ne garantit pas une math-fiction, de même qu’un texte peut constituer une math-fiction malgré l’absence de marqueurs paratextuels. Cela dit, la variété des marqueurs mathématiques, qui ne sont pas forcément situés sur le plan des thèmes ou du discours, ainsi que la probabilité, plutôt que la certitude, qu’ils soient interprétés comme tels à la lecture, soulèvent un certain nombre de questions quant aux balises à considérer pour définir la math-fiction. La vie mode d’emploi de Georges Perec[22] est composé selon le principe mathématique du bicarré latin orthogonal d’ordre 10. Nul doute que les mathématiques sont ici significatives, puisqu’elles constituent le matériau de base du roman, sa fondation. Or, il ne s’agit pas d’une référence, au sens de trace intertextuelle comme la citation et l’allusion[23]. Les mathématiques fonctionnent plutôt comme générateur et organisateur textuel, mais il est pratiquement impossible de le savoir à la seule lecture du roman ; une connaissance des épitextes comme « Quatre figures pour La vie mode d’emploi[24] » est nécessaire. Une fiction pourrait donc être une math-fiction sans être reconnue comme telle à la lecture. Toutefois, les références à d’autres éléments de mathématiques à l’intérieur des histoires et des descriptions sont nombreuses, tandis que d’autres résultats de contraintes liées à la mesure, comme les « lignes isocèles[25] », déterminent la disposition des signes sur la page et sont susceptibles d’être lus comme autant de marqueurs mathématiques.

La mise en évidence de la complexité du statut du marqueur mathématique et de sa lecture, parfois référence, parfois matériau d’échafaudage, parfois indice formel, permet de reconsidérer le critère de la référence : la mathématique, en tant que science intellectuelle et non empirique comme le sont les autres sciences, est fondée sur des énoncés qui font l’objet d’une démonstration ; elle se sert donc du langage à la fois pour définir ses problèmes et pour les résoudre. De ce point de vue, La vie mode d’emploi est la solution, ou plutôt une solution possible, du bicarré latin orthogonal d’ordre 10. Il y aurait donc lieu, théoriquement du moins, de distinguer deux types de math-fiction : l’oeuvre traite des mathématiques ou bien l’oeuvre actualise, résout un problème mathématique, sans que le discours y fasse forcément référence. Cette distinction demeure théorique car une même fiction, comme La vie mode d’emploi, peut relever des deux types ; toutefois, elle est importante lorsqu’on s’attarde à l’aspect « significatif » du marqueur mathématique. Les synonymes ne manquent pas : manifeste, clair, éloquent, incontestable, notoire, parlant, autant de termes qui supposent un marqueur facile à cerner, évident à la lecture. Bien entendu, ce n’est pas le cas de tous les marqueurs de math-fiction ; il s’agirait plutôt d’être significatif en regard de l’économie d’une oeuvre, soit vis-à-vis de sa construction, soit vis-à-vis de sa diégèse. Dans cette optique, un marqueur mathématique dont on use comme un matériau de construction est forcément significatif puisqu’il est nécessaire ; sur le plan du discours par contre, il faut apporter quelques nuances.

Toute mention mathématique dans un texte ne fait pas de ce texte une math-fiction, certes. En même temps, un détail insignifiant ne l’est jamais vraiment, il contribue à produire l’effet de réel, comme l’expliquait Roland Barthes[26]. La scène où tel personnage d’écolier s’attable à son devoir de math, alors qu’il aurait pu travailler sa grammaire ou ses sciences naturelles, permet de produire cet effet, mais ne constitue probablement pas une notation suffisante pour être significative, cela dit dans une perspective générique et textuelle. Telle une variable continue, il n’existe ni case ni choix discret qui permettrait de déterminer aisément et strictement le caractère significatif d’un marqueur dans une diégèse, notamment parce celle-ci est composée de multiples strates susceptibles d’intégrer des éléments de mathématiques : thèmes, personnages, séquences d’actions, narration, intertexte, motifs, figures, métaphores, etc. De plus, ces mêmes strates sont hiérarchisables, si bien qu’on peut aussi les penser proportionnellement : protagoniste ou personnage secondaire, intrigue principale ou récit enchâssé, métaphore filée ou ponctuelle, intertexte généralisé ou circonscrit, etc. En outre, ce sont parfois quelques sections bien définies d’un livre qui relèvent de la math-fiction, comme dans Les larmes de saint Laurent, où les mathématiques se déploient uniquement sur un tiers du roman. Pourtant, le livre de Fortier occupe une place dans le répertoire de Kasman. Qu’est-ce à dire ? Que le critère le plus important qui définit le concept de math-fiction, la référence significative, est discutable : non seulement les maths s’inscrivent autrement qu’en termes de référence, en plus, l’aspect significatif reste plutôt subjectif, comme une valeur versée en regard de la lecture. Je propose de définir la math-fiction comme une oeuvre littéraire où les mathématiques jouent un rôle dans l’économie de celle-ci, peu importe la strate, la proportion, la diégèse, le matériau, etc. Jouer un rôle, c’est plus que donner une couleur locale à un texte, c’est assumer des fonctions plus importantes qu’ornementales ou décoratives. Il s’agit donc pour les mathématiques d’un rôle de composition, et ce, à double titre : d’une part, elles participent de la composition de l’oeuvre, elles y sont intrinsèquement liées, d’autre part, comme on le dit d’un acteur qui assume un rôle éloigné de son registre usuel, elles évoluent dans un univers distant de leur registre habituel, celui de la fiction.

D’un double mouvement

Dans cette optique où les mathématiques dépassent la seule inscription dans un texte pour s’implanter littéralement dans une oeuvre, il paraît nécessaire de creuser un peu plus cette implantation, afin de faire ressortir la mécanique générale qui articule fiction et mathématiques. Cette mécanique repose sur un double mouvement opposé, qui tient précisément de la discipline mathématique, mystérieuse en ce sens qu’elle demeure une chose inconnue des lectrices et lecteurs lambda ou accessible aux initiés seulement. Donc, soit l’oeuvre de math-fiction est une entreprise de démystification, et la littérature devient ainsi le véhicule de l’histoire et des fondements de la mathématique, soit elle se sert de ce mystère comme un moyen de produire des situations complexes, énigmatiques. Bref, le mystère s’éclaircit ou bien il s’accentue.

Certaines oeuvres de math-fiction, à visée informative, utilisent les ressources de la littérature pour transmettre des notions complexes ou obscures en les rendant accessibles : « Un fil narratif permet de montrer les connexions entre les concepts[27]. » Les mathématiques y sont présentées dénuées de termes techniques, si bien que lectrices et lecteurs acquièrent des informations, qu’elles ou ils transformeront peut-être en connaissances, sans avoir l’impression d’apprendre comme à la petite école. Les événements racontés ont généralement un ancrage dans le réel : découvertes importantes (le zéro, un théorème…), vie de mathématicien·ne, esprit mathématique d’une civilisation. Livres pour la jeunesse certes, mais aussi fictions biographiques et romans historiques composent donc cet ensemble particulier de math-fictions. Une quantité de signes paratextuels permettent d’associer ces oeuvres au premier mouvement[28] ; il paraît tout aussi envisageable d’identifier quelques dispositifs intratextuels – ressources de la littérature – qui facilitent la transmission d’un contenu mathématique. On notera la présence d’un personnage qui joue le rôle de vulgarisateur : un narrateur-mathématicien, un conteur, un protagoniste âgé et sage ; la présence aussi de personnages ignorants, enfants ou adultes, auxquels pourraient s’identifier lectrices et lecteurs ; la présence enfin d’objets qui figurent la fabrique et la transmission des savoirs, comme les livres, les bibliothèques, les lettres, etc. Par ailleurs, les notions mathématiques sont expliquées, développées, éclaircies, en donnant les éléments nécessaires à leur compréhension, comme dans ce passage du Théorème du perroquet de Denis Guedj :

Les parenthèses vont par couples. À gauche, l’ouvrante, à droite, sa fermante. Leur rôle est essentiel : permettre l’écriture sans ambiguïté d’expressions mathématiques. M. Ruche essaya avec deux divisions à la suite : 2 divisé par 3 divisé par 5, ça fait combien ? Écrit « 2/3/5 » cela ne fait rien du tout. Est-ce que 5 divise 2/3 ou est-ce 3/5 qui divise 2 ? Comment savoir ? Sans parenthèses, poubelle ! Avec les parenthèses par contre, on a le choix […] L’erreur de Cardan concernant l’un des tercets de Tartaglia, c’était ça ! Al terzo cubo delle cose netto. Cardan avait compris le tiers du cube, alors qu’il s’agissait du cube du tiers ! Avec les parenthèses, pas de possibilité d’erreur. Cardan n’aurait pu lire (p3)/3 si Tartaglia avait écrit (p/3) [29].

La fonction essentielle des parenthèses en mathématiques est mise en évidence, premièrement, par l’exposition et la résolution d’un problème simple, et deuxièmement, par le fait que le personnage réussit à comprendre pourquoi un mathématicien du xvie siècle, célèbre pour ses formules, s’est trompé.

Tout autre est la mécanique des oeuvres de math-fiction du second ensemble, sans visée pédagogique ou informative. Au contraire, elles accentuent le mystère entourant les mathématiques en s’en servant pour complexifier une fiction : enchaînements non-linéaires, mobilisation d’un savoir mathématique pour la simple compréhension du texte, dispositifs sibyllins qui laissent pantois les personnages, les lectrices, les lecteurs. Ces oeuvres reposent généralement sur des formules, des théorèmes, des modèles avérés de la discipline qui ne sont ni décrits ni expliqués, mais bien actualisés et mis en scène. Comme dans L’anomalie[30] d’Hervé Le Tellier, où la théorie de Bostrom[31] s’impose comme étant la plus plausible pour comprendre un phénomène spatio-temporel étrange qui a affecté de multiples façons les nombreux personnages. Deux mathématiciens, Meredith et Adrian, plutôt que d’expliquer cette théorie froidement et calmement, de manière à correspondre au stéréotype le plus éculé du mathématicien impassible, soulèvent des questions et sont empreints d’émotion :

Je refuse d’être un programme, peste Meredith […] Est-ce que le fait que je n’aime pas le café est inscrit dans le programme ? Et ma gueule de bois d’hier, quand je me suis changée en éponge à tequila, elle est simulée elle aussi ? Si un programme désire, aime et souffre, quels sont les algorithmes de l’amour, de la souffrance et du désir[32] ?

À la lecture de cet extrait, qui peut en dire plus sur la théorie de Bostrom ? De même, dans le Traité de balistique d’Alexandre Bourbaki[33], la nouvelle « Quelle est la longueur de la côte gaspésienne ? » reprend la question originalement posée par Benoît Mandelbrot : combien mesure donc la côte de Bretagne ? Les fractales vont ainsi déterminer l’identité et le comportement des deux personnages principaux, Fatou et Julia. Ces noms renvoient aux mathématiciens français Gaston Julia et Pierre Fatou, qui ont travaillé en dynamique holomorphe sur des ensembles complémentaires (stabilité-chaos). Les deux personnages de la nouvelle de Bourbaki se rencontrent, alors que Julia fait le « cambriolage entropique » de la banque que Fatou est en train de nettoyer. Ils échangent un regard et se réfugient au sous-sol chez Julia : ces deux personnalités complémentaires ne se sépareront plus. Or, il revient à la lecture d’inférer toutes ces correspondances, à condition de détenir le savoir préalable pour le faire.

Exploiter les ressources de la littérature pour démocratiser, vulgariser, rendre accessibles les éléments fondamentaux de la discipline mathématique ; mobiliser les ressources des mathématiques pour enrichir, complexifier, déplacer le centre et le sens d’une oeuvre littéraire. Ce double mouvement contradictoire constitue peut-être la source de cette réticence à manier les oeuvres de math-fiction selon un angle générique et à les placer sous une seule étiquette[34]. Pourtant, les exemples d’une même classe regroupent des réalités parfois fort hétérogènes, des réalités mouvantes aussi, et rien n’empêche d’établir des sous-ensembles, qui auraient comme principale distinction la manière dont se déploient les maths : énigmatique ou pédagogique.

Math-fiction et science-fiction

Le nom de genre choisi pour baptiser la classe des oeuvres à l’étude n’est pas anodin ni élu au petit bonheur. Si l’expression a déjà été utilisée de manière péjorative pour qualifier certaines démonstrations ou « découvertes » d’ordre mathématique[35], elle comporte à mes yeux au moins deux avantages : sa forme composée reliée par un trait d’union n’est pas fondée sur la fusion de deux signifiants qui aboutirait à un quelconque mot-valise loufoque, comme « mathéfiction » ou « littémathure », et surtout, elle établit d’emblée une correspondance avec la science-fiction.

Entre les sciences et les mathématiques, les rapports sont complexes. « La mathématique est une science, il est bon de le rappeler[36] », mais elle n’est pas une science comme les autres : « Ainsi en mathématique il n’y a pas, comme dans les autres sciences, de va-et-vient entre le concept dans notre esprit et l’expérience à côté de nous : on ne s’occupe que du concept[37]. » S’il s’agit d’une science, quoique légèrement décalée par rapport aux autres (je reviendrai sur ce décalage), pourquoi ne pas penser la math-fiction comme une « branche[38] » de la science-fiction ? Parce que « la plupart des grandes réalisations scientifiques et technologiques de nos jours comprennent une dose, petite ou immense, de mathématique[39] ». Dans ce cas, est-ce bien nécessaire d’en faire un ensemble distinct, puisque chaque fiction mettant en scène les sciences et les technologies présuppose une composante mathématique ?

Placer la catégorie de la math-fiction sur un pied d’égalité avec la science-fiction permet de mettre en relief le décalage qui fait de la mathématique une science entièrement versée dans le concept et l’abstraction : comme je l’ai montré dans la première partie de cet article, des oeuvres usent des maths comme d’une matrice tout en racontant – parfois mais pas forcément – une histoire mathématique, ce qui est pratiquement impossible pour les autres sciences. Une fiction sur une expérience de chimie ne peut que parler de cette expérience, raconter le processus, représenter la démarche, le résultat ; mais la démonstration de l’expérience mathématique, qui n’existe qu’abstraitement, se fait au moyen du langage et parfois, par l’entremise du langage de la fiction. Par exemple, La cimaise et la fraction[40] de Queneau instancie la contrainte mathématique S+7[41], elle est l’expérience. Il s’agit d’une math-fiction énigmatique, actualisante : que le personnage de la fourmi soit remplacé par un élément de mathématique, la fraction[42], n’est qu’une conséquence de l’application de la formule. Par ailleurs, les critères qui définissent aujourd’hui le genre de la science-fiction – fictions reposant sur des avancées techniques ou scientifiques imaginaires, voire impossibles, sur des extrapolations, qui présentent notamment des mécanismes narratifs fondés sur des jeux spatio-temporels tels l’uchronie, la dystopie ou les univers parallèles – ne sont pas remplis de facto par les math-fictions. Finalement, et cela rejoint en partie le point précédent, le texte littéraire est un tissu complexe qui se rapporte généralement à plus d’un genre : La cimaise et la fraction est une fable et une math-fiction ; La joie discrète d’Alan Turing est à la fois une biographie fictive et une math-fiction ; Sans dessus dessous, un des romans de Jules Verne répertorié dans la base de données de Kasman, relève de la science-fiction comme de la math-fiction.

*

En conclusion, l’utilité de définir un autre genre littéraire paraîtra étroite et limitée à celui qui considère les genres comme des petites cases aux frontières bien étanches. Je suppose plutôt, à l’instar de Northrop Frye[43], que les distinctions génériques doivent être perçues comme des indices permettant de clarifier certains rapports entre les oeuvres. Dans ce cas-ci, j’ai tenté de faire ressortir quelques éléments qui caractérisent les oeuvres de math-fiction, mettant ainsi en évidence les liens qui unissent une quantité de textes autrement disparates, que l’on traite généralement de manière séparée, tout comme les ruptures qui les éloignent d’autres textes envisagés indifféremment. Cela dit, cet article constitue le premier pas vers une définition en intention du concept de math-fiction ; à l’étape suivante, on adoptera une perspective historique, afin de constater l’évolution du genre, ses modulations au fil du temps, ses additions et ses soustractions.