Corps de l’article

Rose is a rose is a rose is a rose[1]…

Durant le premier tiers du XXe siècle ont paru les premières courbes et figures fractales formulées mathématiquement : le flocon de Koch (1904), le tapis de Sierpiński (1916), l’éponge de Munger (1924), etc. Cinquante ans plus tard, Benoît Mandelbrot, publie chez Flammarion Les Objets fractals. Forme, hasard, dimension[2], un travail de définition et d’application qui a eu pour effet de relancer les mathématiques sur une nouvelle piste pour expliquer, d’abord, des phénomènes dits monstrueux, chaotiques, complexes, fragmentés, brisés, que la géométrie euclidienne, composée de figures simples, nettes, lisses, parvenait difficilement à représenter et pour revoir, ensuite, à l’aune de cette théorie, des formes et des processus naturels comme le flocon de neige, la fougère, les vaisseaux sanguins, les alvéoles pulmonaires, les marées ou les irruptions volcaniques. Loin d’être nées avec Mandelbrot, les fractales constituent plutôt un point de vue, « une nouvelle manière de voir le monde », comme le titrait justement le numéro consacré à la géométrie fractale de la série « Le Monde est mathématique[3] ».

Si l’on pose la question de l’existence de l’objet fractal dans le domaine littéraire, il y a fort à parier que l’on répondra intuitivement que la mise en abyme est le dispositif qui s’en approche le plus compte tenu de l’effet gigogne ou emboîté qui la caractérise. Les termes sont parfois confondus, comme on peut le voir dans cette citation qui concerne la confection du célèbre roman lipogrammatique de Georges Perec : « Dans les notes préparatoires à La Disparition, on y remarquera quelques dessins de figures présentant une structure fractale ou d’emboîtement qui évoque celle du roman[4]. » Je propose d’accorder à cette intuition l’attention qu’elle mérite, en me demandant si la mise en abyme telle que théorisée par Lucien Dällenbach dans Le Récit spéculaire est une fractale[5]. Cette comparaison se fera à la faveur d’une description préalable des principales propriétés de l’objet mathématique et des enjeux que sa transposition dans le domaine littéraire soulève. J’émets d’emblée l’hypothèse qu’en littérature, la fractale a toujours existé sur le plan structurel, mais dans une forme approximative vis-à-vis de la fractale mathématique, pour la simple et bonne raison que les limites du livre annihilent toute possibilité de répétition in(dé)finie. Par ailleurs, la description de Mandelbrot a permis d’octroyer une charge sémantique à la fractale. En examinant, dans la troisième partie de cet article, quelques exemples tirés d’un corpus français et québécois, il paraîtra évident que la littérature s’est emparée explicitement ou métaphoriquement de la figure ; elle l’incorpore dans ses motifs formels, bien sûr, mais aussi thématiques, diégétiques et poétiques.

Éléments de géométrie fractale[6] et littérature

De la difficulté de définir en intention

Les exemples de figures fractales sont pléthores et se divisent en trois grandes catégories : les systèmes de fonctions itérées, comme le flocon de Koch ou l’ensemble de Cantor, qui possèdent une règle de remplacement géométrique fixe, autrement dit, une méthode de génération ; les fractales définies par une relation de récurrence (du type suite de Fibonnaci) en chaque point dans un espace ou L-systems, comme l’ensemble de Mandelbrot ou l’exposant de Lyapunov ; les fractales aléatoires caractérisées par des processus stochastiques et non-déterministes, tels que des paysages fractals. La grande variété des figures explique sans doute les difficultés de définir en intention le concept de fractal. Dans la première version des Objets fractals, Mandelbrot évite joliment la question puis il proposera, sous la pression : « [U]n ensemble fractal (dans le plan ou dans l’espace) est un ensemble dont la dimension de Hausdorff est strictement supérieure à la dimension topologique[7]. » On conviendra que cette définition reste obscure pour les non-initiés, cependant que les initiés diront qu’elle ne s’applique qu’à certaines fractales. Le mathématicien Adrien Douady propose une définition plus vague mais plus accessible et plus inclusive : « [U]ne fractale est un objet irrégulier, dont l’irrégularité est la même à toutes les échelles et en tous les points[8]. » À partir de cette définition, qui circonscrit quelques caractéristiques de la figure comme l’irrégularité et l’homothétie, de l’étymologie du mot « fractal » et de quelques particularités représentatives de la majorité des figures, comme l’iconicité, examinons plus attentivement ces propriétés et les enjeux qu’elles font émerger dans une perspective littéraire.

Propriétés (fractus, homothétie, itération, iconicité)

Fractus

Le mot « fractale » provient du latin fractus, qui signifie bris et rupture. Fondé sur la même racine que le mot « fragment », on peut saisir la pertinence de cette origine de deux manières : soit vis-à-vis des constituants de la figure fractale, soit vis-à-vis de la perception du phénomène. D’une part, les fractales sont des formes aux contours irréguliers, non lisses, complexes compte tenu du changement d’échelle : des cercles concentriques, par exemple, ne satisfont pas pleinement l’irrégularité de la fractale malgré leur structure gigogne, puisque les cercles sont lisses, simples, faciles à décrire dans le langage géométrique classique euclidien. D’autre part, l’oeil qui perçoit une fractale ne peut saisir qu’un fragment de la figure et ce fragment contient la répétition infinie de la même figure : « [L]’oeil trouvera toujours où s’arrêter, et les vues auxquelles il s’arrêtera seront toutes de complications comparables[9]. » La fragmentation, du point de vue de la perception de la fractale, est donc double : l’oeil saisit un morceau d’une figure arrachée d’un ensemble plus vaste, mais n’en perçoit qu’une partie, puisqu’à l’intérieur de ce morceau, les réduplications sont multiples. Autrement dit, la fractale est une figure « dont le centre est partout, la circonférence nulle part[10]. »

En littérature, le fragment constitue un genre sur lequel Blanchot (L’Écriture du désastre[11]), Barthes (Fragments d’un discours amoureux[12]), de Bellefeuille (Lascaux[13]) et Brossard (L’Horizon du fragment[14]) ont porté une attention particulière. De l’aspérité à la brisure, en passant par l’incomplétude ou l’essentiel, qui réside dans l’interstice entre les fragments, chaque proposition théorique rappelle une ramification possible du champ sémantique qui entoure le fractus originel. Formellement, l’oeuvre composée de fragments se caractérise par l’usage massif du « blanc » (le mot comme l’espace typographique), par l’accumulation de textes de courte étendue (débris, éclat, citation, extrait), par la forte présence de figures telles que l’ellipse ou la synecdoque et par les coupures des signifiants entamés jusqu’à l’unique syllabe, jusqu’au dernier son. La pratique du fragment implique parfois un mélange des genres. De ce mélange découle une hybridité des discours qui dénote une volonté de repenser le dynamisme de l’écriture par la polyphonie, ainsi qu’un moyen de décentrer la lecture. Or, c’est peut-être ici que le fragment s’éloigne le plus distinctement de la fractale : l’hybridité reste peu compatible avec l’homothétie.

Homothétie (auto-similarité) et itération (récursivité infinie)

L’homothétie est une transformation géométrique correspondant à un agrandissement ou à une réduction qui ne modifie pas l’aspect de la figure mais en change l’échelle. Dans le cas qui nous occupe, la structure de la fractale est composée de détails auto-similaires ; elle préserve une certaine symétrie interne en dépit de ses nombreuses variations d’échelles. La multiplication des détails et des variations renvoie au principe récursif de la fractale : l’itération, la répétition in(dé)finie de la figure. En résumé, la fractale est plus qu’une répétition, qu’une répétition du même ou qu’une répétition du même à différentes échelles : c’est la répétition à l’infini du même à différentes échelles. Il y a lieu de s’arrêter quelques instants sur la répétition infinie et indéfinie. Pour certaines fractales dites approximatives, observables dans la nature[15], telles que la fougère, le chou romanesco, les vaisseaux sanguins et certaines bactéries, il est vrai que chaque occurrence a un contour bien net qui délimite de l’extérieur une forme finie. Or, de l’intérieur, la récursivité est bien infinie, les réseaux se ramifient et se complexifient si bien qu’en zoomant sur une portion de la fougère, on la retrouve en tout ou partie, et ce, indéfiniment.

Peut-on produire la fractale idéale, celle dont la structure se répète à l’infini à différentes échelles, dans le domaine littéraire ? Certes, les bornes de l’objet-livre nous obligent à parler d’une forme approximative, puisqu’elles cernent la limite externe de la figure. Sans doute la littérature numérique échappe à cette délimitation, car le texte a la faculté de dépasser ce qui est visible à l’écran. Pour le livre donc, la répétition vient de l’intérieur. Même dans ce cas, peut-elle être in(dé)finie ? Imaginons un énoncé que l’on répète indéfiniment à des échelles si réduites que le texte ne pourrait être lu qu’au microscope. Ainsi, le livre fractal approximatif idéal existe mais potentiellement. Restons dans l’espace du visible et demandons-nous ce qui peut se rapprocher le plus de l’infini. Deux signes linguistiques, soit la locution adverbiale « etc. » et les points de suspension, expriment l’incomplétude : en supposant ce même énoncé répété jusqu’aux limites du perceptible, qui se termine par « , etc. » ou « … », nous aurions une proposition figurée de l’infini. Il reviendrait alors au lecteur de supposer une suite semblable à ce qui précède.

Pour alimenter l’analyse par d’autres biais, j’observerai trois exemples de textes publiés exacerbant l’application d’un principe itératif : Cent mille milliards de poèmes de Raymond Queneau[16] (1961), L’Oulippopotame d’Yvon Boucher[17] (1981) et Fractales (2011) de Ian Monk[18]. Jusqu’à maintenant, nous avons pensé l’in(dé)fini en opposition au quantifiable. Or, les poèmes de Queneau incitent à le considérer en regard de la lecture : « [I]l est vrai que ce nombre [1014 sonnets], quoique limité, fournit de la lecture pour près de deux cents millions d’années (en lisant vingt-quatre heures sur vingt-quatre)[19]. » L’infini – le temps de la lecture – sera distinct de l’indéfini, qui ne représente pas l’ouvrage de Queneau puisque le nombre de poèmes est, au contraire, limité, circonscrit, défini. Par ailleurs, il y a lieu d’identifier où se situe exactement l’auto-similarité des sonnets, car il ne s’agit pas d’un seul poème répété cent mille milliards de fois, mais de cent mille milliards de poèmes différents. Cela dit, cette différence ne tient potentiellement qu’à un seul vers sur quatorze, puisque l’ouvrage de Queneau, rappelons-le, est composé de dix sonnets de base et chaque vers est imprimé sur une languette indépendante. Le lecteur combine ainsi les languettes pour parvenir à lire les poèmes ; un seul changement de vers équivaut à un changement de poème. Donc, l’auto-similarité de Cent mille milliards de poèmes tient d’abord à la forme : ce sont tous des sonnets. Quant au contenu, on parlera d’une auto-similarité partielle (une plus ou moins grande partie d’un poème est susceptible d’être répétée) ou nulle (il est possible de lire deux sonnets complètement différents).

Dans le livre d’Yvon Boucher, l’itération s’effectue sur les deux plans : la phrase « L’hippopotame est l’hypoténuse de l’obésité » se répète inlassablement près de deux milles fois. Les modulations sont toutefois importantes ; elles sont causées par l’ajout d’une majuscule ou d’une ponctuation inopportune qui coupe la phrase de sa logique syntaxique : « “L’obésité l’hippopotame ?” », est l’hypoténuse De[20]. » On peut se demander s’il y a bien répétition du même, malgré les différences que provoque un seul signe de ponctuation ou un simple changement de casse. Chose certaine, le livre de Boucher, comme celui de Queneau d’ailleurs, achoppe sur un des principes fondamentaux de la fractale : les variations d’échelles.

Dans Fractales, Monk réussit à respecter ce principe tout en produisant un texte auto-similaire sur le plan structurel, complexe. Voici une partie de l’explication reproduite à la fin de la série de poèmes :

[C]haque couche est organisée de la même façon, c’est-à-dire n1, n2, n3, n4 ; le premier chiffre étant le nombre de poèmes, le deuxième le nombre de vers, le troisième le nombre de mots, le quatrième le nombre de lettres. Ensuite, à chaque niveau, n est le nombre de vers dans chaque poème, de mots dans chaque vers et de lettres dans chaque mot[21].

Cette série est donc composée de neuf poèmes anglais, dont le premier contient un seul mot d’une lettre, « I », et le dernier, neuf strophes de neuf vers longs de neuf mots de neuf lettres : « exhibited, daggering undulated curtained revisions reasoning circuited galleries everyone’s[22] ». En regard des caractéristiques de la figure fractale mathématique, le travail de Monk satisfait certainement le principe des variations d’échelles, car huit fois il ajoute un (+1) aux éléments constitutifs du langage (lettres, mots, vers, strophes). Toutefois, il s’agit d’une suite finie, circonscrite par les chiffres de 1 à 9 et qui, en plus, forme une boucle étrange repliant le neuvième poème sur lui-même, car il actualise la contrainte combinatoire de la neuvine[23] : « [C]hacun des quatre-vingt-un mots apparaît une fois dans chaque vers et une fois dans chaque rang avant de revenir à sa position initiale. Le dixième poème serait donc identique au premier[24]. » Quant à l’auto-similarité, on aura compris qu’il ne s’agit pas de la répétition d’un même contenu mais bien d’une même structure. Cependant, les poèmes évoquent des personnages, des situations, des sensations reliées à l’univers du chiffre qui détermine la structure, ils peuvent être soumis à une lecture autoréférentielle. C’est donc dire, aux vues des trois oeuvres analysées, que textuellement, la possibilité d’une homologie de contenu devient une question complexe précisément parce que nous sommes dans le domaine du langage et non de l’image.

De l’icône au symbole

En sémiotique peircienne, le mot et l’image relèvent de deux catégories de signes distincts, le symbole pour le premier, l’icône pour la seconde, même s’il peut y avoir des exceptions. En ce qui concerne les fractales mathématiques, si l’on fait fi des processus qui les génèrent pour s’attarder essentiellement aux résultats, elles appartiennent au monde de l’art visuel, elles sont iconiques. On ne compte plus le nombre de publications qui font valoir la « beauté » des fractales, leur pouvoir de « fascination » ou leur caractère « hypnotique »[25]. Pour ce qui est du mot, il est le symbole de ce qu’il raconte. Certes, il arrive ponctuellement que le texte prenne une dimension iconique, comme dans les Calligrammes d’Apollinaire, ou une dimension indicielle, comme dans les textes à contrainte qui sont la trace de la règle qu’ils actualisent. Règle générale, les mots entretiennent une relation symbolique avec ce qu’ils racontent, mais ce qu’ils racontent peut être interprété différemment selon les lectures, donc, un même mot symbolise potentiellement plusieurs choses : le contenu d’une histoire, l’autoréférence, etc.

Il est clair que transposer les particularités d’un phénomène relevant d’une catégorie de signes à une autre entraîne des points de friction qu’il est judicieux d’observer attentivement. Dans le cas qui nous occupe, la stricte homothétie et la variation d’échelles doivent être repensées en fonction du fait qu’il s’agit de langage : l’organisation linguistique inclut le type de signes et leur disposition sur la page, leur structure ainsi que leur contenu. Comme le mot a aussi une charge sémantique, il faut s’aviser que le même, ce qui est répété, peut aussi se situer sur ce plan : synonymie, autoréférence, etc. « Les fractales sont définies en référence aux structures gigognes dont elles constituent des cas particuliers – elles sont hologigognes, gigognes en tout point. Chaque élément la composant est aussi une fractale, tautologique[26]. » Forcément, pour considérer la fractale en littérature, il faut s’accommoder d’une conception ouverte aux structures sémantiquement hologigognes. De la même façon, on tiendra compte de la variation d’échelles comme un paramètre visuellement perceptible, un changement dans la grosseur des caractères par exemple, ou interprétable selon différentes couches textuelles, notamment les niveaux narratifs (extra-méta-intradiégétique) définis par Genette[27] ou le principe de Roubaud : « Un texte écrit suivant une contrainte parle de cette contrainte[28]. » En considérant ainsi les modulations des paramètres provoquées par le passage de l’icône au symbole[29], nous nous dirigeons lentement, mais sûrement, sur la piste de la mise en abyme.

La mise en abyme théorisée par Lucien Dällenbach est-elle une fractale ?

La réponse à cette question est oui, à condition toutefois d’être ouvert à l’homothétie de contenu, à l’idée d’assouplir la notion d’infini, à condition aussi de considérer la mise en abyme comme un dispositif fractal parmi d’autres, car nous verrons, à la toute fin de cette section, comment des chercheurs polonais ont envisagé la littérature du point de vue de la fractale sans que n’intervienne la notion de mise en abyme.

Le Récit spéculaire de Dällenbach fut publié deux ans après les Objets fractals de Mandelbrot, mais on peut douter que l’étude du mathématicien ait eu une influence directe sur la pensée du critique, puisqu’il n’y fait aucunement allusion[30]. Son point de départ est une définition de l’abyme en tant que dispositif formel, suffisamment fascinant pour qu’André Gide, au détour de la lecture d’un traité d’héraldique, témoigne dans son Journal de son grand intérêt : « Ce qui captive Gide, suppose Dällenbach, ce ne peut être que l’image d’un écu accueillant en son centre, une réplique miniaturisée de soi-même[31]. » On reconnaît dans cette définition le principe de la stricte homothétie, « une réplique miniaturisée de soi-même », et on remarque du même coup que cette répétition n’a lieu qu’une seule fois, et qui plus est dans une image. L’abyme du blason héraldique est donc iconique et déterminée, mais sans fin. Le sens de spéculaire implique d’ailleurs une seule réflexion : l’image-miroir, inversée, renvoie constamment à elle-même, dans un mouvement de va-et-vient qui, lui, est infini.

Dällenbach a donc l’obligation de se tourner du côté du symbole, du texte, pour développer sa typologie du récit spéculaire. Il établit d’abord ce qui peut être réfléchi – la narration, le texte, le code, la fiction – pour aboutir à une « loi » sur laquelle il échafaude les différentes catégories de réduplication :

[C]’est selon qu’elle reflète une même oeuvre (similitude), la même oeuvre (mimétisme) ou l’oeuvre même (identité) que la réflexion basale engendre respectivement les types I [réduplication simple], II [à l’infini], ou III [aporistique][32].

Il importe peu, pour Dällenbach, que l’objet de la réflexion soit de nature sémantique ou formelle ; le degré d’analogie suffit à déterminer le type de mise en abyme. Or, en regard de la figure qui nous intéresse, l’idée qu’il puisse y avoir différents degrés d’analogie implique que nous sortions du cadre de la stricte homothétie. Les correspondances entre la fractale et la mise en abyme simple sont pour le moins ténues. Prenons l’exemple de Hamlet[33] et de la pièce Mousetrap qui est interprétée par une troupe de comédiens. Hamlet devient le metteur en scène de cette pièce car il espère confondre Claudius, assassin présumé du roi. Le code (une pièce de théâtre) et la fiction (reproduction de la scène du meurtre) sont les éléments réfléchis par cette mise en abyme. Les rapports sont similaires[34], la réduplication est simple et elle est, en plus, circonscrite à la deuxième scène de l’acte III. Quant aux réduplications à l’infini et aporistiques cernées par Dällenbach, les correspondances avec la figure mathématique sont plus évidentes. D’un degré d’analogie dit mimétique (le livre X est dans le livre X), les réduplications répétées de ce type de mise en abyme jouent sur plusieurs envers symétriques, toutefois, « le dédoublement interminable est littérairement voué à demeurer sinon à l’état de programme, du moins au stade de l’ébauche[35]. » Cette impossibilité tiendrait à la disposition successive des signes, à la linéarité du texte[36]. Point Counter Point d’Aldous Huxley[37], L’Herbe de Claude Simon[38] et Les Faux-monnayeurs d’André Gide[39] offrent différentes versions de réduplications qui tendent vers l’infini. Finalement, les mises en abyme de type aporistique, qui présentent un degré d’analogie dit « identique » (le livre X du livre X ; le livre X sur le livre X), forment des boucles étranges telles un ruban de Moëbius ou un Ouroboros. Pensons à La Recherche du temps perdu de Marcel Proust[40], aux Fruits d’or de Nathalie Sarraute[41].

Sans caractère fragmenté, ni homothétie stricte ou itération infinie, nous pouvons affirmer sans ambages que la mise en abyme simple n’est pas une fractale. La version aporistique met en valeur un certain mouvement circulaire infini, car le texte se replie sur lui-même, se mord la queue, comme le neuvième poème de la série proposée par Ian Monk. Et c’est seulement en ce sens qu’une mise en abyme permet de penser l’infini ; les réduplications sont souvent multiples et procèdent par mimétisme, donc elles présentent une certaine forme de répétition du même, mais la linéarité du récit et j’ajouterais les limites du livre font en sorte que les répétitions ont forcément une fin. Il faut considérer aussi que la mise en abyme, peu importe le type, provoque des variations d’échelles métaphoriques, en ce sens qu’elles ne sont pas visuellement perceptibles mais interprétables par le jeu sur les strates textuelles qu’elles mettent en valeur. Sommes-nous toujours dans une transformation homothétique ? Nous sommes loin sans doute d’une structure hologigogne (gigogne en tout point), mais à partir d’une conception plus élastique de l’homothétie, nous pourrions répondre de manière affirmative si le degré d’analogie entre les réduplications est mimétique ou identique ; la nature fractale d’un livre où le narrateur intervient à propos du récit en s’adressant au lecteur reste donc discutable.

Par ailleurs, des chercheurs polonais[42] ont montré qu’il était possible d’étudier la littérature sous l’angle fractal en faisant fi de son caractère linguistique : il suffit de convertir les textes en séquences numériques et de prendre le nombre de mots comme mesure étalon. Si une phrase d’une longueur X est alors Y fois plus longue que des phrases de différentes longueurs, existe-t-il un ratio respectant un modèle de construction gigogne ? Les titres analysés montraient en grande majorité une autosimilarité en termes d’organisation de la longueur des phrases : « An overwhelming majority of the studied texts simply obeys such fractal attributes but especially spectacular in this respect are hypertext-like, “stream of consciousness” novels. » Il n’est guère étonnant que Finnegans Wake de James Joyce arrive en tête.

L’impact du travail de Benoît Mandelbrot dans la littérature

Sortons maintenant du parallèle théorique entre les caractéristiques de la figure fractale mathématique et les dispositifs textuels pour examiner plus attentivement l’impact du travail de Mandelbrot dans la littérature. Trois récits retiendront notre attention, parce qu’ils renvoient explicitement aux fractales par leur titre et par des motifs structurels et diégétiques : « Quelle est la longueur de la côte gaspésienne ? » d’Alexandre Bourbaki[43], Fractales de Marc Gontard[44] et Baroque d’aube de Nicole Brossard[45].

Traité de balistique est un recueil signé par un trio d’auteurs incluant dix-neuf nouvelles et neuf illustrations[46]. Leur pseudonyme, Bourbaki, laisse supposer une orientation mathématique des textes, un caractère mathéfictionnel ; en effet, tout est pensé de manière à illustrer un théorème, une théorie ou un modèle mathématique, et ce, jusqu’au moindre détail. Le chiffre qui détermine l’ordre des illustrations, par exemple, est une décimale de Pi : « Fig. 3.1, Fig. 4, Fig. 1, Fig. 5, etc. » De toute évidence, la nouvelle « Quelle est la longueur de la côte gaspésienne ? » aborde les fractales, car son titre reprend la question originalement posée par Benoît Mandelbrot : « Combien mesure donc la côte de Bretagne ? » Les fractales envahissent la fiction au point où elles déterminent l’identité et le comportement des deux personnages principaux, Fatou et Julia. Leurs noms, des pseudonymes, renvoient aux mathématiciens français Gaston Julia et Pierre Fatou. En 1917-1918, ils ont travaillé en dynamique holomorphe sur des ensembles complémentaires (stabilité-chaos) qui présentent des correspondances évidentes avec les ensembles de Mandelbrot. L’ensemble de Fatou réunit les points en lesquels un faible changement du point de départ entraîne un faible changement sur la suite de l’itération, à l’opposé, dans l’ensemble de Julia, une petite perturbation initiale se répercute en un changement radical de cette suite. Dans la nouvelle de Bourbaki, Fatou quitte sa famille bien ordonnée de la Gaspésie, composée d’entrepreneurs en nettoyage de génération en génération, et part s’installer à Montréal dans le but de devenir mathématicien. Il commence ses études, récite des formules mathématiques fractales[47] pour se désennuyer au travail : concierge à temps partiel. C’est dire qu’un simple déménagement n’entraine finalement qu’un faible changement sur la suite. Il rencontre Julia, alors qu’elle fait le « cambriolage entropique » de la banque qu’il est en train de nettoyer. Ils échangent un regard et se réfugient au sous-sol de Julia ; ces deux personnalités complémentaires ne se sépareront plus. Partout où elle passe, Julia sème le chaos : « [L]es composantes primaires de l’univers lâchaient. Les noeuds se dénouaient, les clous ne tenaient plus dans les murs, les vis sortaient de leurs trous[48]. » Après des mois de braquages répétitifs, à manger les mêmes nouilles frites aux crevettes et à tenter de mettre un peu d’ordre dans le désordre, Fatou emmène Julia se reposer à Haldimand, près de Gaspé, au chalet de son enfance. Impatiente, Julia demande si leur destination est encore loin. En bon fractaliste, Fatou répond : « Ça dépend de l’échelle à laquelle tu fais le calcul. Si tu mesures la distance qui nous sépare de Haldimand avec une précision infinie, tu vas obtenir une distance infinie[49]. » On aura compris que c’est à cette conclusion qu’arrive Mandelbrot à la fin de « Combien mesure donc la côte de Bretagne ? ».

Les personnages de la nouvelle de Bourbaki incarnent donc les propriétés des ensembles qui les caractérisent, tandis que les situations qu’ils vivent (alimentation, braquage, retour au point de départ) se reproduisent en boucle, dans un mouvement itératif caractéristique de la figure fractale. Cette dernière n’influence que minimalement la structure textuelle : c’est bien sur le plan diégétique et thématique qu’elle prend toute la place.

Chez Marc Gontard, la structure paraît plus affectée par la forme fractale : sept chapitres de dix sections numérotées composent Fractales et chaque section montre le point de vue d’un personnage dans ce « roman sans romanesque » qu’écrit un narrateur externe s’adressant au lecteur par l’entremise du « Je ». Les péripéties, les personnages et les lieux s’enchaînent selon une superposition de scènes répétitives plutôt que suivant une logique de cause à effet, que le lecteur tente de saisir au fur et à mesure qu’il avance dans le texte. Ce n’est qu’à la toute fin du récit que l’écrivain explique sa démarche :

Prenons des éléments aussi spatialement discontinus que la Roumanie (à la frontière ukrainienne), Paris (place de la République), Marrakech (Djemmaâ el fna), une plage sur la côte ouest de la France (disons la Bretagne). Mettons-les en relation avec un événement en forme d’épicentre : les attentats de Paris perpétrés par l’État Islamique, en 2016. Voilà l’histoire[50].

De plus, le récit est une mise en texte du principe mis en valeur par les formules fractales, soit que l’ordre et le chaos ne sont que les deux faces d’une même médaille. D’une part, on nous montre un trafic d’armes réglé – ordonné – jusqu’au moindre détail qui, on le suppose, aboutira dans les mains des terroristes qui sèmeront le chaos social ; d’autre part, « quelque chose va dérégler le système. Une femme[51]. » Le système en question peut renvoyer au livre, puisque l’écrivain a constamment cette vision d’une femme très belle, insaisissable, ou comme celui du trafic d’armes, puisque cette femme, dans la diégèse du roman en train de s’écrire, fera dévier l’organisation par la passion adultère qu’elle entretient avec un des membres. En somme, outre le personnage de l’auteur qui compose selon une structure et une thématique fractales le récit que nous sommes en train de lire, les éléments intradiégétiques n’ont aucune conscience de la théorie des fractales et se préoccupent bien peu des mathématiques en général.

Enfin, Baroque d’aube de Nicole Brossard[52], par son titre, semble moins explicitement lié aux fractales que les deux autres récits. Or, ce serait oublier que le style baroque – chaotique, désordonné, exubérant voire monstrueux – est une partie intégrante du travail formulé par Mandelbrot : « [C]e moule que j’allais un jour appeler fractal, et dont j’allais révéler qu’il peut aller jusqu’au plus riche baroque[53]. » Comme Gontard, Brossard met en scène un personnage qui écrit, une autrice nommée Cybil Noland, qui cherche encore la structure du récit qu’elle entreprend :

Pour le moment, il y avait une euphorie sans récit, une myriade d’images qui valaient mille récits, qui voilaient le récit. Chaque fois qu’un élément de récit était sur le point de prendre forme, elle laissait faire un instant la forme, puis si la forme se transformait en sujet, alors elle notait non pas le sujet mais comment la forme s’était transformée[54].

La structure et la langue aussi, les mots comme les silences, sont à la source d’un questionnement qui dénote une conscience fractale :

Cybil Noland accumulait les propositions en se demandant à quoi ressemblerait le monde s’il fallait le penser en de courtes phrases. Un temps d’harmonie en chacune. Ou en répétant souvent le verbe être. Si on pouvait, dans l’univers, répartir le silence en rubans d’égale portée. Si, au contraire, on devait imaginer la réalité en agençant de longues phrases toujours prêtes à changer de direction, à provoquer comme au bungee des sensations fortes et neuves dans la tête avide de plongeons spectaculaires[55].

Les éléments de la réalité de Noland, comme ceux du roman qu’elle écrit, finiront par se confondre, confondant du même coup la lecture. Partie à Rimouski où elle fera la rencontre d’une océanographe et d’une photographe pour un projet commun, elle voit sur un mur une photo accompagnée de cette inscription : « Coucher de soleil sur une île fractale. Entièrement réalisé par synthèse d’images sur ordinateur. Algorithme du relief par B. Mandelbrot. Réalisation par F. K. Musgrave[56]. » Le dédoublement n’en sera alors que plus obsédant : « La sensation du double présent recommence, cette fois-ci accompagnée par un ciel d’orage et l’image répétée de l’eau profonde et sans appel du Coucher de soleil[57]. » Dans la dernière partie de Baroque d’aube, « Un seul corps pour comparer », un « Je » que l’on présume appartenir à Brossard réfléchit au livre qui vient d’être traduit, à Montréal, dans une chambre d’hôtel ou au parc Lafontaine. « Je feuillette une revue sur la théorie du chaos. Quelques fractales en couleur. Je suis sidérée par la ressemblance entre les fractales et les images psychédéliques[58]. » Chaque strate du récit semble ainsi déterminée par les fractales : élément de décor, réflexions sur l’écriture, sensations de dédoublement vécues par le personnage de Cybil qui affectent aussi l’autrice représentée.

Conclusion

Objets fractals a eu pour effet de relancer les mathématiques sur une nouvelle piste, d’entrer dans un paradigme scientifique qui admet l’existence d’un ordre dans le désordre : Benoît Mandelbrot a su faire ressortir la dimension fractale du chaos. Voilà peut-être la principale leçon qu’en a tiré la littérature. Les trois récits analysés proposent des thématiques où s’entrechoquent l’ordre et le chaos ; certains représentent la fiction par des dispositifs de superposition d’images, renvoyant ainsi à la structure répétitive de la fractale tout en mettant au défi les codes littéraires classiques des enchaînements logiques. En outre, nous avons pu constater que toute mise en abyme n’est pas fractale et que tout récit relatif aux fractales ne présente pas assurément un dispositif de mise en abyme : il suffit que le texte n’aborde cette branche des mathématiques que sur les plans thématique, ornemental ou intertextuel, comme dans la nouvelle de Bourbaki. Finalement, parviendrai-je à clore cet article sans donner l’impression de répéter infiniment la même chose en variant seulement les échelles ? Donnons plutôt le dernier mot à Nicole Brossard : « Ramification sans fin ouverture[59]. »