
Une géométrie, étrange et abstraite, fut introduite par deux mathématiciens1 au début du XXe siècle. Elle fut utilisée au siècle suivant par l’artiste Maurits C. Escher pour réaliser un de ses rêves les plus audacieux: représenter l’infini dans une gravure.
Une idée qui vient de loin
Le plancher de ma salle de bain est couvert de petites tuiles hexagonales. Blanches, simples, identiques. Des milliers. L’idée de couvrir une grande surface à l’aide d’une figure répétée, que ce soit un toit par des tuiles cuites ou un tissu par son tissage, est aussi vieille que les premières idées mathématiques utilisées en commerce ou pour les mesures agraires. On connaît des tuiles de terre cuite de l’an ~4 000 et des tissus de l’an ~5 000. Plusieurs civilisations ont poussé cette idée bien au-delà de mes petits hexagones blancs, souvent avec une imagination époustouflante.
Lors de la pose des tuiles, mon carreleur n’a eu qu’à pousser dans une direction donnée les petits hexagones, sans même les faire pivoter sur eux-mêmes. Mais pour d’autres mosaïques, ou pavages comme les mathématiciens les appellent aujourd’hui, il faut translater les tuiles et les faire tourner.

Un pavage euclidien
Le pavage ci-dessous, construit selon les règles de la géométrie euclidienne, est un peu particulier, car j’y utilise deux tuiles plutôt qu’une: les colorées et les blanches. On peut imaginer que les blanches sont l’envers de tuiles de céramique dont seule une face a été peinte. Remarquez que toutes les tuiles colorées peuvent être obtenues d’une seule par translation ou rotation. Ceci est aussi vrai pour les blanches. Et si la réflexion qui échange le dessus avec le dessous des tuiles est permise, alors une seule tuile colorée suffit. Les translations, les rotations et les réflexions sont appelées isométries du plan, car elles préservent les distances.
Une étrange géométrie
Le pavage précédent est construit dans le plan à l’aide des règles de la géométrie euclidienne. Mais d’autres géométries permettent d’autres pavages. D’autres géométries? Oui, il y en a d’autres et j’aimerais vous en présenter une fort étrange. On lui donne maintenant le nom de géométrie hyperbolique.
Les droites et le plan euclidiens sont infinis dans toutes les directions. Notre imagination doit toujours les compléter puisque les figures que nous traçons sont limitées par notre feuille de papier. En géométrie hyperbolique, il est possible de représenter l’univers entier à l’intérieur d’un cercle. De ce point de vue, les choses sont plus faciles. J’utiliserai la lettre U pour noter l’intérieur du cercle et le mot horizon pour le cercle lui-même.

Des droites hyperboliques
Mais un effort d’imagination est quand même requis puisque les « droites » de cette nouvelle géométrie n’y ont pas l’apparence de droites euclidiennes. Une droite hyperbolique est soit un diamètre de U, soit un arc de cercle qui intercepte l’horizon à angle droit. Sur la figure précédente quelques droites ont été tracées. Noter que chaque arc de cercle se termine à l’horizon en formant un angle droit avec celui-ci. Déroutant, n’est-ce pas? Heureusement les angles sont mesurés comme en géométrie euclidienne; par exemple, si les quatres angles à l’intersection de deux droites sont égaux, ce sont des angles de \(\pi/2\) radian.
Au point A, plusieurs droites se rencontrent et aucune d’entre elles ne croise la droite d. Ceci est remarquable! Pourquoi? Il faut rappeler le cinquième et dernier axiome de la géométrie euclidienne pour le comprendre:
5e axiome de géométrie euclidienne
Étant donné une droite d et un point A hors de cette droite, il existe une unique droite parallèle à d et passant par A.
Même si la géométrie hyperbolique respecte les quatre premiers axiomes de la géométrie euclidienne, elle viole le cinquième: c’est donc une géométrie non euclidienne.
Un triangle hyperbolique
Mais comment peut-on définir un triangle dans cette géométrie hyperbolique? Il suffit d’utiliser la définition usuelle: un triangle est une figure formée de trois points et des trois segments de droites qui les relient. En voici un de sommets ABB’. Comme il se doit, les trois côtés de ce triangle sont des segments de droites hyperboliques. Les deux côtés adjacents au sommet situé au centre de U sont des diamètres et donc des droites. Le troisième côté est un arc d’un cercle interceptant l’horizon à angle droit et est donc également un segment de droite.

Un triangle hyperbolique
Trois éléments décoratifs ont été ajoutés près des sommets. Ils nous aideront à distinguer les angles par la suite. Les deux sommets marqués d’un décor triangulaire sont d’angle \(\pi/3\) radian, alors que celui marqué par un point est de \(\pi/4\). (Il est plus facile de déterminer la mesure de ces angles lorsqu’il y a plusieurs tuiles, car on peut y lire les droites qui s’intersectent à chacun des sommets et compter le nombre d’angles égaux que ces droites définissent. Allez voir un peu plus loin!) La somme des angles intérieurs de ce triangle est donc:
\[ \frac{\pi}{3}+\frac{\pi}{3}+\frac{\pi}{4}=\frac{11\pi}{12}\]
En géométrie euclidienne, la somme des angles intérieurs d’un triangle est toujours égale à \(\pi\); en géométrie hyperbolique, elle est toujours strictement inférieure à ce nombre. Clairement, l’abandon du cinquième axiome d’Euclide a ses conséquences!

Début du pavage hyperbolique
Il est maintenant possible de commencer à paver l’univers hyperbolique. La règle consiste à n’utiliser que des triangles ayant les mêmes angles (\(\pi/3, \pi/3\) et \(\pi/4).\) En tournant le triangle d’un angle de (\(\pi/2, \pi\) et \(3\pi/2,\) nous obtenons la figure ci-contre. Les côtés de chacune des nouvelles tuiles demeurent des segments de droites, soit de diamètres, soit de cercles intersectant l’horizon à angle droit. Et, comme pour le pavage euclidien, je pourrais intercaler des tuiles blanches entre les colorées; la forme de ces tuiles blanches est identique à celle des colorées
comme nous le verrons à la prochaine étape.
Isométries hyperboliques
Mais comment poursuivre le pavage ? Dans le cas du pavage euclidien présenté tout au début, il suffisait de tourner la tuile autour d’un de ses sommets par un angle approprié ou de la faire glisser parallèlement à un de ses côtés. Mais ici, si nous tournons, à l’aide d’une rotation euclidienne, la tuile autour d’un de ses sommets marqués d’un décor triangulaire, ses côtés ne seront plus des segments de droite; par exemple le diamètre sera tourné et n’interceptera plus l’horizon à angle droit.
Curieusement, c’est la géométrie euclidienne qui nous souffle la réponse à ce problème purement hyperbolique. Outre les isométries euclidiennes que sont les translations, rotations et réflexions, une autre construction euclidienne transforme les cercles en cercles; il s’agit de l’inversion, qui envoie l’extérieur d’un cercle fixé en son intérieur et vice versa. (Voir encadré.) La figure ci-contre montre ce que devient une tuile, sous cette transformation, lorsque la réflexion est par rapport à un de ses côtés. Le côté appartenant au cercle d’inversion ne bouge pas et l’image du reste de la tuile, délimitée par un trait gras, est de l’autre côté de ce cercle. L’image des trois autres tuiles est aussi tracée, mais par un trait plus fin. Il demeure une difficulté majeure: comment choisir les cercles définissant l’inversion pour que l’univers U soit envoyé en lui-même?
L’inversion
L’inversion n’apparaît pas dans les Éléments d’Euclide. Elle fut introduite par Ludwig Magnus en 1831, plus de deux millénaires après l’écriture des Éléments. Soit un cercle de centre O et de rayon r et soit P un point distinct de O. L’inversion de P par rapport à ce cercle est le point P’ sur la demi-droite OP dont la distance de O est telle que \(OP \cdot OP’ = r^2\). Ainsi les points à l’intérieur du cercle ont une image à l’extérieur, et vice versa. Un point sur le cercle même est son propre inverse.
Voici une construction permettant de trouver P’ lorsque P est à l’extérieur du cercle d’inversion. On trace d’abord un cercle de centre P et de rayon OP qui est forcément plus grand que r. Ce cercle intersecte le cercle initial en deux points. On trace enfin un cercle de rayon r centré en un de ceux-ci. L’image P’ de P est l’intersection du dernier cercle avec le segment OP qui est distincte de O. (On peut alors montrer que \(OP \cdot OP’ = r^2\) sans trop de difficultés. Voir les exercices.) Les deux propriétés (spectaculaires!) de l’inversion sont qu’elle transforme les cercles en d’autres cercles et qu’elle préserve les angles.
La réponse est presque miraculeuse (voir les exercices): si le cercle choisi pour faire l’inversion est un des cercles intersectant l’horizon à angle droit, alors l’inversion sera une bijection de U qui échange un côté de la droite avec l’autre! Et rappelez-vous que ces cercles sont précisément les droites hyperboliques. Ainsi l’inversion euclidienne est une opération de réflexion pour la géométrie hyperbolique.

Début du pavage hyperbolique après une inversion
La « réflexion » des quatre tuiles colorées nous permet d’obtenir quatre nouvelles tuiles. Dans le pavage final, celles-ci seront peintes en blanc. Rappelons qu’en géométrie euclidienne, la composition de deux réflexions est une rotation, si les deux droites de réflexion se croisent. Il est donc tentant d’appeler une rotation hyperbolique la composition de deux inversions par rapport à des cercles qui se croisent. En changeant le cercle d’inversion à chaque étape, nous pouvons transformer une tuile colorée en une blanche, puis en une colorée, et ainsi de suite, pour obtenir le pavage de l’univers entier.

Le pavage hyperbolique complète
Les géométries non euclidiennes sont parfois bien utiles
Quel est le plus court chemin entre deux points à la surface de la terre? Si les deux points sont sur ma table de travail, la courbure de la planète peut certes être ignorée. Mais les pilotes d’avion faisant la navette Montréal-Yaoundé doivent en tenir compte. Alors quel est ce chemin?
Pour le trouver, il suffit de placer une ficelle passant par Montréal et Yaoundé et de la tendre jusqu’à ce qu’elle épouse parfaitement la surface de la sphère; cette ficelle fait maintenant partie du plus grand cercle passant par ces deux villes. L’équateur est un des grands cercles que l’on peut tracer sur la sphère et tous les autres peuvent être obtenus de celui-ci en faisant pivoter la sphère.
Dans la géométrie sphérique, les grands cercles jouent le rôle des droites. Ce n’est pas une géométrie euclidienne. En effet, tous les grands cercles se croisent et il n’y a donc aucune paire de « droites » parallèles dans cette géométrie! Curieuse de géométrie… mais les pilotes la trouvent bien utile.
Comme en géométries euclidienne et hyperbolique, il existe des pavages en géométrie sphérique. En voici un ci-bas. Chacun des côtés, des tuiles colorées et des tuiles transparentes, est un arc de grand cercle.
Les angles aux sommets marqués d’un point sont des angles de \(\pi/2\) radian. Pour s’en convaincre, il suffit de remarquer que deux « droites » s’y rencontrent et qu’elles définissent quatre angles égaux. Les angles marqués par de petits triangles sont de \(\pi/3\) radian. La somme des angles intérieurs de ce triangle est donc \(\pi/2 + \pi/3 + \pi/3 = 7\pi/6.\) En fait, la somme des angles intérieurs est toujours supérieure à \(\pi\) pour les triangles sphériques, une autre indication que cette géométrie est non euclidienne.
Cercle limite III
« Il peut cependant arriver que quelqu’un, sans avoir assimilé beaucoup de connaissances exactes et n’ayant pour bagage qu’une parcelle de l’érudition acquise par les générations antérieures, il se peut, disons-nous, qu’un tel être [. . . ] sente un beau jour mûrir en lui le désir très concret et conscient d’approcher l’infini aussi purement et aussi près que possible. »
C’est ainsi que l’artiste graveur néerlandais M. C. Escher exprime un de ses buts artistiques les plus ambitieux. Après des tentatives qui ne le satisfont pas, il rencontre le géomètre canadien H. S. M. Coxeter et lui fait part de son but. Il imagine une gravure où les figures se multiplieraient en s’approchant d’un cercle limite sans jamais l’atteindre, mais ne sait pas comment la réaliser. Coxeter l’informe qu’une telle géométrie existe et qu’elle est décrite dans un de ses ouvrages. Mais Escher n’est pas mathématicien; il devinera les règles de la géométrie hyperbolique en étudiant une figure du livre de Coxeter, figure fort semblable au pavage que nous venons de réaliser. Escher a-t-il vraiment compris cette étrange géométrie? Je vous invite à juger par vous-mêmes!
J’ai choisi les tuiles de l’exemple de pavage hyperbolique pour qu’elles épousent le pavage sous-jacent à l’oeuvre Cercle Limite III d’Escher. Cette gravure est celle qu’Escher préférait parmi celles qu’il a faites dans cette géométrie. Pour constater la maîtrise de l’artiste, j’ai joint deux tuiles du pavage, une colorée et une blanche contigüe, et je n’ai conservé que les côtés du quadrilatère (hyperbolique) résultant. En superposant ce nouveau pavage à Cercle Limite III, on constate que le sommet d’angle \(\pi/2\) tombe toujours en un point de rencontre de quatre nageoires,ceux d’angle \(\pi/3\) en un de trois têtes et trois queues et, enfin, celui d’angle \(2\pi/3\) en un de trois nageoires. (Le nouveau pavage est effacé sur la partie gauche de la gravure.)
Je vous laisse sur les mots d’Escher: « Ici, il n’y a plus que des séries ‹ en circulation transitoire ›: tous les poissons de la même série sont de la même couleur et se suivent en nageant, les têtes touchant les queues, suivant une trajectoire de bord à bord. Plus ils approchent du centre, plus ils grandissent. [. . . ] Aucun des éléments de toutes ces séries ascendantes, telles des fusées s’élevant perpendiculairement à la limite pour s’y perdre de nouveau, n’atteindra jamais celle-ci. Mais au dehors, il y a le ‹ néant absolu › ».2

Cercle limite III de M. C. Escher
© 2009, The M. C. Escher Company – Holland, All Rights Reserved. www.mcescher.com
Une quête de deux mille ans
Les Éléments d’Euclide, écrits autour de l’an ~300, est un des grands accomplissements de l’esprit humain. Comme dans les traités de mathématiques modernes, l’auteur construit son oeuvre à partir d’axiomes (ou postulats) énoncés dès le début. Des cinq axiomes euclidiens, les quatre premiers tombent sous les sens. Par exemple le premier stipule: un segment peut être tracé joignant deux points quelconques. Le cinquième est cependant plus laborieux: si deux droites coupent une troisième formant d’un côté de cette troisième deux angles dont la somme est inférieure à deux angles droits, alors ces deux droites se rencontrent de ce même côté de la troisième droite. On sait que ce cinquième axiome est équivalent au suivant: par un point extérieur à une droite, il passe une et une seule parallèle à cette droite.
Très tôt ce cinquième axiome, en raison de sa complexité apparente, apparaît comme un énoncé qui devrait découler des quatre premiers. Par exemple, Proclos (approx. 412–485), un commentateur important des Éléments, affirme: « il est clair que nous devons chercher une preuve de ce théorème qui n’a pas le caractère distinctif des postulats ». Nombreux sont les (grands) mathématiciens qui partageront cette conviction et qui, suivant l’harangue de Proclos, chercheront la preuve insaisissable. Cette quête d’une preuve s’est terminée de façon abrupte et inattendue : autour de 1830, Nikolaï Lobatchevsky (1792–1856) et János Bolyai (1802–1860) construisent indépendamment une géométrie qui satisfait aux quatre premiers axiomes euclidiens, mais qui viole le cinquième. Ce faisant, ils démontrent donc que le cinquième axiome est indépendant des quatre premiers. (La correspondance de Carl Friedrich Gauss (1777–1855) indique qu’il aurait construit une telle géo- métrie avant Lobatchevsky et Bolyai.) Il est vertigineux de constater qu’Euclide a réalisé la nécessité de ce cinquième axiome et qu’il aura fallu deux millénaires pour que nous en démontrions le caractère indispensable.
La représentation de la géométrie hyperbolique à l’intérieur d’un cercle telle que présentée ici porte le nom de disque de Poincaré et est postérieure aux travaux de Lobatchevsky et Bolyai. Elle est le fruit de travaux de plusieurs grands mathématiciens dont Bernhard Riemann (1826–1866), Eugenio Beltrami (1835-1900), Felix Christian Klein (1849–1925), à qui on doit le nom de géométrie hyperbolique, et de Henri Poincaré (1854–1912).
János Bolyai – 1802-1860
Né en Hongrie, János Bolyai reçut son instruction de son père qui enseignait les mathématiques, la physique et la chimie. Dès l’âge de 13 ans, il maîtrisait l’analyse et la mécanique analytique. Il devint un violoniste accompli et étudia au Collège Royal d’Ingénieurs. Il s’enrôla ensuite dans l’armée et y resta 11 ans. Linguiste accompli, il parlait neuf langues étrangères dont le chinois et le tibétain.
Entre 1820 et 1823, il prépara un traité sur un système complet de géométrie non euclidienne qu’il publia, en 1832, comme appendice à un essai de son père. Toutefois, Bolyai découvrit que Gauss avait anticipé une grande partie de ses découvertes sans les avoir publiées et, en 1848, il découvrit que Lobatchevsky avait publié un travail similaire en 1829. Outre son oeuvre en géométrie, il a développé le concept rigoureux de nombre complexe comme couple de réels.
Nikolaï Ivanovitch Lobatchevsky
1792-1856
Le mathématicien russe Nikolaï Ivanovitch Lobatchevsky s’inscrit à l’université de Kazan pour y étudier la médecine qu’il délaisse rapidement pour se consacrer aux sciences. En 1822, il devint professeur à l’université de Kazan et à partir de 1826, recteur de l’université. Pendant les dix-neuf années de son rectorat, l’université se développe, la bibliothèque regarnit ses tablettes, un observatoire astronomique, ainsi que des laboratoires de physique, de chimie et d’anatomie sont construits. Malgré ses tâches administratives, il continue d’enseigner les mathématiques et la physique. En 1837, il publie, en France, l’article Géométrie imaginaire dans lequel il présente une géométrie non euclidienne, appelée géométrie hyperbolique.
Pour en s\(\alpha\)voir plus !
Ernst, Bruno. Le miroir magique de M. C. Escher, Taschen (1994).
L’auteur tient à remercier ses collègues Christiane Rousseau et Bill Casselman pour toutes leurs suggestions.
- Il s’agit des mathématiciens Nikolaï Lobatchevsky et János Bolyai. Voir leurs notices biographiques écrites par André Ross, page 9 de ce numéro. ↩
- Les deux citations d’Escher proviennent d’un article qu’il a écrit en 1959. Leur traduction française est tirée du livre de Bruno Ernst, Le miroir magique de M. C. Escher, Taschen (1994). ↩