L’Académie des sciences consacre une série de podcasts, en partenariat avec Canal Académies, à la géométrie. Au micro, Étienne Ghys, l’un de ses deux secrétaires perpétuels. Cortex Média a retranscrit ces échanges, à lire ci-dessous.
Comment naît une idée mathématique ? Dans une conférence restée célèbre, Henri Poincaré décrit le rôle du travail conscient, de l’intuition et de l’inconscient dans le processus de découverte. Étienne Ghys reprend cette réflexion et la confronte aux outils numériques contemporains, de Google Maps au PageRank, pour explorer la manière dont un mathématicien sélectionne quelques pistes pertinentes parmi une immensité de possibilités.
Une nuit d’insomnie et la naissance des fonctions fuchsiennes
Étienne Ghys : Il y a un peu plus de 100 ans, Henri Poincaré donnait à Paris une conférence restée célèbre sur l’invention mathématique. « Un soir, contrairement à mon habitude, je pris du café noir ; je ne pus m’endormir ; les idées surgissaient en foule, je les sentais comme se heurter, jusqu’à ce que deux d’entre elles s’accrochassent, pour ainsi dire, pour former une combinaison stable. Le lendemain, j’avais établi l’existence d’une classe de fonctions fuchsiennes », etc.
Il mettait en évidence le rôle conjoint de la logique consciente et de l’intuition inconsciente. « C’est par la logique que l’on prouve et par l’intuition que l’on découvre », dit-il. On compare souvent les mathématiques à un jeu d’échecs : une position, l’hypothèse, est donnée, les règles du jeu sont connues et imposées, et il s’agit de manœuvrer les pièces pour aboutir à une conclusion, échec et mat. C’est bien sûr une analogie très réductrice, mais elle n’est pas sans valeur. Bien souvent, d’ailleurs, notre système éducatif limite les compétences mathématiques qu’on enseigne à ce genre d’exercices : on donne une hypothèse, une conclusion, et c’est à vous de trouver le chemin.
La logique prouve, l’intuition découvre
Bien sûr, la difficulté, c’est qu’il y a en général une grande quantité de chemins possibles et que la plupart ne mènent à rien ou ne mènent pas là où nous voulons aller. Mais lisons plutôt ce qu’écrit Poincaré : « L’invention mathématique ne consiste pas à faire de nouvelles combinaisons avec des êtres mathématiques déjà connus. Cela, n’importe qui pourrait le faire, mais les combinaisons que l’on pourrait faire ainsi seraient en nombre fini et le plus grand nombre en serait absolument dépourvu d’intérêt. Inventer, cela consiste précisément à ne pas construire les combinaisons inutiles et à construire celles qui sont utiles et qui ne sont qu’une infime minorité. »
Inventer, c’est choisir : l’inconscient comme trieur
Inventer, c’est discerner, c’est choisir. L’inventeur fait penser à un acheteur à qui l’on présente un grand nombre d’échantillons, qu’il examine l’un après l’autre de façon à faire son choix. Ici, les échantillons seraient tellement nombreux qu’une vie entière ne suffirait pas pour les examiner. Ce n’est pas ainsi que les choses se passent. Les combinaisons stériles ne se présenteront même pas à l’esprit de l’inventeur. Dans le champ de sa conscience n’apparaîtront jamais que les combinaisons réellement utiles, et quelques autres qu’il rejettera, mais qui participent un peu des caractères de combinaisons utiles. Tout se passe comme si l’inventeur était un examinateur du second degré, qui n’aurait plus à interroger que les candidats déclarés admissibles après une première épreuve. Ainsi donc, il faut que notre inconscient fasse un tri.
Il existe une situation analogue en informatique lorsque j’ouvre Google Maps et que je cherche l’itinéraire entre le siège de l’Académie des sciences et celui de l’École normale supérieure de Lyon, par exemple. Le logiciel m’affiche immédiatement le meilleur chemin. Lui aussi, il fait des choix, il en fait beaucoup. Mais comment fait-il pour sélectionner en si peu de temps le meilleur chemin ?
Poincaré propose un critère de sélection par lequel l’inconscient choisit. Selon lui, le choix est esthétique. Voyons ce qu’il écrit : « Nous arrivons à la conclusion suivante : les combinaisons utiles, ce sont précisément les plus belles, je veux dire celles qui peuvent le mieux charmer cette sensibilité spéciale que tous les mathématiciens connaissent, mais que les profanes ignorent, au point qu’ils sont souvent tentés d’en sourire. » Même s’il m’en coûte de critiquer Poincaré, il me semble qu’il y a là une tricherie, puisque Poincaré ne donne absolument aucune définition de ces belles combinaisons que tous les mathématiciens connaissent. Oui, il me semble que Poincaré évacue le problème en utilisant un mot qu’il ne définit pas, un péché mortel pour un mathématicien.
Le monde mathématique vu comme un réseau
Comparons l’espace mathématique dans lequel le chercheur évolue et le réseau, la toile, le web, si vous préférez. La toile est un immense réseau possédant un grand nombre de nœuds, un pour chaque page internet dans le monde — on dit qu’il y en a environ 100 milliards aujourd’hui, du même ordre de grandeur que le nombre de neurones dans un cerveau humain —, et dans lequel une connexion lie deux nœuds si l’on passe de l’un à l’autre en cliquant une fois sur sa souris. En moyenne, une page est connectée à cinq ou six autres, beaucoup moins que les dizaines de milliers de neurones connectés à un seul neurone. On peut imaginer que le monde mathématique est un peu comme ça : une gigantesque collection de faits mathématiques interconnectés de manière complexe par des processus élémentaires, des syllogismes pour simplifier. Mais permettez-moi d’exprimer ici ce que presque tous les mathématiciens ressentent : l’espace mathématique est incommensurablement plus vaste que la toile, et même que notre cerveau. Alors, comment naviguer dans un tel espace ?
Eh bien, en surfant comme sur Internet et en utilisant Google Maps. En gros, les pages internet sont de quatre sortes. Il y a le Strongly Connected Core, qui est vraiment le cœur actif, où tout communique avec tout. Il y a la partie Out, formée des pages que tout le monde cite mais qui ne cite personne. Et il y a la partie In, formée des pages qui citent les autres mais que personne ne cite. Et puis, il y a des dendrites, des tubes, et même des îlots isolés du reste du cyberespace. Il me semble que si je devais tracer une carte du monde mathématique, je dessinerais exactement la même chose. Certains domaines intéressent tout le monde mais ne s’intéressent à personne, d’autres au contraire n’intéressent personne, et d’autres, enfin, sont au cœur des mathématiques. Et nous avons aussi nos dendrites, nos tubes, et même nos îles isolées du reste du monde. Comment se repérer dans une telle immensité ? Quelles heuristiques utiliser dans ce réseau gigantesque ?
Le PageRank contre les « belles combinaisons »
Quelles sont les pages qui sont pertinentes ? L’idée géniale de Google est d’utiliser une méthode que les mathématiciens connaissent bien, la distribution qu’ils appellent stationnaire ou harmonique, et que Google appelle le PageRank, qui attribue une note à chaque page internet, mesurant son intérêt. L’idée est simple, et d’ailleurs Google lui-même la qualifie de démocratique.
Qu’est-ce qu’il y a dans ce réseau gigantesque ? Je reprends la description par Poincaré du processus mental de l’invention mathématique en la reformulant dans notre nouvelle terminologie. Mon inconscient calcule en permanence, en tâche de fond, un PageRank pour tous les énoncés mathématiques qu’il visite de manière systématique, en effectuant en quelque sorte un scrutin électoral à la Google. Mon conscient tape quelques mots-clés en formulant un souhait mathématique, et voilà : mon inconscient me présente un petit nombre de pistes que je dois ensuite examiner en détail. Je propose donc de remplacer les « belles combinaisons que tous les mathématiciens connaissent », chères à Poincaré, par un PageRank bien plus prosaïque, qui reste quand même bien mystérieux et hypothétique, il faut bien le dire.
Le travail conscient, avant et après l’inspiration
Évidemment, il ne faut pas limiter l’invention mathématique à ce travail inconscient, Poincaré nous met en garde : il faut travailler avant et après. Il ne faudrait pas oublier cet aspect de l’invention, le travail, la chance, le génie.
Écoutons-le : « Il y a une autre remarque à faire au sujet des conditions de ce travail inconscient : c’est qu’il n’est possible, et en tout cas qu’il n’est fécond, que s’il est d’une part précédé et d’autre part suivi d’une période de travail conscient. Jamais ces inspirations subites ne se produisent, sinon après quelques jours d’efforts volontaires qui ont paru absolument infructueux et où l’on a cru ne rien faire de bon, où il semble qu’on a fait totalement fausse route. Ces efforts n’ont donc pas été aussi stériles qu’on le pense ; ils ont mis en branle la machine inconsciente, et sans eux elle n’aurait pas marché et n’aurait rien produit. » La nécessité de la seconde période de travail conscient, après l’inspiration, se comprend mieux encore : il faut mettre en œuvre les résultats de cette inspiration, en déduire les conséquences immédiates, les ordonner, rédiger les démonstrations, mais surtout, il faut les vérifier.
Pour reprendre notre analogie avec la recherche sur Google, on pourrait dire qu’on n’aboutira pas à grand-chose si on ne sélectionne pas, avec le plus grand soin, les mots-clés employés, et si on n’étudie pas sérieusement les pistes proposées par Google. La description précédente a deux inconvénients sérieux. D’abord, elle ne donne pas de rôle à l’analogie, qui est pourtant reconnue par tous comme l’un des moteurs de l’intuition. D’autre part, les ordinateurs de Google visitent en fait presque toutes les pages du monde, car finalement le cyberespace n’est pas si grand. Par contre, je vous l’ai dit, le monde mathématique est bien plus vaste et, pour l’essentiel, inexploré, si bien que mon inconscient n’a pas pu évaluer l’intérêt d’un endroit qu’il n’a pas encore visité.
L’explorateur-chercheur qui découvre une vallée inconnue lui rappelant une autre vallée qu’il a déjà explorée et qui l’avait mené à de vastes prairies aura évidemment envie d’explorer plus avant cette nouvelle vallée. Il ne se base pas pour cela sur un quelconque PageRank, puisqu’il s’agit de sites qui n’ont pas encore été visités.
Ma dernière élucubration consiste alors à postuler que le monde mathématique est quasi périodique, un peu comme ces célèbres pavages de Penrose qui n’ont pas de symétrie véritable, mais dans lesquels on retrouve sans cesse des structures analogues, quasi périodiquement.
Vous avez écouté l’ouverture de Lohengrin de Richard Wagner, qui était le compositeur favori d’Henri Poincaré.
