« C’est l’algorithme qui a décidé. » L’expression revient régulièrement lorsqu’il est question de réseaux sociaux, de Parcoursup, de recommandations ou encore d’intelligence artificielle. Mais un algorithme décide-t-il réellement ?
Étienne Ghys reçoit Claire Mathieu, informaticienne et mathématicienne, pour revenir sur l’origine de ce mot, sur ce qu’est concrètement un algorithme, sur la question de sa transparence et sur les limites fondamentales de l’informatique.
Étienne Ghys : Je suis face à Claire Mathieu. Claire, tu es informaticienne. Tu me disais à l’instant que tu es aussi un petit peu mathématicienne.
Claire Mathieu : Oui, informaticienne et un petit peu mathématicienne.
Étienne Ghys : Dans cette série de podcasts, l’idée est de prendre un mot scientifique qui, dans le langage courant, est souvent galvaudé ou mal compris. Alors, quel est le mot dont tu vas nous parler maintenant ?
Claire Mathieu : Algorithme.
Étienne Ghys : Tu pourrais nous expliquer l’origine de ce mot ?
Claire Mathieu : « Algorithme » est un mot qui vient à l’origine d’Al-Khwârizmî, un mathématicien arabe qui a notamment formalisé des règles pour résoudre des équations et expliqué des méthodes de calcul.
Les textes qu’il a écrits sont assez étonnants puisqu’il explique comment résoudre des équations sans utiliser nos variables modernes : il n’y a pas de x. C’est intéressant à lire.c
Étienne Ghys : Moyen Âge ?
Claire Mathieu : Oui, au Moyen Âge, à la grande époque des mathématiques arabes.
Étienne Ghys : Par quelle merveille ce mot s’est-il transformé pour prendre aujourd’hui un sens informatique ?
Claire Mathieu : Si on regarde les multiplications qu’on apprend à effectuer à l’école primaire, on nous donne une méthode permettant de multiplier deux nombres.
Même avec deux grands nombres, on peut trouver le résultat en décomposant un problème qui semble compliqué en une suite d’opérations simples : des multiplications de chiffres puis des additions. C’est cela, l’idée de l’algorithme.
Étienne Ghys : Donne-moi un exemple d’un usage du mot « algorithme » qui ne te plaît pas, qu’on entend à la radio ou à la télévision ou qu’on lit dans les journaux.
Claire Mathieu : Quand quelqu’un demande : « Pourquoi est-ce qu’on m’a donné ceci et pas cela ? » et qu’on lui répond : « C’est l’algorithme. »
Ou quand les gens disent : « Les algorithmes nous pourrissent la vie », ou encore : « On va demander à l’algorithme et il va nous dire. »
Étienne Ghys : Ou : « C’est l’algorithme de Facebook qui prend les décisions. »
Claire Mathieu : Par exemple. On dit que l’algorithme de Facebook prend une décision ou fait une recommandation, ou que Waze nous dit de passer par ici pour aller du point A au point B.
Étienne Ghys : Ça ne te plaît pas parce que c’est faux ? Parce que l’algorithme prend une mauvaise décision ? Ou parce que tu ne comprends pas l’algorithme qui est mis en place ?
Claire Mathieu : Ce qui me déplaît surtout, ce sont les connotations qui accompagnent le mot. Elles sont très péjoratives.
Si on faisait un micro-trottoir en demandant aux gens quels mots ils associent à « algorithme », je pense qu’on entendrait : inhumain, dépersonnalisé, opaque, mystérieux, sombre.
On donne une intention à la machine. On dit : « Ce n’est pas l’humain qui décide, c’est la machine. » Voilà l’image que les gens ont des algorithmes.
Étienne Ghys : Pourtant, l’algorithme a été écrit par un être humain.
Claire Mathieu : Il a été conçu par un être humain. C’est une méthode pour résoudre un problème, mais la méthode elle-même a été conçue par un humain.
Un algorithme n’a pas d’intention en lui-même. L’intention appartient aux humains qui l’ont conçu.
Étienne Ghys : Maintenant, tu vas me dire — parce que je sais que c’est très important pour toi — que les algorithmes qui nous gouvernent devraient être plus transparents.
Claire Mathieu : Les algorithmes qui nous gouvernent doivent être transparents pour permettre à chacun de vérifier qu’il a été traité de façon équitable.
Étienne Ghys : Sauf que ce n’est pas vraiment le cas pour Facebook, ni forcément pour l’algorithme qui gère mon compte en banque ou d’autres choses comme ça.
Claire Mathieu : Il y a quelques années, par exemple, l’algorithme de calcul de l’impôt sur le revenu a été publié.
Étienne Ghys : Le calcul de l’impôt n’a pas toujours été public ?
Claire Mathieu : Le calcul de l’impôt se fait automatiquement, donc à l’aide de code. Ce code implémente un algorithme qui met en place les différentes règles légales.
Mais lorsqu’il s’est constitué, au fil des années et des différents décrets, l’algorithme lui-même n’était pas public.
Étienne Ghys : Et maintenant, il l’est ?
Claire Mathieu : Maintenant, il l’est. Et le travail d’explicitation de l’algorithme a d’ailleurs conduit à un nettoyage du code et permis de découvrir certains cas où il y avait des ambiguïtés.
Par exemple, lorsque deux règles s’appliquent simultanément, le résultat peut parfois être différent selon l’ordre dans lequel on les applique. Expliciter l’algorithme a donc permis de constater qu’il fallait définir certaines priorités.
Étienne Ghys : Le citoyen qui apprend que l’algorithme qui calcule l’impôt est public et transparent peut-il matériellement le comprendre ? Ou est-ce écrit dans un langage tellement inaccessible qu’il n’a aucune chance d’y comprendre quoi que ce soit ?
Claire Mathieu : Un algorithme est fait pour être lu par des êtres humains. Le code, lui, est fait pour être exécuté par une machine.
Une bonne métaphore pour un algorithme, c’est une recette de cuisine. Une recette est faite pour être lue par un humain.
En théorie, un algorithme est donc accessible. En réalité, il y a toujours des présupposés. Dans un vieux livre de cuisine, on peut employer des termes comme « blanchir » sans expliquer ce que cela veut dire, parce qu’on suppose que le lecteur possède déjà certaines connaissances.
Étienne Ghys : Moi, je ne sais pas, par exemple.
Claire Mathieu : Pour les algorithmes, c’est pareil. La façon dont on les décrit dépend du public auquel on s’adresse.
Étienne Ghys : C’est un peu comme un livre de maths. Lorsqu’on écrit des mathématiques, l’auteur présuppose un certain nombre de connaissances de la part de son lecteur.
Claire Mathieu : Voilà. Par exemple, les détails de l’algorithme de Parcoursup ont été publiés et peuvent être trouvés sur le site du ministère.
Ils sont écrits pour être accessibles à un public qui a à peu près un niveau de début de licence en informatique, en mathématiques ou en sciences. C’est accessible à ce public avec un certain effort, mais difficilement lisible par tout le monde.
Étienne Ghys : Parlons précisément de Parcoursup puisque tu connais bien cet algorithme. Comment ressens-tu les réactions du public qui le décrit comme très inhumain, incompréhensible, laissant les jeunes dans le désespoir, alors que tu viens de me dire qu’il est transparent ?
Claire Mathieu : Il est transparent à condition d’être lu par le bon public. La spécificité de Parcoursup, c’est que cette application touche quasiment toute la société française. Une grande partie de la population n’a donc pas facilement accès à la compréhension de l’algorithme.
Étienne Ghys : Et là, la théorie du complot peut s’imposer immédiatement : on pense que c’est malveillant.
Claire Mathieu : Cela peut arriver. Il faut donc des intermédiaires de confiance.
Il n’est pas bon que l’algorithme ne soit pas public, parce que cela crée naturellement de la méfiance. Mais s’il est public tout en n’étant compréhensible que par une partie de la population, il faut que les personnes capables de le comprendre puissent s’en emparer et expliquer aux autres ce qu’il fait.
Étienne Ghys : Est-il possible d’expliquer l’algorithme de Parcoursup, non pas dans les détails, mais dans son principe général, de manière à ce que tout le monde puisse comprendre ?
Claire Mathieu : Oui. Le principe général est très simple.
Étienne Ghys : Est-ce que tu penses qu’il y a eu suffisamment d’explications à ce sujet ?
Claire Mathieu : Non, je pense qu’il n’y en a pas eu assez.
Qui prend les décisions dans Parcoursup ? Les formations regardent les candidatures et établissent un classement.
Ensuite, comment fait-on les propositions ? Chaque formation descend dans sa liste, dans l’ordre de son classement. Lorsqu’un étudiant reçoit plusieurs propositions, il choisit celle qu’il préfère et refuse les autres. Cela libère des places, ce qui permet de continuer à descendre dans les listes.
Et c’est tout. C’est ça, l’algorithme.
Étienne Ghys : Ce qui est intéressant, c’est qu’on aurait également pu concevoir l’algorithme opposé, où ce serait l’étudiant qui choisirait en premier. Mais ce n’est pas ce qui a été retenu.
Claire Mathieu : Tout à fait. Il aurait été possible de choisir l’algorithme opposé. Il existe donc différents choix et différentes variantes, par exemple les quotas concernant les étudiants boursiers. Mais le cœur de la décision, ce sont les classements établis par les formations.
Étienne Ghys : En revanche, les autres algorithmes dont on parle beaucoup, ceux d’Instagram ou de Facebook par exemple, sont beaucoup plus confidentiels.
Claire Mathieu : Oui. Ces algorithmes de recommandation sont confidentiels et, en plus, beaucoup utilisent des méthodes d’intelligence artificielle fondées sur l’apprentissage à partir de données. On définit énormément de paramètres et de coefficients à partir des données. Une fois ces coefficients déterminés, ils permettent d’effectuer le calcul.
Le problème, c’est que le résultat ne peut pas toujours être véritablement expliqué. On sait exécuter le calcul, mais on ne sait pas nécessairement expliquer pourquoi telle combinaison donne tel résultat.
Étienne Ghys : Donc, en ce sens, ce ne sont plus des algorithmes au sens précis du terme ?
Claire Mathieu : Ce sont quand même des algorithmes. Une fois les coefficients définis, on prend une entrée, on effectue une série d’opérations selon des règles précises et on obtient un résultat. Le problème n’est pas que ce ne soit pas un algorithme. Le problème est celui du sens : lorsqu’on regarde cet algorithme, on ne sait pas toujours ce qu’il signifie. Avec une recette de cuisine, un cuisinier expérimenté peut expliquer pourquoi chaque étape est nécessaire. Avec certains réseaux de neurones profonds, on ne sait pas encore toujours expliquer pourquoi telle opération conduit à tel résultat.
Étienne Ghys : Je vais te donner maintenant un défi très compliqué. Peux-tu nous expliquer en quelques phrases la théorie informatique des algorithmes ? Comment sait-on qu’un algorithme va se terminer ? Et pourquoi existe-t-il des algorithmes dont on ne peut pas savoir s’ils vont s’arrêter ou non ?
Claire Mathieu : À l’école maternelle, on peut déjà rencontrer des formes d’algorithmes. Par exemple, construire un collier avec une perle verte, une rouge, une verte, une rouge… On montre le début à l’enfant et il continue selon la règle. Mais une question n’est pas encore définie : quand faut-il s’arrêter ? Quand la ficelle est terminée ? Quand il n’y a plus de perles ?Dans un algorithme, il faut souvent une règle pour savoir quand on s’arrête. Et si on vous donne un algorithme qui dit : « Tant que telle chose est vraie, continuez », il n’est pas forcément évident de savoir s’il va finir par s’arrêter. Il existe même des algorithmes pour lesquels on ne peut pas décider cela. On peut alors poser la question algorithmique suivante : peut-on écrire un algorithme capable d’analyser n’importe quel autre algorithme et de déterminer s’il finira toujours par s’arrêter ?
Étienne Ghys : Et maintenant, on connaît la réponse ? Eh bien, non !
Claire Mathieu : Eh bien non. Il n’existe pas d’algorithme permettant de faire cela dans tous les cas.
Étienne Ghys : Quand les informaticiens ont découvert cela — à l’époque, ce n’étaient d’ailleurs pas encore vraiment des informaticiens mais plutôt des logiciens…
Claire Mathieu : Oui, c’était de la logique.
Étienne Ghys : Ils ont dû ressentir cette impossibilité presque comme une tragédie. Une catastrophe, non ?
Claire Mathieu : Une catastrophe, je ne sais pas comment ils l’ont ressentie à l’époque. À vrai dire, ce n’est pas tellement mon état d’esprit. J’aime bien le concret. Toutes les situations dans lesquelles on ne peut pas décider sortent un peu de mon univers et je ne me sens pas tellement concernée.
Étienne Ghys : Je crois que beaucoup de mathématiciens sont comme ça : ils connaissent ce théorème, mais ils se détournent avec effroi de cette vérité.
Claire Mathieu : Ou avec indifférence. On ne se sent pas concerné.
Étienne Ghys : Merci beaucoup Claire. Est-ce que tu es musicienne ?
Claire Mathieu : Je fais un peu de musique, oui.
Étienne Ghys : Qu’est-ce que tu joues comme musique et quelle musique « algorithmique » pourrais-tu me recommander ?
Claire Mathieu : Du Bach, évidemment. Les fugues de Bach.
Étienne Ghys : C’est drôle, parce que beaucoup des personnes que j’interroge me répondent à peu près la même chose. Bach est tellement mathématique, tellement algorithmique. Une fugue précise, alors ?
Claire Mathieu : En fait, ce que j’ai en tête tout de suite, ce n’est pas une fugue, mais une toccata pour orgue.
Étienne Ghys : Très bien, je vais faire ça.
Claire Mathieu : On joue au pédalier et sur les claviers, les voix se répondent, il y a des échos et des relations entre les différentes voix. Ces relations et ces enchaînements suivent des règles, un peu algorithmiques, mais tout n’est quand même pas déterminé.
Étienne Ghys : Très bien. Merci beaucoup Claire.
