L’Académie des sciences consacre une série de podcasts, en partenariat avec Canal Académies, à la vérité. Au micro, Étienne Ghys, l’un de ses deux secrétaires perpétuels. Cortex Média a retranscrit ces échanges, à lire ci-dessous.
Étienne Ghys reçoit pour la quatrième fois Patrick Flandrin, spécialiste du traitement du signal, et l’interroge cette fois sur l’intelligence artificielle sous le regard de la vérité. Son constat : les systèmes génératifs de type ChatGPT n’ont pas la vérité en ligne de mire, puisqu’ils cherchent la réponse la plus probable.
Coût d’une requête, sources croisées et intersubjectivité, falsifiabilité de Popper, faux contenus qui réalimentent l’apprentissage, Truth Social, IA en compagnonnage avec les artistes : une conversation sur ce que nous déléguons aux machines, et sur ce qu’il ne faut pas leur déléguer.
Étienne Ghys : Je suis face à Patrick Flandrin, bien connu de ce micro, puisque c’est la quatrième fois, je pense, que nous parlons ensemble.
Patrick Flandrin : Oui, la quatrième.
Étienne Ghys : Aujourd’hui, j’aimerais qu’on parle de l’intelligence artificielle sous le regard de la vérité. Nous avons tous plus ou moins joué avec ChatGPT et, parfois, nous sommes furieux parce qu’il nous raconte des choses fausses.
Patrick Flandrin : Tout à fait.
Étienne Ghys : Que penses-tu de cette influence de l’intelligence artificielle sur notre image du vrai ?
Patrick Flandrin : C’est assez compliqué, parce qu’il y a à la fois la question de ce que l’intelligence artificielle produit et celle de la façon dont nous, nous la recevons. Un des écueils, souvent, dans les systèmes génératifs de type ChatGPT, c’est que cela prend des allures de conversation conviviale, polie, à qui l’on a envie de faire confiance, en fait ; on a envie de croire ce qu’on nous dit.
Étienne Ghys : D’autant qu’il nous répond : « Oh, pardon, je me suis trompé, excusez-moi. »
Patrick Flandrin : Voilà. Et il nous propose une autre solution, différente, dont on se demande en quoi elle serait forcément meilleure que la première, et à laquelle on a un peu envie de faire confiance. Alors que ces systèmes-là sont au départ des modèles qui n’ont pas du tout la vérité en ligne de mire, puisque ce sont essentiellement des approches statistiques qui fournissent les réponses les plus probables par rapport à tout un ensemble de choses qu’ils ont apprises.
Et cela à partir de contextes où ils pensent ressortir une proposition qui fait le sens le plus probable.
Étienne Ghys : Que fait-on face à ce flux d’informations où l’on ne sait que dire ? ChatGPT nous dit quelque chose, on le croit sans le croire. Quel conseil donnerais-tu à nos auditeurs ?
Patrick Flandrin : J’aurais tendance à dire qu’il ne faut pas utiliser ces outils à tort et à travers, et en particulier qu’il ne faut pas les utiliser comme substitut pur et simple à d’autres outils de recherche, du type de ceux qu’on avait avant : les moteurs de recherche, qui nous renvoient à des sources théoriquement plus certifiées, où l’on trouve des informations qui ont été vérifiées, labellisées par des experts, ou en tout cas croisées par suffisamment de regards pour qu’on se dise que des erreurs flagrantes n’auraient pas échappé à ces experts. En plus, pour des raisons bassement économiques et, on va dire, presque écologiques, faire une requête pour demander un résultat factuel à une intelligence artificielle comme ChatGPT coûte infiniment plus cher que de le demander à un moteur de recherche traditionnel.
Donc, si l’on veut savoir en quelle année s’est passée la bataille de Marignan, il vaut mieux le demander à Google, qui peut-être le demandera à Wikipédia et y renverra, plutôt que de le demander à ChatGPT.
Étienne Ghys : Il peut se tromper ?
Patrick Flandrin : Il peut se tromper. Après, on arrive sur cette question : comment définit-on la vérité ?
Étienne Ghys : C’est le sujet de ce podcast.
Patrick Flandrin : Déjà, je crois qu’il y a une différence entre la notion de vérité et celle d’objectivité. Pour beaucoup de faits, il y a une appréciation qui peut être objective, qui justement s’assoit sur des faits, qui essaie d’approcher la vérité.
C’est exactement comme lorsqu’on dit qu’on croise des sources pour s’assurer de quelque chose. On lit une information qui semble très étonnante : avant de l’accepter ou de la propager, on va peut-être se dire : tiens, est-ce que quelqu’un d’autre dit la même chose ? On va chercher d’où cela vient, si d’autres sont d’accord. Et puis on arrive plutôt à un concept d’intersubjectivité, qui fait que, d’une certaine façon, une forme de consensus de plus en plus large s’établit, qui tend à dire que oui, il y a une vérité derrière ce qui était énoncé. En science, de toute façon, la démarche n’est souvent pas vraiment de prouver que quelque chose est juste, mais plutôt de prouver que quelque chose est faux, parce qu’il est plus facile de prouver la fausseté d’un résultat. Si l’on se rapporte à Popper, à la falsifiabilité, on dit qu’une théorie est scientifique si elle porte en elle la possibilité de proposer quelque chose qui l’atteste et qui montre que le résultat n’est pas vérifié. Et il est plus facile de vérifier cela que de s’assurer que quelque chose est vrai, parce qu’il peut y avoir, d’une certaine façon, une infinité d’explications compatibles avec les faits observés.
Étienne Ghys : Alors, est-ce que justement l’intelligence artificielle a des outils pour cela, pour démontrer une fausseté ?
Patrick Flandrin : Encore une fois, l’intelligence artificielle ne fait pas tout toute seule. Elle fait aussi ce qu’on lui demande, et elle le fait par rapport à ce qu’on lui apprend.
Là où il y a un très gros problème en ce moment, c’est que l’intelligence artificielle, pour l’essentiel, et en particulier dans sa partie générative, repose sur de l’apprentissage. Plus il y a d’apprentissage, plus, d’une certaine façon, on sait quelque chose dont on peut penser que ce sont des résultats avérés — même si l’on dit que la vérité sort de la bouche des enfants, peut-être avant l’apprentissage. Mais en même temps, l’intelligence artificielle a ce problème qu’elle crée en elle-même de nouvelles données. Et en ce moment, un grand travers, c’est qu’il y a beaucoup d’endroits — Wikipédia, par exemple, a une approche intéressante là-dessus en ce moment — où la plateforme est inondée de faux contenus. Et ce sont des faux contenus qui sont simplement faux parce qu’ils sont générés par des intelligences artificielles. Si l’on prend le processus en disant : j’ai un corpus de connaissances, donc pré-ChatGPT, sur lequel je construis des réponses probables à des questions qui me sont posées, cela va produire une génération de nouvelles données qui, ensuite, quand elles vont être reprises comme entrée des systèmes suivants, vont d’une certaine façon, si l’on ne fait rien, reproduire de plus en plus la même chose. Donc, si l’on met des choses fausses là-dedans, il y aura de plus en plus de choses fausses.
Étienne Ghys : Tu me dis que Wikipédia reçoit un grand nombre, disons, de propositions de nouveaux articles ou de nouvelles informations totalement construites par l’intelligence artificielle, et donc qui ne sont vérifiées d’aucune manière.
Patrick Flandrin : Voilà. Récemment, ils ont pris une position et l’ont explicitée, en disant qu’ils s’attelaient à ce problème : on ne peut pas ignorer l’intelligence artificielle, on ne va pas remplacer purement et simplement, mais en revanche on va faire avec l’intelligence artificielle, pour garder, comme on dit toujours, l’humain au centre du système, et pour dédier à l’intelligence artificielle des tâches automatiques qui, elles, sont vérifiables. Mais il y a ce problème de fond : des faux contenus peuvent toujours exister.
Et pour cela, il y a toujours un besoin de croiser des sources et de recourir à des humains. C’est donc un mélange entre les deux, de l’intelligence artificielle et de la vérification humaine, qui se met en place. Les grands journaux aussi, je crois que les grands quotidiens font à peu près la même chose : ils ont recours à des outils d’intelligence artificielle parce qu’il y a des quantités de données de plus en plus gigantesques qu’il faut absorber, et en même temps on ne peut pas leur faire confiance aveuglément. On ne peut pas les ignorer et, en même temps, on ne peut pas leur faire confiance. Il faut donc que l’on trouve des moyens de les contrôler et, en tout cas, de vérifier, de croiser les sources.
Étienne Ghys : Est-ce que tu penses que l’une des questions en jeu est peut-être la perception psychologique que nous avons de ce qu’est la vérité ? Disons que, quand nous étions petits, toi et moi, il y avait un concept de vérité en quelque sorte totalement abstrait, presque philosophique, platonicien, je ne sais quoi, et l’on essayait de s’y astreindre. Et là, on a l’impression que tout change. Le vrai n’est plus vraiment quelque chose de relié à cet absolu.
Patrick Flandrin : Non, parce qu’on voyait aussi — si l’on joue Platon — la manifestation du vrai par le beau. Le beau est la splendeur du vrai, disait Platon.
Nous n’étions pas dans un monde où l’on construisait autant de vérités possibles que celui dans lequel nous sommes maintenant, avec les vérités alternatives, les faits, etc. C’est quand même assez, presque amusant, si ce n’était pas un peu triste, que le réseau que Donald Trump a lancé après son bannissement de Twitter s’appelle Truth Social. C’est un réseau qui revendique la vérité, alors que l’on sait qu’il est porteur de contre-vérités au sens factuel. Et c’est vrai que c’est un brouillage avec lequel nous avons beaucoup de mal à nous débrouiller.
Étienne Ghys : Tu parlais essentiellement de la vérité chez les scientifiques, chez les intellectuels. Mais est-ce que la vérité chez l’homme ou la femme de la rue est en jeu ?
Patrick Flandrin : Il me semble que cela revient un peu à ce que je disais au début : plus on délègue à des machines ou à des intelligences artificielles le pouvoir de choisir, de décider ou autre, plus, d’une certaine façon, on leur laisse implicitement décider ce qu’est la vérité de ce qui nous intéresse. Et le danger, c’est qu’il y a une facilité à se rapporter à ces outils, parce qu’il est beaucoup plus facile de demander : dis-moi quelle est la meilleure solution pour faire quelque chose, puis de s’en remettre à cela sans chercher par soi-même à savoir s’il y en a une autre.
Et comme, en fait, ces machines ont en ce moment le don de faire des choses d’une manière assez proche du langage de l’interaction humaine, on a tendance un petit peu facilement à les croire, à leur demander ce qu’il en est et à se dire qu’il est plus facile d’engager une conversation avec une machine, peut-être, que de simplement poser une question. En même temps, je suis un peu étonné, parce que je vois que se multiplient maintenant, par exemple dans les musées, des dispositifs un petit peu bizarres : à la sortie d’une exposition, on voit qu’on peut avoir accès à une intelligence artificielle avec laquelle on va virtuellement discuter avec les artistes exposés. Des artistes de siècles passés.
Étienne Ghys : Bon, donne-moi un brin d’optimisme. Sommes-nous foutus, ou qu’est-ce qui va se passer ?
Patrick Flandrin : Non, on n’est jamais foutus. Non, pas du tout. Au contraire : là où nous serions foutus, ce serait de dire que nous sommes dépassés par les outils, qu’il n’y a rien à faire, et de baisser les bras et d’abandonner.
Alors que dire que les outils doivent être compris — et il y a là une part liée à l’éducation, c’est-à-dire faire avec et non pas faire contre — c’est sûrement quelque chose de possible. J’étais, je suis toujours un petit peu sceptique sur ce qu’il en est, par exemple, de la créativité des machines. Mais en même temps, il y a des choses qui se font justement en compagnonnage avec les artistes. J’entendais hier Blanca Li, qui fait des spectacles avec une intelligence artificielle et de la réalité virtuelle, mais c’est une coopération. Ce qu’elle dit, c’est que c’est son œuvre. L’IA est utilisée comme un outil qui permet de donner corps et de donner vie à l’œuvre, mais ce n’est pas un substitut et ce n’est pas quelque chose que l’on délègue. On ne délègue pas à l’IA avec l’illusion que, parce qu’on aurait juste mis un prompt en demandant quelque chose, il en sortira quelque chose de formidable.
Étienne Ghys : Patrick, tu parlais tout à l’heure de parler avec des artistes du passé, des siècles passés. Je te propose un petit jeu : parle à ton scientifique préféré. Parle à Fourier. Je suis Fourier : qu’est-ce que tu lui demandes ?
Patrick Flandrin : Je lui demanderais : « Mais c’est incroyable, avec ces travaux extraordinaires, pourquoi ne vous êtes-vous pas intéressé à l’acoustique ? » Parce que si l’on regarde le traité de Fourier… Fourier est maintenant universellement utilisé dans tous les domaines, justement, par exemple du traitement de la voix, de la musique, de l’acoustique, sur la base des outils qu’il a développés pour autre chose, pour la théorie de la chaleur. Et il ne s’y est visiblement jamais intéressé.
Je serais curieux de savoir si c’est juste parce que c’était quelque chose qui était en dehors, parce qu’il était passé à autre chose, ou bien parce qu’il n’en avait pas eu l’idée, ce qui m’étonnerait quand même, ou bien parce que cela ne l’intéressait pas plus que cela.
Étienne Ghys : Comme tu le sais, à la fin de ces interviews, je pose toujours la même question : quelle musique pourrais-tu me proposer, relative à la vérité ?
Patrick Flandrin : C’est une très bonne question, à laquelle je ne m’étais pas préparé. J’ai un peu de mal.
Je vais faire une facilité, puisque je me souviens que, quand j’étais enfant ou jeune, il y avait une chanson de Guy Béart, Le premier qui dit la vérité, qui expliquait qu’il devait pour cela être exécuté. Encore une fois, ce n’est pas très optimiste.
Étienne Ghys : Non. Tu es en train de me rappeler des souvenirs d’enfance, à moi aussi. Tout à fait. Nous avons à peu près le même âge. On entendait cela à la télévision, à l’ORTF.
