L’Académie des sciences consacre une série de podcasts, en partenariat avec Canal Académies, à l’erreur dans les sciences. Au micro, Étienne Ghys, l’un de ses deux secrétaires perpétuels. Cortex Média a retranscrit ces émissions, à lire ci-dessous.
Faire une erreur n’est pas, en soi, condamnable en science. Refuser de la reconnaître, falsifier des résultats ou laisser la conviction prendre le pas sur l’esprit critique peut en revanche faire basculer l’erreur vers la faute ou la fraude.
Dans cette conférence rediffusée en hommage à Jean-François Bach, ancien secrétaire perpétuel de l’Académie des sciences, celui-ci revient sur plusieurs cas emblématiques : la sonde Mars Climate Orbiter, Lyssenko, la fraude de William Summerlin, l’affaire Schön ou encore la mémoire de l’eau.
Le 30 avril prochain, l’Académie des sciences organise un colloque intitulé « L’erreur dans les sciences ». Un certain nombre de scientifiques de disciplines très différentes viendront présenter des erreurs qui ont joué un rôle dans l’histoire des sciences — parfois positif, parfois négatif.
Jean-François Bach devait intervenir. Il est malheureusement décédé en décembre 2023. Il était membre de l’Académie des sciences depuis 1985 et il en avait été l’un des deux secrétaires perpétuels pendant neuf ans, de 2006 à 2015.
Pour sa présentation, il avait proposé ce résumé : « L’erreur en science n’est pas condamnable en soi. Ce qui l’est, c’est de ne pas vouloir en démordre. En s’appuyant sur quelques exemples, je décrirai différents scénarios de glissement de l’erreur à la fraude. J’évoquerai les différents niveaux de gravité des fraudes en tentant de les relier au contexte psychologique qui les accompagne. »
Il se trouve que Jean-François Bach avait fait un exposé sous la coupole de l’Institut de France, il y a dix ans, sur un thème proche. Il m’a semblé utile de rediffuser cette conférence en hommage. Écoutons-le. — Étienne Ghys
Quand l’erreur devient une faute
Des esprits chagrins pourraient se demander pourquoi j’ai souhaité traiter aujourd’hui devant vous de l’erreur scientifique. Me sentirais-je particulièrement concerné ?
En fait, le problème n’est pas de faire des erreurs. L’important est de savoir le réaliser et d’y remédier, en apportant toutes les rétractations et orientations nécessaires. Mieux vaut se tromper quelquefois que de renoncer à une démarche scientifique originale au risque de faire des erreurs. Comme le disait Albert Einstein : « Quiconque n’a jamais fait d’erreur n’a pas tenté d’innover. »
Apparaît tout de suite la question centrale : à partir de quand une erreur est-elle critiquable, indépendamment du problème de la fraude ? « L’erreur devient une faute quand on ne sait pas en démordre », disait Ernst Jünger.
L’erreur scientifique est présente dans l’esprit des chercheurs au quotidien. Cela les amène à reproduire les expériences de multiples fois, à chercher toutes les confirmations possibles de leurs observations, à critiquer leurs travaux autant, sinon plus, que ceux de leurs collègues. L’esprit critique doit confiner à l’esprit de critique.
Les pouces et les mètres
La complication vient du fait que l’erreur peut venir de nombreux horizons, et qu’elle est souvent sournoise. Il peut s’agir d’une erreur matérielle, d’une erreur de manipulation. De variations individuelles dans l’expérience. De l’introduction d’un facteur extérieur malencontreux : une contamination dans des expériences in vitro, une variation de certaines constantes in vivo — température, alimentation, stress, infections intercurrentes.
Mais avant de parler d’interprétation, il convient de citer des erreurs encore plus triviales.
Je voudrais citer le cas de la sonde Mars Climate Orbiter, pour laquelle la NASA fit une erreur tragique de calcul en confondant les unités anglo-saxonnes et le système métrique. Cela occasionna une erreur de navigation grave, qui conduisit la sonde à entrer dans l’atmosphère martienne, où elle fut immédiatement détruite, au lieu de tourner autour de la planète pour y faire les relevés météorologiques prévus.
L’interprétation
Le problème de l’interprétation est complexe : on n’est jamais à l’abri d’un problème inconnu, jamais à l’abri d’un contrôle manquant. On n’est jamais sûr qu’une hypothèse alternative à celle qu’on avait pensée bonne ne soit pas, en fait, celle qu’il convient de considérer en priorité.
Le problème, sur le fond, est d’apporter les éléments d’une démonstration. Trop souvent, les chercheurs se contentent de réaliser des expériences compatibles avec leur hypothèse, mais qui ne la démontrent pas vraiment.
Une des causes importantes de l’erreur d’interprétation est l’ignorance. Ignorance de faits connus et établis — assez peu excusable aujourd’hui, vu la facilité d’accès à la littérature. Ou méconnaissance, par définition excusable, de faits non encore connus. Cela est arrivé très souvent dans l’histoire des sciences.
L’irrationnel en matière de santé
S’agissant de l’ignorance de faits connus, je ne peux pas m’empêcher de dire qu’elle est particulièrement répandue dans le public et les médias. Certaines personnes — non-médecins, mais aussi médecins — ont des idées très arrêtées sur la santé. Souvent des idées préconçues sans aucun fondement scientifique.
C’est le domaine de l’irrationnel : tout à fait respectable pour la religion ou la vie affective, beaucoup plus contestable pour les problèmes de santé, avec toutes les conséquences qu’il peut y avoir, tant personnelles qu’économiques.
L’homéopathie est un bon exemple. Cette voie thérapeutique ne repose quasiment sur aucune donnée scientifique. Les modèles précliniques ad hoc sont quasiment inexistants, et les très rares essais thérapeutiques randomisés contre placebo — exigés aujourd’hui pour la mise sur le marché de tout médicament — ont donné des résultats globalement négatifs.
Et pourtant, nombre de nos concitoyens sont persuadés de son effet. Il est d’ailleurs difficile de leur prouver le contraire dans un cas particulier, dans la mesure où l’homéopathie comporte un effet placebo — et où, par définition, dès qu’on informe un malade qu’il prend un placebo, l’effet disparaît.
Deux secrétaires perpétuels
Le cas de l’ignorance de faits encore inconnus est plus difficile. L’histoire des sciences en est remplie : la forme de la Terre, le mouvement de la Terre autour du Soleil, la génération spontanée, la théorie atomique.
Je voudrais m’attarder sur ces deux derniers exemples, qui ont impliqué, dans des rôles différents, deux secrétaires perpétuels de l’Académie des sciences : Louis Pasteur et Marcellin Berthelot.
L’idée avait émergé au cours du XIXe siècle que les microbes pouvaient apparaître spontanément. C’était la génération spontanée. Louis Pasteur partit en guerre contre cette théorie, soutenue par les plus grands noms de l’époque, et put démontrer par des expériences publiées en 1861 qu’elle n’était que le résultat de contaminations.
Quant à Marcellin Berthelot, grand chimiste de l’époque, aujourd’hui au Panthéon, il n’a pas voulu accepter, pratiquement jusqu’à sa mort, la théorie atomique selon laquelle les molécules sont constituées d’atomes. Il préférait se référer aux lois thermodynamiques et macroscopiques des réactions chimiques. Il ne voulait pas reconnaître une théorie qui n’était pas fondée sur des observations totalement vérifiables.
Lyssenko
Un autre épisode douloureux fut la théorie génétique de Lyssenko. C’est l’un des faits les mieux établis de la génétique que les traits génétiques sont transmis aux descendants sans modification de la structure primaire des gènes. Trofim Lyssenko, dans les années 1930, émit l’hypothèse que l’environnement pouvait modifier la structure des gènes.
Tout commença en 1929 par l’observation, d’ailleurs non originale, que des semis de céréales d’hiver pouvaient donner des épis une fois germés quand ils étaient semés au printemps, à condition d’avoir été placés dans une atmosphère froide et humide pendant les mois précédents.
Il étendit progressivement cette théorie à d’autres domaines agricoles et put en convaincre, de façon assez remarquable, le gouvernement et les académies soviétiques. En quelques années, tous les éléments de la génétique classique furent remis en question, malgré la résistance de toute la communauté internationale.
Pendant plus de vingt ans, Lyssenko et ses collègues régnèrent sur la recherche biologique soviétique, soutenus de façon indéfectible par les pouvoirs en place, sans qu’on puisse dire aujourd’hui de façon certaine quel était le rôle de la crédulité et celui de la propagande politique.
Ce n’est qu’en 1965, à partir de démarches internes courageuses et de la réprobation internationale, qu’il fut enfin discrédité. S’il faut insister sur le côté dévastateur de cette démarche — qui empêcha la progression et entraîna même le recul de la recherche biologique soviétique, et fit menacer et condamner certains chercheurs — il est important de noter que l’épigénétique, dont on sait aujourd’hui qu’elle amène au concept d’une modification de l’expression des gènes par l’environnement, n’a pas du tout remis en question la transmission des gènes dans leur structure originale.
Les souris peintes
Un autre type de dérive peut conduire à des errements aussi graves : la fraude caractérisée.
Il n’est pas facile, dans beaucoup de cas, de la mettre en évidence, car très souvent elle dérive d’expériences qui étaient au départ honnêtes. Un chercheur fait une observation inattendue, la publie, puis réalise qu’il n’arrive pas à la reproduire. Au lieu de se rétracter comme il le devrait, il commence à falsifier ses résultats.
William Summerlin était un chercheur américain qui travaillait dans les années 1970 dans le laboratoire du très célèbre pédiatre immunologiste Robert Good. Il avait rapporté que des fragments de peau cultivés quelques jours in vitro pouvaient être greffés à des souris receveuses incompatibles, sans aucun traitement immunosuppresseur et sans rejet.
C’était un résultat inattendu majeur, aux applications potentielles considérables pour les greffes d’organes. On pouvait même lui trouver une explication théorique : peut-être que, pendant l’incubation, certaines cellules essentielles au déclenchement du rejet avaient disparu.
Le problème commença quand d’autres laboratoires n’arrivèrent pas à reproduire ces résultats. Et pourtant, Summerlin continuait à montrer des souris blanches chez lesquelles prenaient, de façon indéfinie, des fragments de peau prélevés sur des souris noires incompatibles.
Il s’avéra finalement, au grand désarroi de Robert Good, que ces greffes de peau de souris noires étaient en fait des greffes provenant de souris blanches — les receveuses elles-mêmes — que Summerlin avait peintes en noir au pinceau.
L’affaire Schön
Une autre histoire fameuse est celle de Jan Hendrik Schön. Un jeune chercheur allemand de trente ans, qui travaillait dans les prestigieux laboratoires Bell. Il avait montré qu’il était possible de charger en électrons des cristaux de la molécule fullèrene, ce qui ouvrait d’immenses perspectives — étendre les lois de la physique de la matière condensée aux matériaux organiques, avec de nombreuses applications en informatique et en nanotechnologie.
La première publication fut réalisée en 2000 dans la revue Science. Plus de soixante-dix publications suivirent, dont dix-sept dans Science et Nature. Chacun attendait la prochaine publication de Schön, quasi hebdomadaire, sans se poser la question de la plausibilité d’une telle production scientifique.
Au bout d’un certain temps, un doute germa dans l’esprit des dirigeants des laboratoires Bell, qui mirent en place un comité d’enquête comprenant plusieurs prix Nobel. Ce comité conclut assez rapidement que Schön avait complètement fabriqué ses résultats.
Un exemple assez étonnant où l’association du prestige d’un laboratoire d’accueil et de la réputation de grandes revues avait donné, en quelques mois, une crédibilité incroyable et injustifiée à un jeune chercheur totalement inconnu.
La mémoire de l’eau
Une autre histoire célèbre, qui récapitule en quelque sorte tous les facteurs d’erreur que je viens d’évoquer, est la mémoire de l’eau.
Jacques Benveniste, directeur de recherche à l’Inserm, alors âgé de cinquante-trois ans, publie en juin 1988 un article dans Nature montrant que de très hautes dilutions d’une préparation d’anticorps anti-IgE conservent leurs effets biologiques dans un test relativement rudimentaire — à vrai dire pas très fiable, car trop sensible : le test de dégranulation des basophiles.
La publication fait grand bruit, les médias s’en emparent, et en quelques semaines émerge ce concept étonnant selon lequel de l’eau mise en contact avec un corps chimique garderait l’image structurale et même les activités biologiques de ce corps après des dilutions considérables — jusqu’à des concentrations où il n’y a plus aucune molécule du principe actif dans l’échantillon.
Le fait que l’article ait été publié dans une revue comme Nature, et relayé à de multiples reprises et en bonne place dans Le Monde, lui donna une notoriété immédiate.
Néanmoins, la communauté scientifique se révélait plus que réticente. Benveniste fut amené à reproduire ces résultats devant un assez large public. Il y eut une réunion fameuse en 1988 où Nature envoya — l’anecdote est authentique — un magicien pour vérifier les expériences, ce qui était d’ailleurs très irrévérencieux pour la recherche française.
Peu de temps après, Georges Charpak, notre confrère prix Nobel, se lança courageusement dans une tentative de vérification et arriva à la conclusion qu’il était impossible de reproduire ces résultats.
Peu capable de convaincre ses collègues, Benveniste se retourna vers les médias. Il avait un grand sens de la communication, et ceux-ci trouvaient une occasion inespérée de remettre en cause l’establishment scientifique. L’histoire dura de très nombreuses années, avec tous les effets qu’on peut imaginer sur l’image de la recherche française à l’étranger.
Les autorités scientifiques nationales elles-mêmes, longtemps hésitantes, continuèrent à financer son laboratoire pendant plusieurs années. Ce laboratoire reçut en outre le financement d’un laboratoire privé d’homéopathie, qui trouvait là une justification inespérée de ses produits.
Erreur par conviction
Jacques Benveniste nous a quittés il y a sept ans. Peu de temps avant sa disparition, il était encore tenant de l’effet des hautes dilutions, qu’il attribuait alors à des ondes électromagnétiques, et tenait toujours la relation dose-effet comme quelque chose d’inacceptable.
Je le vois encore me demandant si je croyais à la relation dose-effet, et lui répondre qu’il me suffisait de comparer l’effet d’un, deux, cinq ou dix comprimés de Valium pour y croire.
C’était au départ un homme tout à fait intéressant, intelligent et séduisant. Il avait été un très bon chercheur dans les premières années, avec des travaux remarqués sur les réactions allergiques : il avait en particulier caractérisé l’un des médiateurs de l’hypersensibilité immédiate, le PAF-acéther.
Il était cependant psychologiquement fragile, peu critique vis-à-vis de lui-même. Beaucoup d’entre vous se rappellent sans doute l’allusion qu’il faisait à la personne qui jette ses clés sous le Pont-Neuf et espère pouvoir les reconstituer à partir d’un échantillon d’eau prélevé au Havre.
Il ne faut pas dire pour autant qu’il a inventé ses résultats : tous ceux qui l’ont connu, comme moi-même, n’ont jamais pensé qu’il avait fabriqué les données à l’origine de sa théorie. Cette histoire, au total très triste et par certains égards surréaliste, a impliqué beaucoup de personnes responsables — et était sans doute beaucoup plus due à une erreur par conviction qu’à une véritable fraude.
La recherche en groupe
Avant de conclure, je voudrais faire encore deux commentaires.
Le premier concerne le fait que la recherche scientifique n’est plus aujourd’hui l’affaire d’un seul homme, comme elle le fut dans le passé. Elle est l’affaire d’un groupe comportant des chercheurs, des techniciens, des étudiants.
Cela protège dans une large mesure de la fraude et de l’erreur, beaucoup plus difficiles à développer au sein d’un groupe que dans la solitude. En revanche, cela pose un problème quant à la délégation et à la confiance qui doivent s’établir entre le chef de laboratoire et ses collaborateurs.
On peut se demander, dans certains cas, si le chef de laboratoire qui va porter dans les congrès les résultats et leur interprétation est toujours en mesure de détecter une erreur ou une fraude survenue parmi ses collaborateurs. La responsabilité est donc partagée par le groupe — sans dire pour autant que chacun en est responsable, mais il n’est pas toujours facile de savoir qui est à l’origine de l’erreur.
La pression à publier
Le deuxième commentaire concerne le rôle des revues scientifiques, qui apparaît central.
Tout commence par la pression exagérée exercée sur la plupart des chercheurs, qui les oblige à produire beaucoup d’articles, si possible dans des revues à haut facteur d’impact. On est arrivé en biologie à la notion qu’un article était important au seul motif qu’il avait été publié dans une telle revue.
Cette importance excessive de l’évaluation quantitative a été fustigée dans un rapport de l’Académie sur la bibliométrie, où nous avons insisté sur le fait que celle-ci, utilisée seule et sortie de son contexte, pouvait être dangereuse.
Le chercheur poussé par cette bibliométrie sera amené à publier trop vite des données insuffisamment vérifiées. Le tout aboutissant, dans le meilleur des cas, à la publication d’articles peu importants ; dans le pire, à des articles comportant des données erronées.
Le système d’expertise par les pairs devrait réduire ce phénomène. En fait, là aussi, il y a beaucoup d’effets pervers : l’effet de mode, le lobbying, la malhonnêteté de certains experts qui retardent ou empêchent la publication d’articles concurrents, le fait que certaines revues publient des scoops même s’ils ne sont pas associés à des articles intrinsèquement importants.
Tout cela est devenu un problème majeur dans la vie de la recherche. Il faudrait aussi s’assurer que les décisions finales concernant ces articles soient prises par des scientifiques académiques de haut niveau, ce qui malheureusement n’est pas toujours le cas. Il devient de plus en plus important que les chercheurs académiques reprennent le contrôle de ces revues.
En conclusion
Il n’y a pas de doute que la fraude et l’erreur existent — nous en avons vu des exemples. Leur côté spectaculaire peut en augmenter l’importance. Il faut tout faire pour les éviter, et les organismes de recherche ont mis en place des comités de contrôle et des règles de bonnes pratiques.
En fait, la grande erreur est rare. La fraude caractérisée est exceptionnelle. Il faut savoir néanmoins que la petite malhonnêteté quotidienne n’est pas rare — et qu’elle est finalement aussi condamnable. Ce qui amène à une réflexion qui doit nous mener plus loin que la seule critique des affaires médiatiques.
Mais je ne peux pas terminer sans dire qu’il serait anormal, je dirais même injuste, d’incriminer la communauté scientifique qui, à beaucoup d’égards, est beaucoup plus rigoureuse que d’autres communautés.
