« Il sera en fait facile de guérir le vieillissement et le cancer », insiste David Sinclair, chercheur sur le vieillissement à l'université de Harvard. De même, Elon Musk continue d'affirmer qu'il fera bientôt atterrir des humains sur Mars et qu'il déploiera des robotaxis en masse. De grandes entreprises ont fixé des objectifs de neutralité carbone fondés sur des prévisions très optimistes quant au potentiel des technologies d'élimination du carbone. Et, bien sûr, de nombreux commentateurs insistent aujourd'hui sur le fait que « l'IA change tout ». Dans ce mélange déroutant de battage médiatique et de véritables merveilles technologiques, les entrepreneurs, les scientifiques et les autres experts ne sont-ils pas en train de s'emballer ?
Croire au progrès
À tout le moins, ils trahissent une préférence marquée pour les solutions technologiques à des problèmes complexes, ainsi qu'une croyance inébranlable dans le fait que le progrès technologique nous rendra plus sains, plus riches et plus sages. « Donnez-nous un problème du monde réel », écrit Marc Andreesen, doyen de la Silicon Valley, dans “The Techno-Optimist Manifesto” (lire Qant du 18 octobre 2023), “et nous pourrons inventer une technologie qui le résoudra”.
Mais, comme nous le soulignons dans notre livre How to Think About Progress, cette attitude est fortement influencée par ce que nous appelons le « biais d'horizon » : la propension à croire que tout ce que les experts peuvent envisager d'accomplir avec la technologie est à notre portée imminente. Nous devons cet optimisme aux succès passés de la technologie : éradication de la variole, atterrissage d'un homme sur la lune, création de machines capables de surpasser les grands maîtres d'échecs aussi bien que les meilleurs radiologues.
Rendez-vous manqués
Alors que ces faits marquants restent gravés dans notre mémoire collective, offrant une preuve inductive solide du pouvoir de l'ingéniosité humaine, nous oublions toutes les fois – ou bien nous n’en avons pas conscience – où la technologie a promis de résoudre un problème, mais ne l'a pas fait. Tout comme l'histoire est écrite par les vainqueurs, l'histoire du progrès technologique présente principalement les idées qui ont abouti, donnant l'impression que l'homme technologique accomplit systématiquement tout ce qu'il entreprend.
Ce biais d'horizon nous concerne tous, mais il est plus important chez ceux qui ont suffisamment d'expertise pour pouvoir proposer des solutions scientifiques et technologiques aux grands défis – surtout s'ils essaient de nous vendre quelque chose. Le danger réside dans le fait de se convaincre que l'on peut anticiper chaque étape nécessaire à la réalisation d'un objectif ambitieux tel que la « guérison » du cancer ou la colonisation de Mars. Un tel « savoir » inspire autant de confiance à l'orateur que d'espoir à l'auditeur non expert.
De la promesse à la réalité
C'est une chose de promettre des voyages touristiques sur Mars, et c'en est une autre d'affirmer que l'on va inventer une machine à voyager dans le temps. La première ambition semble au moins réalisable ; c'est plus qu'il n'en faut pour un optimiste. La simple possibilité peut être une force puissante dans la prévision et la prise de décision, parce que nous ne reconnaissons généralement pas que notre sens de la possibilité s'élargit avec l'ignorance. Moins vous en savez sur la biologie ou les voyages dans l'espace, plus vous pensez que des progrès peuvent être réalisés dans ces domaines. Pour autant que nous le sachions, la recherche contre le vieillissement permettra réellement aux personnes qui vivent aujourd'hui de vivre des centaines d'années.
C'est l'angle mort que les artistes de la Silicon Valley adorent exploiter, surtout après des percées comme la mise sur le marché de ChatGPT ou le succès des vaccins à ARNm contre le Covid-19. C'est à ces occasions que nous regardons l'horizon et que nous embrassons ou révisons nos ambitions. Peut-être que la science qui sous-tend les vaccins permettra également de « guérir » le cancer ? Quand les experts disent : « Pour autant que nous le sachions, cette dernière avancée pourrait rapidement déboucher sur X, Y et Z », ils offrent une raison légitime pour le public profane de s'enthousiasmer.
Dépasser la facilité
C’est là un mode de pensée magique. Parce que nous ne pouvons que spéculer sur les étapes ultérieures de la séquence nécessaire pour atteindre une destination espérée, nous nous donnons le droit d'ignorer les imprévus désordonnés qui sont inévitables au cours de la recherche et du développement. Succombant au biais de l'horizon, nous pouvons dire des choses comme « Tout ce que nous devrions faire pour lutter contre le changement climatique est d'accélérer la R&D dans les technologies de capture du carbone jusqu'à ce que nous ayons trouvé un moyen de les rendre abordables et viables à l'échelle ». C'est précisément parce que nous ne connaissons pas encore les progrès techniques et scientifiques que cela nécessiterait, que nous pouvons l'imaginer comme éminemment réalisable.
Il est plus agréable d'agir ainsi que d'admettre qu'un problème peut rester hors de notre contrôle plus longtemps que prévu. Mais nous devrions résister à la tentation. La persistance du biais d'horizon signifie qu'il existe des arguments à la fois rationnels et éthiques pour garder un scepticisme réaliste à l'égard de la technologie. Un excès de confiance peut créer un aléa moral. Pourquoi s'inquiéter des émissions de carbone si l'on peut prévoir que le captage direct de l'air ou une sorte de nanorobot mangeur de carbone sera finalement déployé pour inverser le changement climatique ?
Le pouvoir de la nature
En outre, nous devons nous méfier d'une tendance psychologique qui nous pousse systématiquement à surestimer notre capacité à résoudre par la technologie des problèmes importants et déterminants pour une génération. Comme le disait le bibliographe de science-fiction I.F. Clarke il y a près de 50 ans, nous nourrissons le « désir éternel que le pouvoir de l'homme sur la nature soit toujours aussi instantané et absolu que sa volonté ». La modernité a rendu à la fois facile et excitant le fait d'imaginer des solutions technologiques surgissant de nulle part. Bien que nous sachions que nous ne devrions pas tout miser sur de telles attentes, il est trop tentant d'envisager des solutions qui feraient disparaître des problèmes tels que le changement climatique, les pandémies et le cancer.
Cette tendance peut entraver notre capacité à nous préparer à un avenir intrinsèquement incertain. Une bonne préparation exige que nous ne nous appuyions pas sur un échantillon gravement biaisé d'expériences passées. Face aux grands problèmes mondiaux, nous devons éviter de nous comporter comme des joueurs qui ne se souviennent que des rares occasions où ils ont gagné gros, et non de celles, plus nombreuses, où le casino a englouti leur argent.
Un biais d’horizon
Bien entendu, le biais d'horizon ne signifie pas que des solutions technologiques aux problèmes de civilisation n'apparaîtront pas. Un génie solitaire pourrait résoudre le problème du cancer ou du changement climatique demain, falsifiant ainsi toute affirmation pessimiste. Néanmoins, les affirmations sur ce que devraient être nos attentes rationnelles resteront valables. Si vous annoncez que vous venez d'acheter un billet de loterie et que vous faites simultanément une offre pour un château que vous ne pouvez pas vous permettre, personne ne vous félicitera pour votre jugement financier.
Même si vous gagnez.
Pour en savoir plus :
- Smartless
- The Guardian
- The Techno-optimist Manifesto
- Elias J. Sayour et al., Cancer mRNA vaccines: clinical advances and future opportunities, Nature, 2024
Nicholas Agar est professeur de philosophie à l'Université de Waikato, en Nouvelle-Zélande, auteur de How to Be Human in the Digital Economy (MIT Press, 2019), et coauteur, avec Dan Weijers et Stuart Whatley, de How to Think about Progress : A Skeptic's Guide to Technology (Springer Cham, 2024).
Stuart Whatley est rédacteur en chef de Project Syndicate et coauteur, avec Nicholas Agar et Dan Weijers, de How to Think about Progress : A Skeptic's Guide to Technology (Springer Cham, 2024).
Cet article a initialement été publié en anglais le 28 novembre sur Project Syndicate, traduction : Qant.
Qant est membre de Project Syndicate