Le long-termisme et ses dérives dangereuses

Il y a un raisonnement philosophique assez étrange que je vois circuler depuis quelques années, notamment dans les sphères proches de l’altruisme efficace. Un raisonnement qui semble convaincre de plus en plus de gens, notamment des gens très riches et très influents – typiquement des milliardaires de la Silicon Valley, mais pas que.

Et si j’en parle aujourd’hui, c’est parce que ce raisonnement me semble à la fois très dangereux et très fallacieux. Dangereux parce qu’il fournit une justification philosophique pour sacrifier 99 % des humains vivant actuellement, mais également les humains des prochains millénaires. Et fallacieux pour des raisons que je vais développer.

Le long-termisme, c’est quoi ?

Bon, mais c’est quoi ce raisonnement à la fin ? Eh bien, pour expliquer cela, il faut déjà que je parle du long-termisme. Le long-termisme, c’est une excroissance futuriste de l’altruisme efficace qui tend à prendre de plus en plus de place dans le mouvement.

Pour ceux qui débarquent, l’altruisme efficace, c’est pas une petite association étudiante d’une douzaine de personnes. D’après un acteur important de ce mouvement, en 2021 il disposait d’environ 46 milliards de dollars – pas 46 millions, hein, 46 milliards (source dans la description). Ça fait pas mal d’argent, et surtout beaucoup d’influence.

Le long-termisme découle principalement des travaux du philosophe Nick Bostrom et notamment de l’idée suivante : dans le futur, il pourrait y avoir beaucoup d’humains. Ouais, OK, incroyable, merci Sherlock. Sauf que là, on ne parle pas du futur dans quelques siècles ni même dans quelques millénaires. On parle du futur dans plusieurs milliards de milliards de milliards d’années, jusqu’à la mort thermique de l’univers potentiellement. Des échelles galactiques au minimum. Nick Bostrom estime qu’il pourrait y avoir plus de 10 puissance 58 humains dans ce futur lointain – donc 10 000 milliards de milliards de milliards de milliards de milliards de milliards d’humains digitaux. Oui, parce que l’énergie et la matière sont potentiellement limitées dans l’univers, et donc pour optimiser au maximum, il faut créer des simulations d’humains plutôt que des humains biologiques. Mais laissons ces petits détails techniques de côté.

Et donc, pour faire simple, le long-termisme, c’est l’idée que ce futur cosmique lointain avec une quantité astronomique d’individus potentiels est moralement important. Voire très important. Voire extrêmement important.

L’influence du long-termisme

Pour donner une petite idée de l’influence actuelle du long-termisme, mis à part le budget colossal de l’altruisme efficace, on peut citer quelques exemples :

Le raisonnement dangereux

Et donc, le raisonnement que je critique depuis tout à l’heure, c’est le suivant : si on augmente de 0,01 % la probabilité que ce futur lointain existe – un futur cosmique avec 10 puissance 58 humains digitaux –, et bien si on multiplie cette petite probabilité par ce très grand nombre, c’est comme si on avait causé l’existence de 10 puissance 51 humains dans ce futur lointain. Ce qui reste énormément plus que les quelques milliards d’humains vivant actuellement.

Et donc, augmenter la probabilité que ce futur lointain existe, même de quelques millionièmes de pourcent, serait moralement beaucoup plus important que toutes les actions que nous pourrions faire pour améliorer le sort des humains du 21e siècle. En fait, s’il fallait sacrifier 99 % des humains actuels pour augmenter cette probabilité de manière infime, si on fait le calcul, ça resterait quand même « la bonne chose à faire ».

Première prémisse : créer des vies = sauver des vies ?

À la base, l’altruisme efficace, c’était surtout une histoire de sauver un maximum de vies humaines avec une quantité d’argent donnée. Mais en remplaçant la préoccupation de sauver des vies par celle de créer des vies, on fait un changement qualitatif qui n’est pas du tout anodin.

Si on essaie d’appliquer ça à notre époque, ça semble un peu bizarre. Imaginez : vous avez un budget de charité et vous comptez l’utiliser pour créer un médicament qui va sauver 10 000 humains d’une mort précoce et douloureuse. Et là, quelqu’un débarque dans votre bureau et dit : « Attendez, j’ai une meilleure idée : on va utiliser ce budget pour lancer une campagne en faveur de la natalité qui va faire naître 20 000 humains supplémentaires. » Est-ce que vous diriez « ah ouais, OK cool, du coup on fait ça » ?

En fait, pour vous le dire honnêtement, je me fiche qu’il y ait 10 puissance 25 ou 10 puissance 58 humains dans le futur lointain. Ce qui m’intéresse dans cette hypothétique civilisation galactique, c’est plutôt à quoi elle ressemblera qualitativement : comment cette société sera organisée, à quoi ressemblera la vie d’un individu lambda, les choses qu’il pourra vivre et expérimenter.

On ne peut pas causer de tort à un humain qui n’est pas encore né en ne le faisant pas naître. Si c’était le cas, il faudrait être contre toute forme d’avortement, voire même avoir une politique nataliste extrêmement agressive pour « sauver » autant d’humains que possible de la non-naissance.

Créer une civilisation galactique, c’est juste un projet que je trouve cool et exaltant. Mais je ne pense pas que cela relève de l’obligation morale, tout comme il n’y a pas d’obligation morale à créer une œuvre d’art ou à visiter un pays lointain.

Deuxième prémisse : « shut up and multiply » ?

L’idée qu’on peut multiplier une quantité astronomique par une toute petite probabilité et prendre des décisions sur la base de cela. Certains résument cela par la formule « shut up and multiply » – ferme ta gueule et fais la multiplication.

D’où leur vient cette confiance ? Du théorème d’utilité de Von Neumann-Morgenstern (VNM), qui dit en gros que lorsqu’il faut prendre une décision dans un contexte incertain, la bonne manière de décider c’est de choisir l’option qui maximise l’utilité moyenne attendue.

Sauf que si vous avez bien écouté : ce théorème ne dit pas qu’il faut maximiser la valeur moyenne attendue, mais l’utilité moyenne attendue. Et l’utilité, ce n’est pas la valeur. L’utilité reflète nos préférences personnelles et subjectives, y compris notre degré d’aversion au risque.

Par exemple, si l’utilité que j’associe au nombre d’humains existant dans ce futur lointain est très fortement dégressive, eh bien si on la multiplie par une toute petite probabilité, il ne restera plus grand-chose. Et donc, si on me propose de sacrifier 99 % de l’humanité actuelle pour augmenter de 0,001 % la probabilité que X humains existent dans le futur galactique lointain, aucune valeur de X ne me fera accepter cette proposition.

Le vrai danger

Bon, alors où est-ce que je veux en venir avec tout ça ? Déjà, je ne serais pas du tout rassuré que des gens très puissants – mettons des milliardaires de la Silicon Valley – aient des raisonnements long-termistes hardcore de ce genre. Selon leur niveau d’influence, cela pourrait conduire à des décisions qui reviendraient plus ou moins à sacrifier l’humanité actuelle et l’humanité des siècles à venir – ou à défaut, à négliger son bien-être de la plus cynique des manières, en contribuant à rendre la société extrêmement inégalitaire, bien plus encore qu’aujourd’hui.

Un talking point que je trouve très agaçant dans les sphères long-termistes, c’est celui qui consiste à dire que le changement climatique « n’est pas un risque existentiel », dans le sens où il ne va pas détruire toute l’humanité. En gros, si ce sont juste quelques milliards de gueux du tiers-monde qui meurent à cause du changement climatique, c’est sans grande importance pour les gens qui ont « la hauteur d’esprit » de se concentrer sur notre glorieux futur cosmique.

Mais au fond, les techno-milliardaires n’ont même pas besoin d’être des long-termistes convaincus pour que cela pose problème. Il suffit qu’ils utilisent le long-termisme comme caution philosophique pour leur comportement égoïste. C’est chiant de se préoccuper du sort des gueux ou du bien-être de ses employés. C’est beaucoup plus exaltant de rêver de métavers ou de voyages sur Mars. Et là, bingo, vous avez une idéologie qui vous dit qu’en faisant cela, en consacrant votre fortune à ces projets futuristes plutôt qu’à soulager les malheurs du monde, vous faites en réalité la chose la plus noble et la plus morale qui soit.

On pourrait faire un parallèle avec la théorie du ruissellement des années Reagan, selon laquelle il faut que les riches s’enrichissent d’abord pour qu’ensuite leurs richesses ruissellent sur les plus pauvres. Une théorie qui va très commodément dans le sens de l’intérêt des plus riches et qui justifie les hiérarchies existantes. Un récent article qualifie William MacAskill de « philosophe utile d’Elon Musk » (voir dans la description), et je trouve que ça résume assez bien le problème.

Bref, une idéologie qui pourrait conduire des personnes très puissantes à prendre des décisions extrêmement sacrificielles au nom d’un futur cosmique lointain, ou à défaut qui peut servir de caution philosophique à leur comportement égoïste et légitimiser leur place tout en haut de la hiérarchie sociale. Voilà pourquoi j’ai essayé de déconstruire certaines prémisses sur lesquelles cette idéologie se base – des prémisses qui me semblent très fallacieuses.

Alors, que pensez-vous de tout ça ? N’hésitez pas à le dire en commentaire.