Les limites de l’utilitarisme total

Je vois de plus en plus de gens qui se réclament de l’utilitarisme. Alors, j’ai moi-même contribué à cette mode internet à une certaine époque. Oui, je plaide coupable. Mais avant toute chose, il faut déjà préciser ce que l’on entend par utilitarisme. Si on veut donner la définition la plus générale possible, ce serait une forme de conséquentialisme qui se soucie de l’amélioration du niveau de bonheur général de la société.

Mais une fois qu’on a dit ça, qu’est-ce que le bonheur général de la société ? Ou là, vaste question. Mais il existe une forme particulière d’utilitarisme qui considère que cette question, ben, elle est vite répondue. Il s’agit de l’utilitarisme total, que l’on pourrait décrire de la sorte : on peut attribuer un score de bonheur à chaque individu, qu’on appellera utilité. Puis on va faire la somme de ces utilités individuelles, et on appellera ça l’utilité totale. Et donc, en toute circonstances, l’action la plus morale à faire, c’est l’action qui va maximiser cette utilité totale-là.

Alors, il y a quelques années, je vais tendance à dire que c’était un homme de paille que de réduire l’utilitarisme à l’utilitarisme total. Et en un sens, oui, mais force de constater, il y a quand même pas mal de gens qui se réclament de cette utilitarisme total, et notamment beaucoup de gens qui ont fait des études scientifiques. Tiens, tiens, tiens, c’est comme si le fait de faire des études scientifiques nous biaisaient en faveur des théories morales qui se réduisent à de belles équations mathématiques pures et élégantes. Et je précise que j’ai moi-même fait des études strictement scientifiques.

Alors, là, je me permets une petite parenthèse. Pendant plusieurs décennies, on a essayé de faire de l’intelligence artificielle à partir de belles équations mathématiques, sur élégantes, et ça n’a pas très bien marché. Et au final, aujourd’hui, ce qui marche le mieux, donc ChatGPT et compagnie, ce sont des approches fun à base de réseaux de neurones qu’on entraîne comme des gros bourrins à coups de milliards de données, et dont on n’arrive pas vraiment à faire sens mathématiquement. Donc, dès qu’on sort du cadre des mathématiques pures, est-ce qu’il faut forcément privilégier l’élégance ? Je vous laisse y réfléchir. Fin de la parenthèse.

Alors, cette utilitariste total, à première vue, ça peut faire sens. Si on essaie de l’appliquer au monde actuel, ça va rapidement nous amener vers des causes comme la réduction de la pauvreté ou de la souffrance animale, l’élimination de maladies, ouais, ce genre de truc. Mais est-ce qu’il n’y a pas une limite à cette approche ?

Alors, la plupart des critiques vont porter sur les sacrifices que cela pourrait conduire à faire au nom du plus grand bien. Genre, tu es une personne pour prélever ses organes et sauver sa contre personnes, un exemple classique. Mais ce que je voudrais illustrer ici, c’est que même si on a aucun sacrifice à faire, l’utilitarisme total a des implications très bizarres. Et pour cela, je vais m’appuyer sur le transhumanisme. Bon, déjà, parce que ça fait longtemps qu’on n’en a pas parlé, mais aussi parce que parmi les gens qui se réclament de l’utilitarisme total, beaucoup pensent également qu’un futur transhumaniste est à la fois possible et souhaitable. Et je pourrais être d’accord avec ça, mais il faut bien préciser de quel genre de futur on parle, comme on va le voir ici.

Bon, là, si vous êtes allergique aux expériences de pensée, il est important de vous enfuir. Oui, je connais des gens qui sont allergiques aux expériences de pensée, qui s’énervent lorsqu’on fait des expériences de pensée. Donc, avertissement de contenu : expérience de pensée et masturbation intellectuelle extrêmement ici.

On va supposer que dans un futur lointain, il sera possible de simuler l’intégralité d’un cerveau humain sur un ordinateur. Oui, bon, le cerveau et les fameux neurones dans les intestins là, si ça vous fait plaisir. Alors, est-ce qu’un tel cerveau simulé pourrait être aussi conscient qu’un cerveau biologique ? Et bien, je vois beaucoup de gens qui répondent oui sans hésiter, genre ils y mettraient leurs mains à couper. Et je ne partage pas leur degré de confiance, parce que je n’ai pas une compréhension assez satisfaisante de ce qu’il se passe à l’intérieur du cerveau, malgré ce que j’ai pu lire sur le sujet. Mais à défaut d’être aussi confiant que ça, me semble tout à fait possible qu’une simulation suffisamment détaillée d’un cerveau humain est une expérience subjective comparable à celle d’un cerveau humain. Donc, ici, pour les besoins de l’expérience de pensée, admettons que c’est le cas.

En passant, si vous ne la connaissez pas, je vous invite vivement à écouter une fameuse nouvelle de Greg Egan sur le sujet, dont Monsieur Phi a fait une lecture sur sa chaîne (lien dans la description). Ouais, celle avec le cristal là.

Bon, maintenant, imaginons l’expérience subjective d’un humain qui croque dans une part de gâteau, une expérience d’environ 10 secondes. Du point de vue d’un utilitariste total, cette expérience agréable a une certaine utilité. Du coup, si on avait un ordinateur qui simulait en boucle cette expérience subjective de 10 secondes, ouais, donc on l’a reboutant toutes les 10 secondes, ben, il semblerait logique d’attribuer une certaine utilité à l’existence de cet ordinateur.

OK, à présent, mettons tout cela de côté un instant, et imaginons une société futuriste utopique avec des centaines de milliards d’individus à travers la galaxie, qui vivent tous des existences extrêmement riches, diverses et exaltantes, qui ont des relations sociales intenses et épanouissantes, des loisirs extrêmement divertissants, qui font des découvertes scientifiques fascinantes, qui réalisent des créations artistiques fabuleuses, et qui font des partouzes dans cette dimension dans le métavers. Vous pouvez enlever cette dernière partie si ça vous perturbe.

Là, à moins d’être complètement misanthrope, je pense qu’on sera d’accord pour dire qu’un tel univers sera extrêmement bien, qu’on soit utilitariste ou pas, d’ailleurs. Donc, appelons cela l’univers A.

Maintenant, je vais décrire un autre univers, l’univers B. Dans cet univers, il y a l’ordinateur dont on a parlé tout à l’heure, qui stimule en boucle une expérience subjective de seulement 10 secondes, donc l’expérience subjective de croquer dans une part de gâteau. Et il y a également des copies de cet ordinateur, des milliards de milliards de milliards de copies identiques de cet ordinateur, qui simule toute exactement la même chose, et rien d’autre dans cet univers, en tout cas, bien d’autres qui puisse être considéré comme conscient.

Et si on considère que chacun de ces ordinateurs a une certaine utilité, et qu’on peut faire la somme de ses utilités, et bien, cet univers extrêmement morne et répétitif aura une utilité totale supérieure à l’univers A, pour peu qu’ils contiennent suffisamment d’ordinateurs identiques. Du point de vue de l’utilitarisme total, un univers rempli d’ordinateurs qui simule tous les mêmes expériences subjectives de seulement 10 secondes serait préférable à la plus formidable des utopies galactiques, pour peu qu’il y ait suffisamment d’ordinateurs.

Alors, nous arrivons à la fin de cette séance de masturbation intellectuelle, et où est-ce que je veux en venir ? Et bien, ce que je voulais illustrer ici, c’est que l’utilitarisme total est une approche extrêmement pauvre et limitée. Les individus sont uniquement vus comme de simples réceptacles à bonheur, copiables, jetables et interchangeables. Les interactions qu’ils peuvent avoir entre eux n’ont aucune valeur intrinsèque, pas plus que la société dans laquelle ils vivent, ou la complexité des idées qu’ils peuvent avoir, ou la richesse des émotions qu’ils peuvent ressentir. Tout cela est complètement aplati par le rouleau compresseur de l’utilitarisme total, qui considère chaque individu de manière séparée, réduit son existence à un unique score de bonheur, et fait bourrinement la somme de ses scores, tel un économiste néolibéral qui ne s’intéresse qu’à la croissance du PIB, mais en mille fois pire.

Dans ce framework, une unique expérience subjective répétée en boucle avec effacement de mémoire toutes les 10 secondes peut être jugé préférable à une vie humaine riche et complexe. Et rien n’empêche de la répliquer à l’identique sur des milliards de milliards d’ordinateurs, vu qu’on a décrété que c’est seulement la somme des utilités qui compte, et pas la diversité des expériences.

Et c’est paradoxal, au fond, parce que ce qui justifie tout cela à la base, c’est notre intuition morale que plus de bonheur, c’est mieux, une intuition qu’on aurait du mal à justifier, et ce n’est pas forcément un problème. Mais ici, on fait de cette unique intuition morale l’alpha et l’oméga de notre système de pensée, pour aboutir au final à une conclusion très contraire à notre intuition morale, donc que l’univers chiant plein d’ordinateurs identiques seraient préférable à une civilisation utopique riche et complexe.

Cela voudrait dire qu’il faudrait accepter une conclusion radicalement contraire à notre intuition morale, et cela au nom d’un système entièrement construit sur la base d’une intuition morale, justement. Ça se mord un peu la queue.

Et on en revient à ceux biais de l’élégance mathématique que j’ai évoqué au début, l’idée qu’un système qui repose sur des actions simples, minimalistes et élégants serait plus juste, plus vrai, une intuition qui nous vient des mathématiques pures, et encore, parce que les mathématiques pures sont une pure construction de l’esprit, dont on définit nous-mêmes les règles. Elles ne peuvent être justes et vrai que par rapport à ces règles arbitraires, pas par rapport à la réalité. Et lorsqu’on essaie d’appliquer ça à la réalité, justement, en mode rouleau compresseur, ben, ça peut faire du dégât.

Cette approche fait déjà des ravages en économie, par exemple. Vous savez, ces modèles ultra simplistes et ultra théoriques d’offres et de demande, dont beaucoup sont largement contredis par la pratique (voir dans la description), mais auquel on continue de s’accrocher parce qu’ils sont purs, qu’ils sont beaux, qu’ils sont élégants, qu’il nous donne l’impression de faire sens de ce chaos économique à la complexité angoissante. Bon, et aussi parce qu’ils servent les intérêts d’une caste sociale qui finance abondamment la promotion de cette approche particulière de l’économie, mais c’est un autre sujet.

Et donc, il faudrait que je fasse le même taureau enragé du réductionnisme mathématique dans le magasin de porcelaine de l’éthique ? Je ne suis pas sûr que ce soit une très bonne idée. Il est tout à fait possible qu’une bonne théorie morale, entre guillemets, ne soit pas du tout réductible à quelques actions simples et élégant, et qu’elle soit profondément complexe et bordélique, comme l’économie réelle.

Partir du principe que si la morale doit se réduire à des actions pures et élégants, ben, je suis désolé de le dire, mais c’est une forme d’irrationalité. Alors, oui, je sais, renoncer à ce fantasme d’une théorie morale qui serait aussi pure et élégante que les mathématiques, cela risque d’engendrer une certaine souffrance morale chez les personnes sujettes à ce biais de l’élégance. Mais d’un point de vue utilitariste, je pense que leur souffrance morale est un sacrifice nécessaire pour le plus grand bien.

Alors, que pensez-vous de tout ça ? N’hésitez pas à le dire en commentaire.