Le plan d’OpenAI

Bon, alors en ce moment tout le monde parle du fameux ChatGPT, ce chatbot aux performances assez impressionnantes (pour un chatbot, du moins). Et aujourd’hui, nous allons nous poser la question que se pose votre oncle conspi sur Facebook : qui est derrière ChatGPT ? Qui sont ces gens ? Quels sont leurs réseaux ? Quelles sont leurs sombres motivations ?

Eh bien, il se trouve que tout cela est expliqué dans un petit article qui est sorti récemment (lien dans la description), un article dont l’auteur n’est autre que Sam Altman, le PDG d’OpenAI, donc l’organisation qui a créé ChatGPT. Il y explique quel est son Plan avec un grand P.

Et si j’en parle ici, c’est parce que ce n’est pas le genre de plan ordinaire d’une grosse entreprise de la Silicon Valley, genre créer des voitures volantes, guérir le cancer ou résoudre la crise énergétique. Non non, là, on ne parle pas de petits projets simplistes et futiles de ce genre. La mission d’OpenAI, c’est créer une intelligence artificielle générale, c’est-à-dire en gros une intelligence artificielle capable de faire tout ce qu’un humain est capable de faire. Notamment de la recherche en intelligence artificielle. Si vous voyez où je veux en venir.

La logique d’OpenAI

Sam Altman considère qu’il y a tellement de danger dans la création d’une telle intelligence artificielle générale, que quelqu’un va forcément la créer à un moment donné. Et donc, autant que ce soit eux, vu que chez OpenAI on est « gentil et bien attentionné » (source : OpenAI). Oui, cette manière de raisonner est assez problématique, mais on y reviendra tout à l’heure.

Mais il considère également qu’une telle intelligence artificielle générale serait potentiellement très dangereuse si les objectifs qu’elle cherche à accomplir ne sont pas alignés avec nos objectifs. Bon, là, on est en plein dans les thèses développées dans le livre Superintelligence de Nick Bostrom, un livre auquel on peut faire beaucoup de critiques, mais qui a au moins le mérite de soulever des questions intéressantes. Notamment l’idée qu’aligner une potentielle intelligence artificielle générale avec nos valeurs, c’est beaucoup plus difficile qu’on ne le croit à première vue.

Et pour aller dans son sens, on peut noter qu’on n’arrive déjà pas à aligner le système de recommandation de YouTube ou de TikTok avec les intérêts de la société. Et que même ça, si on y réfléchit plus de cinq minutes, ben c’est déjà un problème extrêmement complexe.

Le Plan avec un grand P

Et donc, Sam Altman est conscient de ce problème, d’où son Plan avec un grand P. Attention, vous êtes prêts ?

Son plan, c’est de relâcher dans la nature des intelligences artificielles de plus en plus puissantes et sophistiquées, afin de forcer la société à s’y adapter, et ainsi permettre une transition plus progressive vers l’intelligence artificielle générale.

Ouais. Donc, en gros, si on prend un enfant en train de jouer dans sa chambre et qu’on l’envoie directement faire la guerre dans les tranchées, il risque de ne pas tenir le choc. Et donc, pour l’habituer progressivement à la violence, eh bien on va déjà, dans un premier temps, le placer dans une famille d’accueil avec des parents violents et sadiques, afin de l’endurcir à la vie, ce petit morveux.

Oui, cette analogie n’est pas très charitable, mais c’est volontaire. Parce que si vous lisez l’article de Sam Altman en anglais, vous allez recevoir une telle dose d’optimisme mièvre que votre taux de glucose sanguin va tripler instantanément. Et mon but ici, c’est de contraster cet optimisme mièvre, plein de bonnes intentions et de jolies idées abstraites, avec la réalité brutale et cynique de ce qu’OpenAI est en train de faire concrètement.

La réalité vs. l’idéal

Parce que, si vous avez suivi jusque-là, la publication de ChatGPT, c’est la toute première étape dans ce plan d’endurcissement de la société afin de la préparer à la venue de l’intelligence artificielle générale. À en croire Sam Altman, c’est à peu près aussi bénin et inoffensif qu’une dose de vaccin qui viserait à stimuler notre système immunitaire. En gros, il s’agit juste de pousser gentiment la société à se demander collectivement ce qu’elle souhaite par rapport à ces histoires d’intelligence artificielle, et à mettre progressivement en place les structures et les institutions nécessaires pour encadrer cela, afin que les choses se passent tout en douceur.

Ouais. Donc, comme ce que nous avons fait suite au Covid-19, où nous avons mis en place des structures internationales très solides et très bien financées afin d’être beaucoup mieux préparés à la prochaine pandémie. Non, je rigole. Honnêtement, si on me demandait à quel point on est mieux préparés à la prochaine pandémie après plus de trois ans de Covid, j’aurais envie de répondre quelque chose entre « à peine mieux » et « pas du tout ».

Et j’espère que vous commencez à voir le problème. Il ne suffit pas de se mettre à uriner sur une fourmilière pour que les fourmis se mettent spontanément à inventer une technologie qui transforme l’urine en or ou en énergie. Enfin, ça reste une possibilité, mais ce n’est absolument pas garanti.

Les effets concrets

Parce que c’est quoi, les effets concrets de la publication de ChatGPT ? Eh bien, par exemple, on vient par là de faire un énorme cadeau aux criminels du monde entier, en automatisant largement les arnaques en ligne et la création de faux profils ultra-réalistes sur les réseaux sociaux. C’est également un formidable cadeau aux saboteurs de démocratie, qui ont à présent un outil de propagande surpuissant – de la propagande qui peut s’adapter automatiquement au profil de chaque individu ciblé. On entre dans l’ère de la désinformation de masse ultra-personnalisée.

Et ce genre de considération est totalement absent de l’article de Sam Altman. Enfin, il mentionne vaguement d’éventuels « risques de disruption sociale » auxquels il faudra être attentif, mais à l’écouter, cela concerne uniquement des intelligences artificielles beaucoup plus sophistiquées que ChatGPT, qui n’existent pas encore à l’heure actuelle. Alors que ces problèmes se posent dès aujourd’hui.

Et pour le moment, la société y réagit avec autant de sérieux et de maturité que pour la crise du Covid. Ouais, donc la fameuse petite perturbation qui pousse la société à s’adapter progressivement, en pratique c’est pas trop ça. Enfin si, la société va s’adapter, bien entendu, mais elle va probablement s’y adapter en mode « David Goodenough » : ouais bon, il y a des gens qui meurent, mais c’est la vie après tout. Ce qui est aux antipodes de la vision idéaliste de Sam Altman.

Le pompier pyromane

Et le plus ironique dans tout ça, c’est que l’un des principaux risques évoqués, c’est celui d’une course effrénée à la performance de l’IA entre de multiples acteurs privés, une course à la performance qui se ferait au détriment des considérations de sécurité. Et c’est précisément OpenAI qui a déclenché la plus grosse course à l’IA à ce jour. À présent, tout le monde veut développer son équivalent de ChatGPT par peur d’être largué et laissé sur le bord de la route. Il y a des annonces quasi quotidiennes en ce sens. Même si OpenAI disparaissait demain matin, cette course à la performance est tellement bien lancée à présent qu’elle semble quasi impossible à arrêter.

Ouais, franchement, merci OpenAI. Qu’est-ce qu’on ferait sans des gens comme vous qui se soucient de la sécurité de l’IA ? Ici, il y a vraiment un côté pompier pyromane, que ce soit conscient ou non. On considère qu’une potentielle technologie est risquée, donc on a peur que d’autres la créent avant nous, donc on se dépêche de la créer très très vite avant tout le monde, quitte à faire passer la sécurité au troisième ou au quatrième plan. Une magnifique prophétie auto-réalisatrice.

On pourrait faire un parallèle avec la course à l’arme atomique, sauf que là, d’une certaine manière, c’est pire. Parce que dans le cas de l’arme atomique, ce qui nous « sauve », c’est le fait qu’il y a une très grosse barrière psychologique qui nous dissuade de faire le premier usage de l’arme atomique. Mais dans le cas de l’IA, cette analogie ne fonctionne pas, vu que chaque nouveau modèle d’IA est immédiatement déployé et largement utilisé. Donc on a la même course à la performance effrénée et paranoïaque que pour l’arme atomique, mais sans même avoir le fameux équilibre de la terreur qui nous a préservés de l’annihilation nucléaire jusqu’à présent.

L’origine du projet

Et petite cerise sur le gâteau : récemment, il y a eu une interview d’un certain Eliezer Yudkowsky, un personnage assez particulier. Il explique l’origine de la stratégie d’OpenAI dont on a parlé plus haut. En 2015, il y a eu une conférence sur les risques de l’intelligence artificielle à laquelle a participé… Elon Musk. Et qu’est-ce qui est sorti de cette conférence ? Eh bien il en est sorti OpenAI, qui a notamment pu démarrer grâce à une très généreuse donation financière d’Elon Musk.

Et pourquoi Elon Musk a-t-il co-créé OpenAI ? D’après Yudkowsky, parce qu’il en avait marre que tous ses amis de la tech le traitent de « luddite », de technophobe primaire. Et donc, comme il en avait marre de se faire traiter de luddite par tous ses amis, il a opté pour une solution consistant à essayer d’avoir à la fois le beurre et l’argent du beurre : accélérer le progrès en intelligence artificielle, tout en pouvant prétendre qu’on fait cela au nom de la sécurité.

Est-ce qu’Elon Musk serait le genre de personne à prendre une décision aussi radicale et pleine de conséquences uniquement parce que son petit ego a été égratigné ? Ben, sur la base de son comportement des derniers mois, je pense qu’on peut dire oui. Clairement oui.

Que faire ?

À ce stade, la question n’est plus vraiment d’être pour ou contre ChatGPT et compagnie, parce que vu à quel point la course à la performance est lancée, je ne vois pas trop comment on pourrait remettre le djinn dans la bouteille.

Mais à défaut, on peut essayer de limiter la casse. Par exemple, à chaque fois qu’un chatbot à la ChatGPT se met à dire des trucs pas très gentils, voire dangereux, voire carrément flippants, je pense qu’il faut faire en sorte que cela fasse un bad buzz maximal, afin que les entreprises responsables aient peur pour leur réputation et soient forcées de prendre des mesures pour limiter les dérives.

On peut également pointer du doigt les énormes insuffisances de leur stratégie de sécurité et le bullshit de leur communication marketing. Et par-dessus tout, rejeter explicitement le message subliminal qu’il y a derrière toute cette communication, à savoir :

« Regardez, nous chez OpenAI, nous sommes gentils, nous sommes sérieux, nous sommes responsables. Et donc nous n’avons pas besoin d’être régulés ou tenus responsables pour nos actions. »

Il y a un parallèle évident à faire avec le greenwashing des entreprises du pétrole. Il ne faudra pas leur faire confiance. Il faudra réguler, oui, absolument. Mais pas selon leurs termes. Et il faudra être extrêmement méfiants et suspicieux face aux régulations qu’ils vont suggérer, comme nous le sommes face au lobbying de l’industrie du pétrole, du tabac ou du sucre.

Alors, que pensez-vous de tout ça ? N’hésitez pas à le dire en commentaire.