Déradicaliser par les recommandations YouTube

Dans une précédente capsule (voir la description), j’avais évoqué une façon dont YouTube pourrait lutter beaucoup plus efficacement contre diverses dérives idéologiques (terrorisme, antivaxisme, QAnon…). Il s’agirait non pas de censurer quoi que ce soit – et j’insiste là-dessus, parce que le mot « censure » est revenu plusieurs fois dans les commentaires – mais simplement, pour certains types de vidéos, d’intégrer des playlists de « déradicalisation » dans la barre des recommandations. Pas toutes les recommandations, mais au moins une de temps en temps.

Et la question, c’était de savoir si ce serait (non pas une solution parfaite, ce qui n’existe pratiquement jamais, mais à défaut) une amélioration par rapport à la situation actuelle. Et beaucoup de gens pensent que oui, vu que nous sommes dans la file Twitter de rationalistes technophiles. Mais pas tout le monde.

Et dans cette capsule, je voudrais revenir sur les principales objections que j’ai vu passer.

Objection 1 : la neutralité idéologique

« Les recommandations de YouTube doivent rester idéologiquement neutres. »

Bon, faudrait définir ce qu’on entend par « neutre », mais en tout cas les recommandations actuelles sont très loin d’être neutres. Par exemple, elles favorisent largement les contenus de type antivaccins ou alt-right. Bien sûr, ça n’a jamais été l’intention initiale des développeurs de YouTube. Mais au final, les intentions importent peu : ce sont les conséquences concrètes qui comptent. Et aujourd’hui, tout se passe comme si quelqu’un chez YouTube avait délibérément décidé de mettre en avant ce type de vidéos.

Certains pourraient objecter que ces vidéos, d’une certaine manière, « méritent » d’être mises en avant (peu importe leur contenu idéologique) parce qu’elles génèrent davantage d’engagement de la part des utilisateurs. Ben oui, c’est pour ça qu’elles sont mises en avant à la base. Mais bon, considérez l’idéologie que vous détestez le plus, et imaginez qu’un milliardaire maléfique décide d’utiliser sa fortune pour financer la création de vidéos dans cette idéologie, avec toute une équipe de data scientists pour optimiser leur mise en avant sur YouTube. Est-ce que ça vous semblerait toujours être un bon critère pour décider ce qui doit être mis en avant ? Ou du moins, est-ce que ça devrait être le seul critère ?

Objection 2 : faire confiance à Google

« On ne peut pas faire confiance à des entreprises comme Google pour déterminer quel type de contenu il faut déradicaliser. »

Mais on leur fait déjà passivement confiance pour nous recommander absolument tout ce qu’elles veulent, via un algorithme qui est une boîte noire totale. Le but ici, ce n’est pas d’avoir un critère parfait pour évaluer la pertinence de n’importe quel type de contenu. Beaucoup plus prosaïquement, Google estime que la prolifération de certains types de contenus nuit à son image en tant qu’entreprise, et prétend déjà lutter contre (par exemple avec les liens vers le site de l’OMS sous les vidéos qui parlent du Covid-19). Et là, il s’agirait juste de le faire plus efficacement, sans recourir à la censure. Encore une fois.

Les grandes plateformes ont des règles propres qui varient d’une plateforme à l’autre (par exemple, on peut poster de la pornographie sur Twitter mais pas sur Instagram). Et ces règlements évoluent en permanence. On peut donc voir ça comme une extension de ces règlements. Et on peut bien sûr ne pas être d’accord, tout comme on n’est pas forcément d’accord avec certains articles d’un règlement. Mais ça, c’est un autre problème.

Objection 3 : c’est insuffisant

« C’est bien, mais c’est largement insuffisant. »

Eh bien, c’est tout à fait possible. Mais je suis toujours un peu surpris par cette manière de penser. C’est un peu comme dormir dans la forêt, dans le froid et sous la pluie, puis réaliser qu’on peut se construire une cabane avec des branches d’arbres, puis se dire qu’on pourrait construire une vraie maison avec des pierres, puis réaliser que c’est pas possible, et continuer à dormir dehors, alors qu’on aurait pu se construire une cabane avec des branches d’arbres.

D’autant plus qu’on parle de numérique là, donc améliorer les solutions déjà en place n’est pas forcément très coûteux. Au contraire, une version 1.0 permet souvent d’envisager beaucoup plus sérieusement une version 2.0.

Objection 4 : le paternalisme

« Faire de telles recommandations sur YouTube, ce serait du paternalisme. »

Autrement dit, si l’algorithme de YouTube nous recommandait certains contenus « pour notre bien », ce serait infantilisant. Nous voulons tous être des adultes responsables qui volent de nos propres ailes, n’est-ce pas ?

Mais est-ce vraiment le cas aujourd’hui sur YouTube ? En gros, aujourd’hui, l’algo de YouTube, c’est pas un papa moustachu qui veut notre bien. C’est un représentant de commerce qui essaie de nous refourguer des produits dont on n’a ni besoin ni réellement envie, de nous rendre dépendants à certains contenus toxiques, de monopoliser notre attention.

Bon, bien sûr, c’est pas ça 100 % du temps (il y a plein de recommandations très utiles sur YouTube). Mais les recommandations « paternalistes » dont on parle ici, ce ne serait pas non plus 100 % du temps.

Et partant de là, il y a deux cas possibles :

Soit on se pense capable d’ignorer les recommandations toxiques et addictives qui existent aujourd’hui, auquel cas on devrait être à plus forte raison capable d’ignorer les trucs qui nous sont recommandés « pour notre bien ».
Soit on n’est pas capable d’ignorer les recommandations toxiques, et dans ce cas, tant qu’à faire, est-ce que ce serait pas mieux d’avoir des recommandations « pour notre bien » pour compenser ?

Parce que sinon, ça reviendrait à dire : « Les recommandations qui essayent d’aller dans le sens de l’intérêt général ? Ça, non, moi vivant, jamais ! Par contre, les recommandations qui servent à nous rendre accros, furieux ou à nous faire acheter des trucs inutiles ? Ça, ok, aucun souci, c’est open bar. »

Ce que je trouve un peu étrange comme position.

Alors, que pensez-vous de tout ça ? N’hésitez pas à le dire en commentaire.