Les découvertes et les censures de Facebook

Il y a récemment eu une fuite de documents internes de Facebook, suivi de témoignages de plusieurs employés. La presse américaine a appelé cela « Facebook phone », mais ça s’est passée relativement inaperçue dans l’actualité française. Donc, on va en parler. Mais avant d’attaquer le fond du problème, voici un petit top 8 en vrac de trucs que Facebook a découvert sur son propre fonctionnement et s’est vite dépêché d’enterrer sous un terrain vague à 3 heures du matin (source dans la description).

Numéro 8 : Facebook savait que des adolescentes sur Instagram en ont rapporté en très grand nombre que l’application causaient des dégâts à l’image de leur corps et à leur santé mentale, mais s’est bien gardé de le dire.

Numéro 7 : Facebook savait que son système de modération faisait un énorme double standard entre les célébrités et les utilisateurs ordinaires, mais s’est bien gardé de le dire.

Numéro 6 : Facebook savait que sa décision en 2018 de réorienter le newsfeed vers ce qu’ils appelaient « des interactions importantes avec des amis proches », par exemple, et bien Facebook savait que la conséquence de cela a en fait été de produire encore plus de contenu politique outrageant et polarisant, mais s’est bien gardé de le dire.

Numéro 5 : Facebook avait des preuves d’interférences russes avant les élections américaines de 2016, à mai, s’est bien gardé de dire.

Numéro 4 : Facebook avait identifié toute une flopée de comptes générant de la désinformation virale, mais n’en a désactivé qu’une petite partie par peur du bagage politique.

Numéro 3 : Facebook savait que sa plateforme était le terrain de nombreuses campagnes et d’interférences électorales à travers le monde, mais les a soit ignoré, soit n’a réagi que très tardivement.

Numéro 2 : Facebook a mis fin au projet de son équipe d’intelligence artificielle visant à limiter la désinformation par peur que cela ne réduise l’engagement des utilisateurs.

Numéro 1 : Facebook a enterré un rapport de transparence montrant que sur une période de trois mois, le lien le plus partagé sur Facebook était un article dans le doute sur la sécurité des vaccins.

Évidemment, toutes ces découvertes ont été faites par des équipes de recherche interne de Facebook, mais Facebook temps n’a rien dit publiquement et a même fait des déclarations publiques contraire à ses découvertes. Autrement dit, le problème n’est pas que Facebook manque de recherches sur ses propres failles ou d’initiatives pour améliorer les choses, mais plutôt que tout cela est quasi systématiquement ignorées ou censurés par des managers, voir par le sommet de la hiérarchie.

Bon, là, vous allez me dire : « Mais pauvre bisounours, comprends-tu ? Tank pas que ces entreprises sont des machines à fric dont le profit est l’unique objectif. » Alors, certes, mais un point intéressant ici, c’est que certaines machines à fric peuvent être significativement pires que d’autres sur ce plan, et cela a à voir avec leur organisation hiérarchique.

En effet, d’après plusieurs sources internes, une partie du problème vient du fait que ce sont les mêmes personnes qui, petit 1, décident d’autoriser ou non un changement dans le fonctionnement de Facebook, et petit 2, gèrent les relations publiques de Facebook et ses relations avec la classe politique. Oui, ils sont payés pour donner une bonne image de Facebook.

Quoi, en passant, on dépeint souvent Facebook comme une sorte de bulle idéologique ultra progressiste qui votent démocrate à 99%. Eh ben, pour nuancer un peu ce tableau, il peut être utile de savoir que l’un des bras droits de Zuckerberg est un certain Joel Kaplan, un ancien membre de l’administration George Bush et vice-président de la politique publique globale chez Facebook, qui a notamment défendu les intérêts du site ultra nationaliste Breitbart News au sein de Facebook (voir dans la description), et a pris la décision d’enterrer plusieurs des initiatives suscitées.

Et il semble agir selon la logique : « Il ne faut surtout pas contrarier les parlementaires républicains de Washington. » Est un peu contrastée, cela avec Twitter, par exemple, où les décisions sur la modération et le fonctionnement de la plateforme obéissent à une chaîne de commandes séparées des relations publiques et politiques.

Les relations publiques soient informés de ces décisions après qu’elles aient été prises et n’ont pas leur mot à dire. D’après Alex Stamos, ancien chef de la sécurité chez Facebook, et dans les découvertes sur les interférences électorales russes ont été largement ignorées.

Un autre souci est que je Facebook a tendance à enfermer les gens qui travaillent sur ces problèmes dans des espèces de ghettos à l’intérieur de l’entreprise, en éloigner des chaînes de décision, est donc facile à ignorer. Et c’est intéressant parce que ça montre une piste d’amélioration des grandes plateformes numériques, une amélioration qui ne se fera pas tout seul, bien entendu.

Il faudra les aider en leur mettant la pression publiquement, politiquement et médiatiquement. En gros, pour le moment, Facebook sort à peu près en faisant du cyclone washing : ils disent « Et y regarder, on a plusieurs équipes qui travaillent sur les problèmes éthiques », oui, sauf qu’ils mettent tout leur travail à la poubelle dans l’immense majorité des cas, comme on l’a vu.

Est donc ce qu’il faudrait, c’est que l’opinion publique considère que juste dire « À regarder, il fait des trucs » ben ce ne soit plus considéré comme suffisant. Si une entreprise veut montrer qu’elle est sérieuse sur ces questions, elle doit adopter une structure hiérarchique qui ne subordonnent pas les considérations éthiques aux relations publiques, comme c’est actuellement le cas chez Facebook, et beaucoup moins le café Twitter, donc mieux.

Qui leur donne un réel pouvoir dans la chaîne de décision. L’étape suivante de la pression serait la peur que le gouvernement intervienne en ce sens, ce qui idéalement pourrait pousser Facebook à effectuer préventivement ce genre de réformes internes pour échapper à une régulation encore plus contraignantes.

Bref, ce qui semble clair aujourd’hui, c’est que certaines grandes plateformes ont déjà les connaissances nécessaires pour devenir beaucoup plus bénéfique pour la société, et une grande partie de leurs employés souhaite vraiment que les choses s’améliorent en ce sens. Et ce qui nous sépare de cela, ce sont les vétos que bos quasi systématiquement un petit nombre de managers cynique.

Et le message qu’il faudrait envoyer assez plate forme : « C vous voulez conserver une bonne image de marque, ben si vous voulez être crédible, commencez par faire votre réforme institutionnelle interne. »

Un petit ajout de dernière minute : une interview vient juste de sortir d’une certaine Francie à Horgen, qui est une sorte d’Edward Snowden de Facebook dans cette affaire, et ça alourdit encore plus le dossier. Pour rien dans la description.