Au cœur des ténèbres
PWA #27 avec Tristan Mendès France
Les télécrans de George Orwell, le soma d’Aldous Huxley : ces inventions des maîtres de l’anticipation ont souvent été citées pour évoquer les dérives les plus dystopiques de notre époque. Mais alors que 2020 touche bientôt à sa fin, les dernières semaines m’ont rappelé un autre chef-d’œuvre signé Anthony Burgess : L’Orange Mécanique, hélas moins connu que son adaptation au cinéma par Stanley Kubrick.
Dans son livre publié en 1962, Burgess illustre le concept d’ultraviolence perpétré par ses célèbres droogies qui sèment la terreur tour à tour au sein d’un gang, puis dans les rangs des forces de police. Si le récit devait être réécrit aujourd’hui, cela ne fait aucun doute qu’il inclurait un autre terrain où l’ultraviolence est devenue omniprésente : Internet.
Or, c’est précisément sur ce front que j’ai choisi de vous emmener dans cette nouvelle édition. Et le moins que l’on puisse dire, c’est que je suis bien accompagné pour mener cette expédition. Alors aujourd’hui, laissez-moi vous présenter le parcours et les idées d’un activiste engagé dans un combat plus urgent que jamais : la lutte contre l’ultraviolence numérique.
Bonne lecture à vous,
Benjamin
Plumes With Attitude est une newsletter sur l’écriture sous toutes ses formes. Si vous avez envie de suivre cette publication, abonnez-vous pour recevoir les prochaines éditions.
🎙 INTERVIEW… Tristan Mendès France, activiste
À chaque newsletter, je vous propose de découvrir le portrait et les idées d’une véritable plume “With Attitude”. Aujourd’hui, j’ai le plaisir de recevoir Tristan Mendès France. En tant que maître de conférences associé à Paris Diderot et collaborateur de l’Observatoire du Conspirationnisme, il est engagé le terrain de l’éducation aux cultures numériques, de la lutte contre le complotisme et du combat contre la haine en ligne.
Bonjour Tristan et merci d’avoir accepté l’invitation ! Aujourd’hui, tu es engagé sur trois batailles en tant que maître de conférences et activiste : la lutte contre la haine, le combat pour contre le complotisme et l’éducation au numérique. Comment sont arrivés ces différents engagements dans ta vie ?
Mon premier engagement remonte aux années 90 à travers mon combat contre l’extrême droite, et en particulier contre son discours de haine sur la question du négationnisme. Ce dernier a ouvert ma sensibilité au sujet du complotisme, dans le sens où le négationnisme en est une manifestation. Les années 90 auront également marqué ma découverte d’Internet. Mes premiers contacts avec le numérique m’ont donné la sensation que ce nouvel univers allait devenir une composante essentielle de nos vies dans les décennies à venir. Ça a aussi nourri ma vocation universitaire, ainsi que ma volonté d’enseigner sur ce sujet.
Ce bouleversement du numérique a également été pour toi un basculement de format. Pour toi qui as longtemps été un homme de terrain adepte du format documentaire, Internet a représenté un nouveau territoire à explorer.
Avant Internet, je m’étais effectivement intéressé à différents modes d’expression. J’avais notamment écrit et réalisé quelques documentaires d’investigation. J’ai donc essayé de voir comment utiliser le numérique pour continuer mes explorations. Et c’est autour de 2005 que j’ai lancé avec Alban Fischer un blog de vidéo-reportages autour du monde. Par ce format, j’ai utilisé le numérique non pas pour rester derrière un écran, mais justement pour explorer la planète. On a fait plusieurs fois le tour du globe avec une petite association et très peu de moyens pour réaliser des reportages dans des endroits comme le Darfour, la Laponie ou encore le Kirghizstan. Ces nouveaux formats offerts par le numérique m’ont permis de voyager et d’apprendre énormément.
Tu as été auteur, chroniqueur et réalisateur, ce qui me laisse penser que ton goût pour l’écriture occupe une certaine place dans ta vie. D’où t’es venu celui-ci et comment a-t-il évolué avec le temps ?
Pour tout dire, je ne me considère ni comme un homme de plume ni comme un amoureux de l’écriture. Le processus en lui-même a toujours été pour moi quelque chose d’assez laborieux. J’ai commencé à écrire des articles dans les années 90, qui étaient d’ailleurs souvent coécrits avec quelqu’un qui s’appelle Michaël Prazan et qui est aujourd’hui un documentariste reconnu. C’est en publiant des tribunes ça et là que j’ai appris à développer mon goût pour le format. J’ai aussi écrit quelques livres d’investigation, mais le dernier commence à remonter. Je considère avant tout l’écriture comme une modalité de mon engagement. Ma pratique de l’écrit a d’ailleurs vite basculé avec l’évolution de l’univers numérique et de ses formats. Enfin, ce n’est pas par l’écriture que je me trouvais le plus efficace dans mon activisme en ligne.
Justement, parlons-en. Comment distingues-tu ton combat contre la haine en ligne d’une part et ta lutte contre le complotisme de l’autre ?
Pour moi, la haine et le complotisme sont toujours liés. Tout discours fondamentalement haineux repose systématiquement sur une vision biaisée de la réalité. Et pour être haineux, il faut qu’un mécanisme psychique nous conduise à percevoir un dispositif qui nous permette d’asseoir cette haine vis-à-vis d’un groupe d’individus. Or, ce dernier repose quasi-systématiquement sur une approche complotiste. Par exemple, l’anti-sémitisme est fondé sur des accusations à l’encontre des Juifs qui relèvent d’une vision biaisée de l’Histoire. Et cette vision altérée de la réalité des faits historiques est basée sur un discours complotiste. Le terrorisme est d’ailleurs un exemple de manifestation d’une haine qui franchit le cap de la violence au nom d’idées complotistes. Et cela vaut aussi bien pour l’islamisme radical que pour l’extrême droite suprémaciste blanche.
Depuis quelques années, on parle de plus en plus de “post-vérité”, qui est justement un concept fondé sur des schémas narratifs divergents. Mais si la violence se manifeste parfois dans la vie réelle, elle est en revanche omniprésente en ligne. Et le format texte étant encore aujourd’hui un mode de communication prédominant sur Internet, alors peut-on considérer la distance procurée par l’écrit comme une alliée de la haine ?
Les discours de haine ont toujours existé et se sont manifestés dans tous les formats. Reste qu’il y a eu deux moments très importants dans l’accélération des discours de haine : l’arrivée d’Internet, puis celle des réseaux sociaux. Tous deux ont contribué à une sorte de dérégulation du marché de l’information qui a permis à des voix marginales de trouver une audience qu’elles n’avaient pas auparavant. Dans les années 90, les groupuscules d’extrême droite que j’étudiais avaient une portée médiatique extrêmement limitée. Il y avait notamment quelques librairies faschistes et des médias d’extrême-droite comme Radio Courtoisie. Mais l’Internet des années 2000 leur a offert de nouveaux débouchés sans précédent. Les réseaux sociaux, quant à eux, ont révélé de façon extraordinaire la capacité de ces discours marginaux à avoir une visibilité qui va bien au-delà de la réalité sociale qu’ils représentent. Cela vient du fait de la circulation virale de l’information sur les réseaux sociaux, couplée au fonctionnement des algorithmes qui augmentent artificiellement la visibilité de contenus toxiques.
Il y a également la question des bulles de filtres que cela génère. J’en avais moi-même fait l’expérience en rejoignant volontairement le premier groupe Facebook national des Gilets Jaunes pour observer le phénomène de l’intérieur. Et j’avais été frappé par la transformation radicale de mon fil d’actualité du jour au lendemain, qui a rapidement été envahi par les nombreuses publications du groupe. J’avais très vite senti que ce matraquage à longueur de journée entre fake news et appels au chaos avait assombri mon moral en quelques jours seulement, ce qui m’a amené à arrêter l’expérience au bout d’une semaine. Mais je n’ai pas eu besoin de plus de temps pour me rendre compte du cercle vicieux que constituent les bulles de filtres. Et en préparant cette interview, je suis tombé sur une de tes interventions dans laquelle tu dis que l’algorithme Facebook avait été modifié pour favoriser à la fois le contenu local et celui provenant des groupes. Et je reconnais que c’est la recette parfaite pour créer ces fameuses bulles de filtres dans lesquelles on se retrouve vite piégés.
Le cas des Gilets Jaunes est assez symptomatique du caractère toxique que peuvent avoir les réseaux sociaux. Je précise que mon point n’est pas de juger la légitimité de leur combat et de leurs revendications, mais de me focaliser sur l’écosystème dans lequel le mouvement s’est développé. Comme tu l’évoquais, la montée en puissance de ce dernier s’est appuyée sur les groupes Facebook. Leur visibilité avait été favorisée par l’algorithme quelques mois plus tôt, et ce au détriment des Pages qui sont davantage utilisées par les médias traditionnels. Et effectivement, cette nouvelle façon qu’avait l’information de circuler au sein de cet écosystème a eu pour conséquence un certain enfermement des utilisateurs. Et pour tous les gens qui s’informent uniquement sur les réseaux sociaux (à savoir une majorité d’entre nous), cet enfermement a donné naissance à une quantité phénoménale de bulles de filtres nourries par les algorithmes. Or, les recommandations de ces derniers font la part belle au contenu spectaculaire, choquant et bien sûr clivant. Et lorsqu’on rentre dans cet engrenage, on se retrouve absorbés par ce que les algorithmes ont tendance à faire remonter, à savoir des publications basées sur des contre-informations, des contenus violents, choquants, stressants, frustrants, et j’en passe. Cela a eu un impact certain sur la force de frappe des Gilets Jaunes, ainsi qu’une responsabilité dans la radicalisation d’une partie du mouvement.
Ça m’évoque une citation attribuée à Marshall McLuhan : “We shape our tools, and thereafter our tools shape us”. Cette année marque notamment le dixième anniversaire d’Instagram. Et je ne peux pas m’empêcher de penser à quel point les réseaux sociaux ont été les moteurs de cette décennie, parfois pour le meilleur et souvent pour le pire. Le conflit étant vecteur d’engagement, et l’engagement étant l’une de leurs métriques centrales, ces plateformes ne peuvent lutter contre la toxicité du contenu dont elles facilitent la diffusion sans une remise en cause profonde de leur business model.
Au-delà de l’accélération du conflit en ligne, c’est la dérégulation du marché de l’information qui me semble être le principal travers de ces plateformes. Et si ce n’est évidemment pas une mauvaise chose que tout le monde puisse s’exprimer et trouver une audience, de nombreuses limites ont été franchies. D’une part, les discours issus des médias d’autorité y sont systématiquement discrédités. De l’autre, on se retrouve avec un circuit d’informations où une parole en vaut une autre et où les sources ne sont souvent ni citées ni vérifiées. Et là où ça pose un vrai problème, c’est quand on prend en compte le fait que les algorithmes ont tendance à privilégier les contenus extrêmes. Et il y a une raison très simple à cela : des propos modérés, raisonnés et équilibrés seront tout simplement moins engageants que des propos virulents, choquants ou à contre-courant de ce que les complotistes appellent “la pensée dominante”. Un des exemples assez flagrants par rapport à ça, c’est qu’il y a beaucoup de groupes Facebook anti-masque, mais pas — ou alors très peu — de groupes pro-masque. En même temps, militer pour le port du masque n’est pas forcément une chose qui viendrait à l’esprit des gens qui ont une position mesurée vis-à-vis du sujet. Les réseaux sociaux ont d’ailleurs cette particularité que la visibilité de l’information qui y circule n’est pas liée à son crédit ou à sa qualité, mais à la militance qui pousse sa diffusion. Plus il y a une communauté engagée qui va relayer une information, plus celle-ci va être visible. Cet écosystème général fait que l’on est aujourd’hui plus que jamais susceptibles de se retrouver exposés à des discours marginaux qu’à des prises de positions raisonnées et équilibrées. Enfin, il y a évidemment les algorithmes dont la logique fondamentale est de trouver le contenu qui va garder les utilisateurs captifs sur la plateforme afin qu’ils soient exposés le plus possible à la publicité. En soi, je ne diabolise pas cette logique algorithmique. Il n’est selon moi pas illégitime de se voir pousser du contenu adapté à ses centres d’intérêts. Le problème, c’est que cette logique commerciale va s’appliquer unilatéralement, y-compris sur le marché politique ou celui des idées. Sur YouTube en particulier, une vidéo ne va pas être recommandée à un utilisateur pour la qualité de son contenu, mais pour la qualité de l’engagement que suscite ce contenu. Ce n’est d’ailleurs pas tant le nombre de vues qui va être un marqueur intéressant pour les algorithmes, mais le fait que les gens les regardent jusqu’au bout. Et quand bien même certaines vidéos complotistes ou haineuses peuvent durer plus de deux heures, le caractère militant de leur contenu fera que de nombreux utilisateurs auront tendance à les regarder en totalité. La conséquence, c’est que ça va envoyer le signal aux algorithmes de pousser ce contenu au-delà de la communauté naturelle à laquelle il s’adresse. Il y a un chiffre particulièrement frappant que je rappelle souvent : 70% des vidéos consommées sur YouTube sont le fruit d’une recommandation algorithmique [source]. Ça veut dire que les contenus qui vont développer des idées chez les individus et façonner l’opinion public sont dans 70% des cas issus d’une suggestion faite par des algorithmes — et non par des humains. Je trouve ça juste vertigineux.
Je n’aurais jamais imaginé que le chiffre était si haut. Tout cela m’amène à aborder le sujet de ton périmètre d’action en tant qu’activiste. Tu es aujourd’hui à la tête de deux initiatives qui luttent contre les discours de haine. Tu peux nous en dire plus ?
Je travaille avec l’Observatoire du Conspirationnisme, avec qui on a réfléchi à une façon de répondre aux nombreuses dérives autour de l’accélération des discours haineux et complotistes. Ce qu’on voulait, c’est trouver des dispositifs qui ne portent pas atteinte à la liberté d’expression, en gardant à l’esprit l’idée que tant qu’un contenu n’est pas considéré comme illégal aux yeux de la justice, alors il n’a pas à être retiré. C’est dans ce contexte qu’on en est arrivés à deux projets. Le premier projet est né en 2019 et s’appelle Stop Hate Money. Celui-ci a pour objectif de responsabiliser les acteurs économiques qui permettent à des discours haineux et complotistes de se répandre, et donc d’avoir une visibilité encore plus grande. Or, il se trouve qu’il y a tout un écosystème d’entreprises qui, volontairement ou non, participent à leur financement et leur diffusion. Il y a par exemple les plateformes de crowdfunding, les acteurs de la publicité programmatique ou encore les services de paiement en ligne qui vont permettre à certains groupes à se rémunérer. Notre action va être d’interpeller toutes ces entreprises en leur posant simplement la question de savoir si elles sont conscientes de ça et en accord avec le fait de participer à la promotion et au financement de ces discours. Le second projet s’appelle RiPOST et repose sur les crédits publicitaires offerts par Google à des associations comme l’Observatoire du Conspirationnisme. L’idée, c’est d’enchérir sur certains mots-clés afin de réorienter les personnes qui font des recherches susceptibles de les exposer à du contenu toxique. Aujourd’hui, on a une centaine de campagnes liées à des mots-clés comme “grand remplacement” ou “nouvel ordre mondial” qui renvoient vers des pages pédagogiques qui expliquent simplement et sobrement la réalité ou le caractère complotiste des terminologies concernées. L’objectif, c’est de crever les bulles de filtres les plus toxiques en détournant le fonctionnement des algorithmes publicitaires.
C’est d’ailleurs un rôle que les plateformes devraient elles-mêmes adopter autour de ces enjeux. Ce qui m’amène à te demander : quels sont les changements les plus importants que tu aimerais voir émerger de leur côté ?
La première mesure que les réseaux sociaux devraient appliquer, c’est la décélération algorithmique des contenus toxiques. L’idée n’est pas de censurer à tout va pour neutraliser les comptes, groupes et chaînes qui posent problème — sauf quand c’est illégal bien sûr. Ce qu’il faudrait selon moi, c’est que la portée organique de ces contenus toxiques corresponde à la réalité de l’audience marginale à laquelle ceux-ci sont destinés. Ça implique donc que cette portée ne soit pas élargie artificiellement de façon algorithmique. C’est un combat dans lequel les plateformes sociales ont un rôle majeur à jouer. Le second axe sur lequel elles devraient agir, c’est le barrage au financement des discours de haine. Il y a hélas encore beaucoup trop de chaînes YouTube extrêmement toxiques qui continuent à monétiser leurs vidéos grâce au système de rémunération des créateurs mis en place par la plateforme. Une monétisation qui, bien entendu, est facilitée par la recommandation algorithmique.
Pour finir, j’aimerais aborder avec toi le sujet des récepteurs de ces discours, c’est-à-dire potentiellement tout un chacun. Comme tu le disais pour les Gilets Jaunes, on peut légitimement être en colère aujourd’hui, que ce soit sur le volet économique, politique, social, sanitaire ou vis-à-vis de problèmes systémiques comme les inégalités, l’injustice et les discriminations. Reste que la colère est une chose, la haine en est une autre. Et comme en témoignent la montée du populisme à travers le monde et ses frontières de plus en plus fines avec le complotisme, ce serait une grossière erreur que de penser que ces discours sont le seul fait d’une minorité de fous ou d’illuminés. Alors je me demandais : où se situe selon toi le point de bascule entre colère, haine et complotisme ?
La colère est clairement un carburant de la haine. Et la haine ouvre les portes du complotisme. Il n’y a pas de doute là-dessus. Ce qu’il est important de souligner, c’est que toute personne haineuse ou complotiste n’est pas forcément quelqu’un qui est peu éduqué, qui n’est pas intelligent ou qui n’a pas de capacités intellectuelles significatives. C’est hélas un phénomène qui peut toucher tout le monde, quel que soit le milieu social et le niveau d’éducation. Alors il ne faut pas pointer du doigt ces colères et frustrations. Car comme tu le dis, elles sont parfaitement légitimes. C’est la haine qui ne l’est pas. Et la montée de cette haine illégitime fondée sur des idées complotistes est également le symptôme d’une société qui va mal.
Au-delà d’une perméabilité accrue des individus à ces idées, il y a aussi une certaine banalisation de la présence de ces discours complotistes dans le débat public. Et s’il y a des voix issues des médias ou de la politique qui s’élèvent contre ces idées, celles-ci sont souvent décrédibilisées par leur appartenance à la fameuse “pensée dominante”. Mais j’ai parfois cette impression qu’une grande majorité d’individus restent dans un rôle de simples spectateurs face à cette montée du populisme. Alors pour conclure cette interview, je voulais te demander : quelles sont tes recommandations pour combattre ces idées à son échelle?
Les conseils sont toujours très délicats à donner, dans la mesure où le problème est avant tout systémique. Reste qu’à titre individuel, je trouve qu’il est important de rappeler qu’il ne faut jamais décontextualiser une information de sa source, et qu’il faut toujours vérifier la véracité de cette dernière. Aussi crédible qu’une information puisse paraître, aussi spectaculaires que peuvent être les images d’une vidéo qui semblent bien réelles, il faut toujours se questionner sur le crédit et les motivations de la personne, du média ou de la structure qui pousse une information. Mon deuxième conseil, c’est de ne jamais oublier que l’on est — qu’on le veuille ou non — toujours exposé à un contenu qui a été travaillé par les algorithmes. Or, ces derniers vont systématiquement accentuer notre enfermement dans des préjugés et convictions qui nous sont propres, en nous proposant des contenus qui vont dans le sens de ce que l’on pense. Prendre conscience de ce fait peut nous permettre d’en éviter certains écueils. Enfin, mon dernier point ne se situe pas au niveau de l’individu mais à plus grande échelle. Selon moi, l’axe le plus important sur lequel on doit travailler contre les dérive de la haine et du complotisme, c’est évidemment l’éducation. Le problème, c’est que le délai d’implémentation des antidotes qu’on pourrait proposer est plus lointain que l’urgence à laquelle nous sommes actuellement exposés. Il y a un feu qui est allumé et la mise en place des outils qui nous permettraient de l’éteindre prendra du temps. Seulement, la corruption des esprits par ces discours, elle sévit depuis des années. Or, c’est aujourd’hui qu’il faut la combattre. Et l’éducation est la meilleure arme à notre disposition.
Voilà qui me semble être la conclusion parfaite de cette riche conversation. Un grand merci Tristan pour avoir partagé ton expérience et ton engagement autour de ces sujets si importants. Je te souhaite bon courage pour la suite de ton combat qui nous rappelle à chacun l’importance d’agir à notre façon et à notre échelle pour lutter contre ces menaces qui sont plus que jamais d’actualité.
Ses 3 lectures sur la lutte contre la haine :
Paul Congé — Les Grands Remplacés : “Un livre qui nous éclaire sur les nouveaux canaux de propagande de l’extreme droite.”
Rudy Reichstadt — L’Opium des Imbéciles : “Une lecture essentielle sur le combat à mener contre le complotisme.”
Nadine Fresco — Fabrication d’un Antisémite : “ Un livre qui retrace le parcours de Paul Rassinier, l’un des fondateurs du mouvement négationniste.”
🔮 KNOWLEDGE IS POWER… Maintenant vous savez !
Le titre de mon nouveau livre de chevet résume plutôt cette nouvelle sélection.
Healthy food for thought : Nous avons tous une inclinaison plus ou moins prononcée pour la pensée indépendante ou conventionnelle. Paul Graham nous rappelle avec justesse les tenants et aboutissants de chacune de ces voies. Son superbe essai nous livre les clés pour faire évoluer notre façon de pensée : la curiosité intellectuelle et la diversité dans nos interactions.
Juste une mise au point : Nir Eyal, l’auteur de Hooked et Indistractable, nous livre sa critique du documentaire Netflix, The Social Dilemma, et nous rappelle les leviers à notre disposition pour résister à ces fameux algorithmes en quête de notre attention. Et la bonne nouvelle, c’est que tout n’est pas perdu. Loin de là.
Sociologie moderne : Il me tarde de creuser ce rabbit-hole sur la fabrique des sous-cultures numériques, des mouvements créatifs et du… “cool”. Fanatiques, sociopathes et touristes s’y livrent une succession de guerres intestines à la Game of Thrones pour prendre l’ascendant sur les nouveaux modes d’expression de notre époque. Toutes ressemblances avec des faits réels ne sont évidemment pas une coïncidence.
🎣 PETITES ANNONCES… Missions freelances & CDI
Pour relayer une mission freelance ou une offre en CDI : benjamin.perrin.pro@gmail.com
Virgil a besoin de deux plumes freelances Édito et Newsletter.
Colette cherche un(e) Community Expert.
Contexte est à la recherche d’un(e) Journaliste Transports.
Orbit recrute un(e) Community Advocate.
Shipup cherche un(e) Content Manager.
🗣 MEANWHILE… L’actu des lecteurs
Et vous, ils ressemblent à quoi vos projets du moment ? Écrivez-moi pour m’en parler et apparaître dans la prochaine édition.
Prescillia et Thomas ont publié leur livre en temps record : Le Grand Plongeon.
Kevin nous initie aux soirées sur Google Docs partagés.
Carline a interrogé trois enfants sur leur perception du racisme dans son podcast.
Hicham a publié la dixième édition de sa newsletter sur le futur de la ville.
Noémie est passée en interview au micro d’Alexis.
Brice a compilé ses meilleures ressources sur le copywriting — et cite PWA.
Marie dresse un état des lieux des tendances Direct-to-Consumer du moment.
Jeddi parle du business autour de la vente de carte Pokémon dans son podcast.
Céline s’est faite interviewer sur la communication politique.
DERNIÈRE CHOSE…
C’est que je commence à prendre goût à annoncer les bonnes nouvelles en fin d’édition. La dernière en date, c’est la publication de mon interview par Noémie Kempf pour son podcast The Storyline (encore merci pour l’invitation ! 😊 ).
Je reviens sur la construction de Plumes With Attitude, évoque mes inspirations parfois farfelues et donne même des petits conseils d’écriture aux courageux qui écouteront l’épisode jusqu’au bout.
D’ici la prochaine édition — qui marquera la dernière interview de l’année,
May the words be with you,
Benjamin
P.S : Retrouvez toutes les newsletters précédentes dans l’archive de Plumes With Attitude. Et si vous avez aimé cette édition, n’hésitez pas à la partager autour de vous, ainsi qu’à vous abonner pour recevoir les suivantes par e-mail.