Face à la haine en ligne, faut-il réguler davantage l’espace public numérique ?

Date

23 octobre 2020

Partager

Résumé

Jean Castex souhaite créer un “délit de mise en danger par la publication de données personnelles”. Un tel délit existe peut-être déjà en droit français. Mais ce qui importe surtout est la question épineuse de la façon dont une telle législation pourra être concrètement mise en action pour protéger des personnes.

Date

23 octobre 2020

Partager

Résumé

Jean Castex souhaite créer un “délit de mise en danger par la publication de données personnelles”. Un tel délit existe peut-être déjà en droit français. Mais ce qui importe surtout est la question épineuse de la façon dont une telle législation pourra être concrètement mise en action pour protéger des personnes.

Très rapidement après le meurtre de vendredi soir, les réseaux sociaux ont été identifiés comme des vecteurs de radicalisation responsables de l’attentat. Pour de nombreux éditorialistes et dirigeants politiques, “c’est la faute aux réseaux sociaux !”. Plusieurs raisons doivent en réalité nous inciter à la prudence, cette capacité à peser avec précaution le mal ou le bien qui pourraient découler d’une action ou d’une décision. Dans un moment émotionnel, devant l’envie d’en découdre, la prudence doit être notre boussole.

En effet, combattre les mots dans un espace public ne doit pas divertir du problème fondamental : les comportements. Que dire des parents qui trouvent justifié de venir attendre un enseignant à la sortie de l’école pour en découdre ? Que penser de cette sourde contestation des principes fondamentaux de la République de la part de nombreux élèves, qui maintiennent des propos antisémites ou homophobes, qui refusent de critiquer les attentats ? Désigner des bouc-émissaires est une vieille méthode pour éviter de se confronter aux problèmes fondamentaux, plus complexes. Le rapport Obin, édité récemment chez Hermann et relayé dans l’une de nos dernières newsletters, nous signalait depuis longtemps l’effondrement de la laïcité à l’école. Il avait été enterré avec précaution. Or c’est ici précisément que se situe la mère de toutes les batailles.

Par ailleurs, laisser la liberté de parole, y compris à ceux qui lui sont hostiles, est l’un des paradoxes traditionnels des démocraties. C’est ce qui les fragilise ; c’est aussi ce qui fait leur force. Car l’expression de toute passion forte peut servir de catharsis, on le sait depuis les Anciens. Car les réseaux sociaux permettent d’identifier et de cartographier les réseaux criminels. Mettre la pression sur Twitter ou Facebook revient à désagréger et déconcentrer les activistes sur des espaces plus complexes à surveiller. C’est la traditionnelle expression : “il ne faut pas casser le thermomètre”. Encore faut-il que les services de l’État aient ou se donnent les moyens de suivre avec attention ces espaces.

Ce qui pose la question plus large de la capacité technique et philosophique à veiller, détecter et modérer les discours de haine en vue de leur censure éventuelle. Quand un militant d’extrême droite note « le petit Mohamed a volé une mobylette #unechancepourlafrance », le hashtag relève bien d’un discours raciste alors même que l’expression « une chance pour la France » est généralement considérée comme anti-raciste dans l’espace public français. L’islam radical utilise aujourd’hui les mêmes méthodes. Comment un algorithme peut-il décoder ? Comment la loi peut-elle sévir contre celui qui se protègera derrière l’humour ? Sans compter que la massivité de l’information pèse. 43 milliards de commentaires seraient postés chaque jour sur Facebook.

Enfin, l’argument le plus lourd est celui de la liberté d’expression. C’est celui qui a donné lieu à la censure partielle de la loi Avia sur la haine en ligne par le conseil constitutionnel. La liberté d’expression, et son corollaire le pseudonymat (le fait de pouvoir s’exprimer sous pseudo) comme le droit d’exprimer des opinions qui peuvent choquer la majorité, est le cœur de nos systèmes démocratiques. Nous sommes peut-être entrés dans une époque de remise en cause de cette tolérance là, mais ce sera à nos risques et périls.

Tous ces arguments ne peuvent être des excuses au service de l’inaction. Prudence n’est pas lâcheté ou mollesse. Pour le vieux Platon, cette vertu marche avec les trois autres cardinales : la justice, la force et la tempérance. Il existe effectivement de nombreux problèmes aujourd’hui posés par les réseaux sociaux, sur lesquels il faut travailler.

Tout d’abord un dysfonctionnement des mécanismes légaux en place (réaction des plateformes sociales trop lente et désorganisée, manque de moyens de Pharos, dont il faut saluer le travail malgré tout précieux). Le compte Twitter du tueur, pourtant typique des comptes de l’islam radical, n’a pas été suivi ni fermé entre son signalement de juin 2020 par la LICRA et son utilisation par l’assassin 5 mois après. Pendant ce temps, il a participé à diffuser des contenus de propagande.

Ensuite, nous relevons en permanence dans l’espace public français des stratégies d’influence de la part de groupuscules et d’États qui manifestent une hostilité marquée à l’égard des intérêt actuels du pays, qu’il s’agisse de la Turquie (le terroriste était un grand « fan » d’Erdogan), de la Russie, du Qatar, de la Chine, des États-Unis… Auxquels il faut rajouter des acteurs privés organisés qui diffusent des contenus d’influence sans que les contre-feux démocratiques ne puissent les contenir. Ce week-end, certains milieux communautaires bruissaient de l’argument « deux poids deux mesures » après l’agression au couteau de deux femmes dans un parc (un crime présenté de façon rapide comme islamophobe, malgré le compte-rendu pourtant clair de CheckNews, le service de fact-checking de Libération. Un média comme AJ+ (Al Jazeera) a relayé sans vergogne ni précaution de telles informations. En parallèle, certaines mouvances de la fachosphère diffusaient dans des tweets et des articles en ligne la rumeur selon laquelle Samuel Paty allait être sanctionné par le rectorat.

Evolution des engagements organiques d'AJ+, RT et Sputnik

Troisièmement, les réseaux sociaux d’aujourd’hui ont été conçus comme des outils de viralité marketing, davantage que comme des espaces publics destinés à accueillir un débat démocratique. Énumérons quelques limites des plateformes. La colère est l’émotion qui fait le plus partager des articles et des posts. Il n’existe pas de fonctionnalité offrant un droit de réponse à quelqu’un qui serait mis en cause : Samuel Paty ou son collège n’ont pas eu d’espace pour répondre à la vidéo du père de famille (ne serait-ce que pour dire que la jeune femme n’assistait pas au cours), et il est peu probable que de telles réponses auraient permis d’apaiser le débat. Par ailleurs, un réseau social comme Facebook fonctionne comme une « boîte noire », en ce qu’il est extrêmement difficile d’avoir accès à des données fiables sur ce qui y circule. Tout ceci nécessite de travailler avec les plateformes pour faire évoluer leur mode de fonctionnement. L’État et la société civile (notamment les entreprises, souvent plus expertes dans le numérique) doivent agir pour faire évoluer ces espaces aujourd’hui dysfonctionnels.

Quatrièmement, chacun s’est aperçu que les grandes institutions ne disposaient pas de capacités réelles pour gérer les crises numériques. Ceci commence à susciter l’inquiétude, 21 ans après l’invention de Google. Jérôme Salomon, le DGS, fait toujours ses posts d’information sur son LinkedIn personnel. Certes, il y dispose maintenant de 40 000 followers, mais est-ce au niveau ? Les grandes entreprises françaises les plus avancées sont aujourd’hui équipées d’un continuum entre la veille et l’alerte numérique, la qualification des menaces, le contre-discours, la protection des personnes exposées dans le numérique (en cas de menace ou d’adresse physique diffusée) et la protection physique des lieux et des personnes. Les capacités font défaut manifestement tout autant dans le ministère de la santé que de l’éducation nationale.

Enfin, dernier sujet de questionnement, l’usage actuel du “name and shame” (dénonciation du comportement d’un ou plusieurs individus) associé au “doxing” (adresse personnelle ou photo rendues publiques) s’est développé dans les dernières années. Il a participé à l’assassinat de Samuel Paty. Dans différents registres, Mila, Mennel Ibtissem, les époux Alboud sont tous des particuliers ayant subi un orage numérique de cet ordre. Jean Castex souhaite créer un “délit de mise en danger par la publication de données personnelles”. Un tel délit existe peut-être déjà en droit français. Mais ce qui importe surtout est la question épineuse de la façon dont une telle législation pourra être concrètement mise en action pour protéger des personnes.

Très rapidement après le meurtre de vendredi soir, les réseaux sociaux ont été identifiés comme des vecteurs de radicalisation responsables de l’attentat. Pour de nombreux éditorialistes et dirigeants politiques, “c’est la faute aux réseaux sociaux !”. Plusieurs raisons doivent en réalité nous inciter à la prudence, cette capacité à peser avec précaution le mal ou le bien qui pourraient découler d’une action ou d’une décision. Dans un moment émotionnel, devant l’envie d’en découdre, la prudence doit être notre boussole.

En effet, combattre les mots dans un espace public ne doit pas divertir du problème fondamental : les comportements. Que dire des parents qui trouvent justifié de venir attendre un enseignant à la sortie de l’école pour en découdre ? Que penser de cette sourde contestation des principes fondamentaux de la République de la part de nombreux élèves, qui maintiennent des propos antisémites ou homophobes, qui refusent de critiquer les attentats ? Désigner des bouc-émissaires est une vieille méthode pour éviter de se confronter aux problèmes fondamentaux, plus complexes. Le rapport Obin, édité récemment chez Hermann et relayé dans l’une de nos dernières newsletters, nous signalait depuis longtemps l’effondrement de la laïcité à l’école. Il avait été enterré avec précaution. Or c’est ici précisément que se situe la mère de toutes les batailles.

Par ailleurs, laisser la liberté de parole, y compris à ceux qui lui sont hostiles, est l’un des paradoxes traditionnels des démocraties. C’est ce qui les fragilise ; c’est aussi ce qui fait leur force. Car l’expression de toute passion forte peut servir de catharsis, on le sait depuis les Anciens. Car les réseaux sociaux permettent d’identifier et de cartographier les réseaux criminels. Mettre la pression sur Twitter ou Facebook revient à désagréger et déconcentrer les activistes sur des espaces plus complexes à surveiller. C’est la traditionnelle expression : “il ne faut pas casser le thermomètre”. Encore faut-il que les services de l’État aient ou se donnent les moyens de suivre avec attention ces espaces.

Ce qui pose la question plus large de la capacité technique et philosophique à veiller, détecter et modérer les discours de haine en vue de leur censure éventuelle. Quand un militant d’extrême droite note « le petit Mohamed a volé une mobylette #unechancepourlafrance », le hashtag relève bien d’un discours raciste alors même que l’expression « une chance pour la France » est généralement considérée comme anti-raciste dans l’espace public français. L’islam radical utilise aujourd’hui les mêmes méthodes. Comment un algorithme peut-il décoder ? Comment la loi peut-elle sévir contre celui qui se protègera derrière l’humour ? Sans compter que la massivité de l’information pèse. 43 milliards de commentaires seraient postés chaque jour sur Facebook.

Enfin, l’argument le plus lourd est celui de la liberté d’expression. C’est celui qui a donné lieu à la censure partielle de la loi Avia sur la haine en ligne par le conseil constitutionnel. La liberté d’expression, et son corollaire le pseudonymat (le fait de pouvoir s’exprimer sous pseudo) comme le droit d’exprimer des opinions qui peuvent choquer la majorité, est le cœur de nos systèmes démocratiques. Nous sommes peut-être entrés dans une époque de remise en cause de cette tolérance là, mais ce sera à nos risques et périls.

Tous ces arguments ne peuvent être des excuses au service de l’inaction. Prudence n’est pas lâcheté ou mollesse. Pour le vieux Platon, cette vertu marche avec les trois autres cardinales : la justice, la force et la tempérance. Il existe effectivement de nombreux problèmes aujourd’hui posés par les réseaux sociaux, sur lesquels il faut travailler.

Tout d’abord un dysfonctionnement des mécanismes légaux en place (réaction des plateformes sociales trop lente et désorganisée, manque de moyens de Pharos, dont il faut saluer le travail malgré tout précieux). Le compte Twitter du tueur, pourtant typique des comptes de l’islam radical, n’a pas été suivi ni fermé entre son signalement de juin 2020 par la LICRA et son utilisation par l’assassin 5 mois après. Pendant ce temps, il a participé à diffuser des contenus de propagande.

Ensuite, nous relevons en permanence dans l’espace public français des stratégies d’influence de la part de groupuscules et d’États qui manifestent une hostilité marquée à l’égard des intérêt actuels du pays, qu’il s’agisse de la Turquie (le terroriste était un grand « fan » d’Erdogan), de la Russie, du Qatar, de la Chine, des États-Unis… Auxquels il faut rajouter des acteurs privés organisés qui diffusent des contenus d’influence sans que les contre-feux démocratiques ne puissent les contenir. Ce week-end, certains milieux communautaires bruissaient de l’argument « deux poids deux mesures » après l’agression au couteau de deux femmes dans un parc (un crime présenté de façon rapide comme islamophobe, malgré le compte-rendu pourtant clair de CheckNews, le service de fact-checking de Libération. Un média comme AJ+ (Al Jazeera) a relayé sans vergogne ni précaution de telles informations. En parallèle, certaines mouvances de la fachosphère diffusaient dans des tweets et des articles en ligne la rumeur selon laquelle Samuel Paty allait être sanctionné par le rectorat.

Evolution des engagements organiques d'AJ+, RT et Sputnik

Troisièmement, les réseaux sociaux d’aujourd’hui ont été conçus comme des outils de viralité marketing, davantage que comme des espaces publics destinés à accueillir un débat démocratique. Énumérons quelques limites des plateformes. La colère est l’émotion qui fait le plus partager des articles et des posts. Il n’existe pas de fonctionnalité offrant un droit de réponse à quelqu’un qui serait mis en cause : Samuel Paty ou son collège n’ont pas eu d’espace pour répondre à la vidéo du père de famille (ne serait-ce que pour dire que la jeune femme n’assistait pas au cours), et il est peu probable que de telles réponses auraient permis d’apaiser le débat. Par ailleurs, un réseau social comme Facebook fonctionne comme une « boîte noire », en ce qu’il est extrêmement difficile d’avoir accès à des données fiables sur ce qui y circule. Tout ceci nécessite de travailler avec les plateformes pour faire évoluer leur mode de fonctionnement. L’État et la société civile (notamment les entreprises, souvent plus expertes dans le numérique) doivent agir pour faire évoluer ces espaces aujourd’hui dysfonctionnels.

Quatrièmement, chacun s’est aperçu que les grandes institutions ne disposaient pas de capacités réelles pour gérer les crises numériques. Ceci commence à susciter l’inquiétude, 21 ans après l’invention de Google. Jérôme Salomon, le DGS, fait toujours ses posts d’information sur son LinkedIn personnel. Certes, il y dispose maintenant de 40 000 followers, mais est-ce au niveau ? Les grandes entreprises françaises les plus avancées sont aujourd’hui équipées d’un continuum entre la veille et l’alerte numérique, la qualification des menaces, le contre-discours, la protection des personnes exposées dans le numérique (en cas de menace ou d’adresse physique diffusée) et la protection physique des lieux et des personnes. Les capacités font défaut manifestement tout autant dans le ministère de la santé que de l’éducation nationale.

Enfin, dernier sujet de questionnement, l’usage actuel du “name and shame” (dénonciation du comportement d’un ou plusieurs individus) associé au “doxing” (adresse personnelle ou photo rendues publiques) s’est développé dans les dernières années. Il a participé à l’assassinat de Samuel Paty. Dans différents registres, Mila, Mennel Ibtissem, les époux Alboud sont tous des particuliers ayant subi un orage numérique de cet ordre. Jean Castex souhaite créer un “délit de mise en danger par la publication de données personnelles”. Un tel délit existe peut-être déjà en droit français. Mais ce qui importe surtout est la question épineuse de la façon dont une telle législation pourra être concrètement mise en action pour protéger des personnes.

Poursuivre votre lecture