LA LOI AVIA OU L’UBÉRISATION DU CONTRÔLE

Publié le par Résistance verte

Alors que les député·e·s examinent mardi le texte qui vise à faire disparaître de l’Internet les propos dits « haineux », Mediapart a voulu mesurer l’ampleur des atteintes à la liberté d’expression que cette loi met en place.

Six mois de contestation, de mises en garde et de mobilisations, comme celle initiée dernièrement par La Quadrature du Net (https://www.laquadrature.net/loihaine/), n’ont pas entamé la détermination du gouvernement à faire adopter la proposition de loi Avia « contre les contenus haineux », qui revient devant l’Assemblée nationale ce mardi. Ni la suppression par les sénateurs de la principale disposition de la loi, ni les mises en garde de l’Union européenne.

Si la discussion s’annonce animée, son issue fait peu de doute. Les principaux sites hébergeant des contenus créés par les internautes seront passibles d’amendes (250 000 euros, propose à ce stade un amendement de Laetitia Avia) en cas de non-retrait en 24 heures de contenus signalés comme « manifestement » illicites par d’autres internautes…

Jeudi 16 janvier, une douzaine d’organisations, parmi lesquelles le Conseil national du numérique, La Quadrature du Net, la Ligue des droits de l’homme, le Syndicat des avocats de France et Wikimédia France ont encore une fois fait part de leur « profonde inquiétude », dans une lettre ouverte (ici en pdf) adressée à la ministre de la justice, Nicole Belloubet, au secrétaire d’État au numérique, Cédric O, et à la rapporteure de la loi, la députée LREM Laetitia Avia, ainsi qu’à l’ensemble des député·e·s.

Les signataires regrettent la mise à l’écart du juge dans la lutte contre les propos haineux, qui « porte atteinte aux garanties qui nous permettent aujourd’hui de préserver l’équilibre de nos droits et libertés fondamentaux » : « Nous partageons, écrivent-ils, la nécessité de questionner le rôle des grandes plateformes dans la lutte contre les contenus haineux sur Internet. Paradoxalement, cette exigence se traduit, dans le texte discuté, par le renforcement du rôle de ces mêmes acteurs dans le contrôle de notre espace public au détriment du premier garant de nos libertés individuelles qu’est le juge. »

Avec pour corollaire la sur-censure, qui ne manquera pas de survenir : « Au regard des dispositions du texte, les opérateurs de plateformes seront incités à opter pour de la sur-censure afin d’éviter d’être sanctionnés. À ce titre, nous nous inquiétons du rôle confié à des dispositifs technologiques de filtrage automatisés, qui font encore preuve de limites techniques profondes dans leur capacité à modérer, y compris parmi ceux les plus avancés. » Le Parti pirate ajoute à cette inquiétude et regrette « l’inclusion des moteurs de recherche dans le périmètre des sites concernés, qui relève d’une confusion entre un contenu et son référencement ».

Mark Zuckerberg, patron de Facebook, le disait lui- même en avril 2018 devant les sénateurs des États- Unis: les algorithmes, cela ne marche pas. « Dans 5 à 10 ans, nous aurons des outils d’intelligence artificielle qui pourront entrer dans certaines des nuances », notamment « linguistiques ». Mais, poursuivait-il, « aujourd’hui, nous n’en sommes tout simplement pas là. Donc, une grande partie de ce processus est encore réactif. Les gens nous signalent. Nous avons des gens qui regardent. Nous avons des politiques pour essayer de rendre cela aussi peu subjectif que possible. Mais, tant que nous ne l’aurons pas mieux automatisé, le taux d’erreur sera plus élevé que ce que j’aimerais ».

Personne n’est d’ailleurs en mesure de mesurer la prévalence de cette « haine en ligne », comme l’a par exemple montré pour le Royaume-Uni un rapport de l’Institut Alan Turing (https://www.turing.ac.uk/research/research-programmes/public-policy/online-hate-monitor). En France, on n’en sait pas plus. Ni dans l’exposé des motifs de la proposition de loi, ni dans le rapport Avia-Amellal-Taieb (https://www.gouvernement.fr/rapport-visant-a-renforcer-la-lutte-contre-le-racisme-et-l-antisemitisme-sur-internet) préparatoire au texte, il n’est fait mention de l’ampleur du phénomène. Sur les 160 000 signalements adressés à la plateforme Pharos en 2018, relève le Sénat, moins de 14 000 relevaient de la haine en ligne ou de discriminations, et ils concernaient 8 000 contenus.

En revanche, les plateformes abattent déjà du boulot : « Actuellement, les entreprises des technologies de l’information évaluent 89 % des contenus signalés dans les 24 heures et 72 % des contenus considérés comme des discours de haine illégaux sont supprimés, contre respectivement 40 % et 28 % […] en 2016 », notait il y a déjà un an l’Union européenne. « Je lisais encore jeudi matin le rapport de transparence d’une petite plateforme qu’on a tendance à oublier, jeuxvideo.com, qui explique que 99 % des contenus haineux sont retirés en 24 heures », explique Laetitia Avia elle-même dans un entretien avec NextInpact (https://www.nextinpact.com/news/108603-interview-laetitia-avia-obligation-retrait-en-24-heurescest-cur-texte.htm).

Comment un combat qui voudrait se ranger du côté de la lutte contre le racisme et toutes les discriminations va-t-il ainsi aboutir à un texte qui organise une censure inédite et généralisée ?
« Aujourd’hui, l’ambiance générale a changé, on est dans une ambiance de surveillance dont la loi Avia est une illustration. On ne parle que de haine et de surveillance », constate le chercheur André Gunthert, historien des cultures visuelles et observateur sourcilleux de l’Internet (https://blogs.mediapart.fr/andre-gunthert).

Olivier Ertzscheid, chercheur en sciences de l’information et auteur du blog affordance.info, regrette « de vieilles solutions » : « On n’a toujours pas compris, malgré un changement de génération, les habitus du numérique dans la classe politique qui entend les réguler. [On] refuse de voir que le premier problème est celui des travailleurs de ces plateformes qui font la modération »(lire à ce sujet notre entretien avec la chercheuse Sarah T. Roberts).

« S’il s’agit d’une détection automatique, c’est encore pire », explique la linguiste Fabienne Baider, « puisque celle-ci, bien souvent, est basée sur des emplois lexicaux, alors que le discours n’est pas une série de noms. Certains emplois lexicaux bannis dans le discours “mainstream” sont courants dans des communautés spécifiques », comme « bitch » dans l’argot LGBT et l’argot afro-américain mal compris par les algorithmes.

Pour détecter l’ampleur des risques qui pèsent sur la liberté d’expression, il faut définir la place prise par les réseaux sociaux. Pour André Gunthert, « le Web est aujourd’hui clairement un cinquième pouvoir, une révolution dans l’accès pas seulement à l’expression, mais une liberté qui concerne l’expression publique », visible, celle qui passe précisément par les plateformes participatives.

La question est donc celle de « la perméabilité entre les différents espaces d’expression accessibles médiatiquement, socialement, sociétalement. On peut s’exprimer sur tout un tas d’espaces, mais il existe un effet de focale. Pour tenir un discours audible, cette focale c’est Facebook et Twitter et autres qui en déterminent le diamètre et la portée », constate Olivier Ertzscheid. « Les espaces traditionnels sont tellement verrouillés que les réseaux sont venus occuper une place citoyenne de discours qui ne trouvaient plus de lieu pour s’exprimer, à l’abri des considérations de classe », des « craintes de la bourgeoisie » et des « défenseurs de l’orthographe ».

 

LE SIGNALEMENT, UNE NOUVELLE FORME D’ARGUMENTATION

Face à une censure à la fois privée et publique, « une partie du mouvement social va sans doute devoir apprendre à inventer ou réinventer des canaux de diffusion qui ne passent pas par des plateformes ; c’est un vrai enjeu », prévient le philosophe Mathias Girel, maître de conférences à l’ENS, qui s’intéresse notamment à la vérité et au complotisme. « On ne peut pas confier » la liberté d’expression « à une logique de profit fondée sur la viralité. Tous ces espaces sont à ré-imaginer ».

André Gunthert rappelle « qu’aux XVIIIe et XIXe siècles, on va confier à l’État le pouvoir de réguler l’édition ». Aujourd’hui, virage à 180 degrés : « L’État néolibéral se considère impuissant et délègue le contrôle qu’il ne souhaite plus exercer. Ça ne veut pas dire que ce n’est pas l’État qui pilote, ça veut dire qu’il le cache. C’est très hypocrite. On dit aux plateformes comment rester légales, et elles vont s’y conformer. C’est une ubérisation du contrôle. »

Mathias Girel a relevé la prestation très remarquée du comédien et réalisateur britannique Sacha Baron Cohen, qui, en novembre 2019, s’en est violemment pris à Facebook, devenant « l’un de ceux qui ont formulé le mieux les choses en développant l’idée de liberté d’expression et en montrant comment [Facebook] se l’est appropriée tout en la dénaturant. Les processus de modération et de censure dans ces grandes plateformes s’effectuent dans une opacité extrêmement importante, sans que des comptes soient rendus à des citoyens, des élus, des représentants ».

Martin, qui s’exprime sous un prénom d’emprunt, est un des administrateurs de la page Facebook lilloise Action Antifasciste NP2C (Nord-Pas-de- Calais), suspendue depuis le 6 janvier : « On n’a plus accès au contenu, ni bien sûr au droit de publier – la page a disparu. » Contacté via une autre page encore opérationnelle, Lille Antifa, Martin confirme l’utilité du réseau social : « En tant qu’organisation politique, c’est un support qui nous permet de toucher plus de gens plus rapidement, plus qu’un tractage ou une réunion d’information. C’est pas suffisant évidemment, ça se couple avec des manifs, concerts, conférences… Mais c’est un support absolument nécessaire. »

Quoi qu’on puisse leur reprocher, « ce sont les plateformes commerciales qui ont démocratisé l’accès à l’expression des individus », expliquait récemment Dominique Cardon, directeur du MediaLab de Sciences-Po.

Ce qu’il faut regarder, poursuit André Gunthert, c’est « la production et les effets de cette liberté ». Par exemple, « les violences policières : elles ont été amenées par le Web et les vidéos virales. Comme dans le cas de MeToo, des témoignages individuels sont venus par le biais des réseaux sociaux ». « On dit aujourd’hui que ce bavardage ne servirait à rien », on veut « domestiquer la horde sauvage », « il faudrait nettoyer l’incroyable gisement d’expressivité », regrette Dominique Cardon.

La question des violences policières est symptomatique des difficultés de Facebook, en l’occurrence, à pratiquer une modération appropriée. Selon Martin, « les violences policières, c’est ce qui permet le mieux d’expliquer la sanction qui nous est tombée dessus ». « On a eu énormément d’avertissements avant ; ces derniers temps, tous les avertissements concernaient des violences policières.
Ça rejoint une logique globale, depuis les “gilets jaunes”, où on étouffe plus ou moins les questions de violences policières. »

Déjà, en 2016, rappelle encore Martin, « pendant le mouvement contre la loi Travail, la police est entrée illégalement dans le local syndical de la CNT, qu’elle a saccagé pour interpeller deux manifestants. Nous avons alors publié une vidéo filmée de l’intérieur du local montrant les exactions policières, suite à quoi notre page [Facebook] a été dépubliée pendant plusieurs jours sans explications et le post censuré définitivement ».

Mais pourquoi Facebook voudrait-il censurer la dénonciation des violences policières ? S’agit-il de masquer ou de rejeter la violence qui s’exprime dans ces vidéos, ou bien d’obéir au gouvernement… ? Puisque Facebook se contente de préciser – parfois seulement – une infraction aux « standards de la communauté », on est réduit à spéculer : « Ce qui montre que déléguer le contrôle à la plateforme est très compliqué, on ne sait pas ce qui se passe, ni en vertu de quels critères… », déplore André Gunthert, qui note au passage que « les messages pro- gouvernement sont assez rarement censurés… ».

« Ce qui est clair, c’est qu’ils n’ont aucun compte à nous rendre et qu’ils peuvent de manière arbitraire décider de fermer une page comme la nôtre », témoigne Martin. Et ça nous pose un gros problème. Qui est cette personne, un modérateur, pour faire disparaître une page avec 30 000 abonnés ? » La loi Avia est donc pour lui « très inquiétante » : « Elle va
être utilisée, vu l’évolution globale du pouvoir et de la société, au mieux de manière partisane, au pire très anti-démocratique. »

Car tout l’édifice de la loi repose sur le signalement de messages par ceux qui les lisent. « Sur Twitter, le signalement devient une forme d’argument, met en garde Dominique Cardon. Cette idée qu’il faut faire taire est très présente, y compris chez les utilisateurs – ce qui est évidemment en contradiction complète avec l’idée de la liberté d’expression. »

C’est bien l’impression de Martin, l’administrateur lillois, qui se souvient de l’époque où « des militants pro-Erdogan [les] signalaient parce qu’[ils] avai[ent] cité le PKK » (https://www.streetpress.com/sujet/1447865065-facebook-censure-fuck-daesh-support-pkk). Mais « c’est arrivé aussi dans le cadre franco-français, avec des pages d’extrême droite. Si on n’a pas accès [aux signalements] par l’intermédiaire de gens, si on ne voit pas directement, on peut difficilement le prouver, mais c’est assez clair, des syndicats de police qui nous signalent, on n’est d’ailleurs pas les seuls ». Plus grave, ajoute-t-il : « Il y a les appels au harcèlement, et notre impression, c’est que [la loi] donne un contour légal à ce qui existe déjà.
» Pour le militant, il est donc « évident » que le texte « sera liberticide, étant donné les pratique de raids qui existent déjà ».

« Quand on s’arrête à la violence, on s’arrête à la surface, et on ne se demande pas la signification des violences et de leur spectacle ; c’est cette signification que le gouvernement veut mettre sous le tapis, une signification politique, sociale, souligne André Gunthert. Si violence il y a, c’est parce qu’avant [les manifestations], il y a tout un processus qui est passé par l’impossibilité du dialogue ; si vous mettez le voile en haut de l’iceberg, sur le symptôme, sans vous demander ce qu’il y a en dessous, vous avez juste caché l’iceberg sans régler le problème. »

Il en va de même pour les propos plus directement visés par la loi, des insultes racistes aux agressions homophobes. « Enlever les commentaires n’efface pas les pensées dont ils sont les traces et savoir ce qui se dit et se pense est important, justement pour intervenir. Sinon le dark Web a un très bel avenir… », estime Fabienne Baider, professeure associée à l’université de Chypre en linguistique et en études de genre, qui vient de coordonner avec Maria Constantinou le numéro 47 de la revue Semen, précisément consacré aux discours de haine (Mediapart y reviendra dans un entretien).

Au-delà, ou plutôt à côté, de ces attaques bien visibles, il en existe de plus insidieuses, poursuit- elle : « On peut arriver aux mêmes conclusions xénophobes, homophobes, sexistes (femmophobes, mon néologisme), classophobes (autre néologisme personnel pour décrire les commentaires contre les gilets jaunes) mais en douceur, c’est-à-dire au moyen d’inférences, de métaphores. Que fait-on alors ? On efface aussi les discours “potentiellement” haineux ? »

Les commentaires qu’elle qualifie de « classophobes », précise-t-elle, « relèvent d’un mépris de classe comme jamais [elle ne l’a] observé depuis la dizaine d’années qu[’elle] travaille sur les commentaires en ligne. La classe dirigeante y est pour quelque chose, car avec ses propos, elle légitime ce mépris de classe », qui se trouve ensuite répété dans les messages.
« Cette loi Avia, c’est incroyable, c’est l’hôpital qui se fout de la charité, s’agace finalement André Gunthert. Des gens qui sont dans une position de pouvoir qui leur permet de verrouiller la liberté dans l’espace public, comme on peut le voir dans les manifestations, ces gens nous disent “attention à la haine sur Twitter”… »

Alors que tous les propos visés par la loi Avia sont déjà interdits, suffirait-il alors d’appliquer les textes existants ?

« Toutes ces lois filtrent aussi des commentaires qui n’ont rien de haineux » en eux-mêmes, relève Fabienne Baider, contrairement à ce qui se passe dans les tribunaux, où « le caractère haineux » est « très rarement puni dans la vie hors ligne, car difficile justement à prouver ». Ainsi, la loi Avia, « c’est non seulement remplacer un tribunal de facto, ce qui est déjà grave, mais aussi limiter la liberté que nous avons en fait hors ligne ».
La justice aurait « besoin de beaucoup plus de moyens pour traiter des cas plus nombreux, plus complexes et plus petits, pour gérer tout ça dans des délais acceptables », estime André Gunthert. Mais « est-ce ce que vous allez en justice pour une insulte dans la rue ? La société devrait apporter une réponse équilibrée ». De toute façon, donner des moyens à la justice « n’entre pas dans les perspectives du gouvernement ; c’est plus facile de diaboliser des entreprises américaines… ».

« Je crois plus dans la stratégie de contre-discours, de discours alternatifs et d’éducation aux médias qu’à la répression plus ou moins aveugle », affirme Fabienne Baider. « Il y a aussi une réponse par la conversation », acquiesce André Gunthert. La viralité tant reprochée aux algorithmes des plateformes ne concerne pas que les contenus dits haineux… « La discussion participe au tri, au filtre. La viralité, c’est une opération de sélection collective qui choisit des contenus ; elle a fait sortir MeToo et les violences policières ; c’était des infos cachées, invisibilisées, sous le tapis, par des systèmes de domination ; c’est tout ce processus qui est en cause. »

« Très peu de personnes et d’institutions employant l’expression “discours de haine” se sont posé la question : mais qu’est-ce que la haine ?, note Fabienne Baider. C’est une émotion complexe qui naît de la colère, de la peur, etc., et surtout du ressentiment. Si nous ne travaillons pas sur ce ressentiment, rien ne changera. Au contraire, la polarisation “nous contre eux” se fera d’autant plus forte. »

Géraldine Delacroix
Mediapart le mardi 21 janvier 2020
http://www.mediapart.fr/node/849767

 

 

Publié dans Contrôle numérique

Pour être informé des derniers articles, inscrivez vous :
Commenter cet article
6
Le cas de Laetitia Avia n’est pas sans rappeler celui d’un certain M’jid El Guerrab député LREM qui s’est illustré il y a peu par une tentative d’assassinat (en bonne et due forme) sur la personne de Boris Faure,responsable du parti socialiste de la région parisienne.Comme cela est la règle en macronie les délinquants n’ont pas été jugés ni condamnés.Le modus operandi est toujours le même :menace,insulte,harcèlement et violence,parfois inouïe à l’encontre des contradicteurs de la LREM.La France est ainsi gouvernée par de pseudo « responsables » qui n’hésitent pas à recourir à des moyens particulièrement persuasifs pour masquer leur incompétence crasse.La violente répression conduite par les pouvoirs publics à l’encontre des gilets jaunes l’a montré de façon définitive puisque les nervis de la police de macron n’ont pas hésité à recourir aux mutilations pour faire taire les opposants .La violence et le mépris de la vie humaine sont consubstantielles au dangereux populisme qu’est le macronisme.Quand on sait que la macronie est un avatar du parti socialiste et que ce même parti socialiste a bruyamment appelé à voter pour M.Macron au 2ème tour des élections présidentielles on ne peut que constater la mort clinique de la gauche néolibérale.C’est ironique et cruel aussi.
Répondre