La Commission européenne a l’intention d’adopter un nouveau règlement (1) visant à renforcer la lutte contre les contenus à caractère terroriste sur Internet. La principale innovation est un catalogue d’obligations très spécifiques pour les entreprises prestataires de services, imposées sous peine de lourdes sanctions. Par cette décision, l’UE abandonne son approche précédente, centrée sur l’autorégulation. Ce changement de position se fonde sur la frustration alléguée (2) des gouvernements européens face à la disponibilité persistante de contenus à caractère terroriste sur les principales plateformes Internet.
Tout en partageant les préoccupations qui sous-tendent cette initiative, je doute non seulement qu’elle atteigne l’objectif qu’elle se fixe, mais je crains aussi qu’elle ne finisse par nuire à l’innovation dans le secteur numérique.
Les terroristes ont fait preuve d’une énorme capacité d’adaptation dans le cyberespace. Non seulement ils savent comment exploiter le nouveau potentiel des technologies de l’information, mais ils ont également survécu au harcèlement de leur présence en ligne par les États, les entreprises et les internautes.
Il ne s’agit pas non plus d’un phénomène nouveau. La perception du citoyen moyen est que l’éruption de contenus à caractère terroriste sur Internet s’est produite parallèlement à l’essor des grands réseaux sociaux tels que Facebook ou Twitter et des services de visionnement de vidéos tels que YouTube. Cependant, presque personne ne se souvient qu’il y a seulement quinze ans, les bavardoirs sur Internet, tels que Paltalk, étaient l’un des principaux espaces de radicalisation en ligne. On ne se souvient pas non plus de l’hégémonie exercée par quelques forums (3) Internet comme plateformes de diffusion de la propagande et comme espace d’interaction d’une communauté mondiale de milliers de radicaux.
Aujourd’hui, il n’y a plus de djihadistes dans les bavardoirs simplement parce que personne ne les utilise. Ces services sont rapidement devenus obsolètes et ont été absorbés par d’autres applications offrant la même fonctionnalité, ainsi qu’un nouveau catalogue d’options liées à la connectivité et au contenu multimédia. Les forums djihadistes déperissent depuis des années et n’ont pratiquement enregistré aucune activité en raison de l’exode de leurs utilisateurs vers les espaces Internet les plus populaires.
L’une des principales leçons à tirer de ce processus est que la force à l’origine de ce changement de stratégie terroriste n’est pas la pression directe exercée par ceux qui ont lutté pendant des années pour renverser ces sites et comptes au contenu radical ni l’application d’un cadre réglementaire international impliquant les entreprises dans cet effort (qui n’existait pas). La principale raison en est plutôt la nécessité pour les terroristes d’être présents aux endroits où se trouve leur public.
En fait, l’arrivée du djihadisme dans les réseaux sociaux s’est produite en dépit du risque d’ouvrir de nouveaux espaces dans des plateformes où le maintien de l’anonymat était beaucoup plus compliqué. Les terroristes ont toujours été clairs sur le fait qu’obtenir de la publicité est prioritaire sur la nécessité de garantir leur sécurité. L’approche inverse pourrait les transformer en une communauté marginale, coincée dans quelques forums Internet que personne ne visite.
Cela explique aussi pourquoi les prévisions d’une éruption massive de contenu à caractère terroriste sur le web profond se sont révélées erronées (4). A priori, cette zone Internet remplissait toutes les conditions pour devenir un nouveau sanctuaire numérique du terrorisme: un espace délibérément créé pour garantir l’anonymat de ses utilisateurs et où aucun État n’est capable d’exercer un contrôle. Cependant, l’élément le plus important a été négligé: la présence terroriste sur Internet a un caractère éminemment propagandiste, et pour cela elle a besoin d’un public. Aujourd’hui, la présence djihadiste sur le web profond est minuscule, pour la simple raison qu’ils ne veulent pas perdre leur temps à prêcher dans un désert numérique.
Cela dit, le principal défaut de cette proposition de l’UE n’est pas son inefficacité prévisible, mais les effets néfastes qu’elle aura sur le secteur des fournisseurs de services Internet.
Le règlement ne fournit que des définitions ambiguës des acteurs concernés par ces exigences et de ce qui est considéré comme un contenu à caractère terroriste.
Elle prévoit également des obligations très problématiques, telles que l’obligation pour les fournisseurs de retirer ou d’empêcher l’accès à des contenus à caractère terroristes dans l’heure suivant la réception d’un ordre de retrait. Cela menace la viabilité économique des petites et moyennes entreprises, qui représentent 90 % de toutes les entreprises de ce secteur (5). Ils doivent assumer le coût de la mise en place et de l’entretien des équipes de supervision suffisamment nombreuses pour répondre à ces exigences 24 heures par jour, 7 jours par semaine. Cet obstacle financier est un dangereux frein à l’innovation dans un secteur où une très grande partie des produits les plus performants ont commencé leur parcours sous forme de start-ups au personnel limité, nécessairement axées sur la maintenance des services et la génération de revenus.
Le problème s’étend même aux géants de l’Internet. Ils ont la capacité d’absorber les coûts économiques, mais ils gèrent d’énormes volumes de données, ce qui rend impossible la supervision humaine de tous les contenus qualifiés de terroristes. La seule façon de répondre à cette exigence et d’éviter des pénalités élevées pour les entreprises qui ne se conforment pas assez rapidement est d’automatiser l’ensemble du processus, ce qui générera un grand nombre d’erreurs, affectant un droit aussi sensible que la liberté d’expression.
L’aspect de cette approche le plus difficile à comprendre interventionniste est le calendrier de l’UE. Jamais auparavant les terroristes n’avaient été confrontés à un environnement aussi hostile pour diffuser leur message sur Internet. La plupart de ces messages ne restent sur le Net que quelques heures avant d’être effacés. Certains sont bloqués avant même d’être publiés (6). Ce nouveau scénario est né non seulement de l’implication accrue des grandes plateformes, qui ont accru l’infrastructure de contrôle des contenus, mais aussi à l’efficacité croissante des algorithmes basés sur l’intelligence artificielle qui permettent de couvrir un volume de données qu’il serait impossible de contrôler exclusivement sous supervision humaine.
En fin de compte, le nouveau règlement décrit avec trop de détails comment intervenir dans un écosystème qui n’existera pas dans quelques années. Les entreprises offriront des services que nous ne pouvons pas imaginer et elles auront une organisation interne très différente. Les terroristes, pour leur part, se seront adaptés aux nouvelles règles du jeu, et les nouveaux défis qu’ils poseront auront peu à voir avec ce règlement. Le risque réel est que non seulement l’UE n’obtienne pas les résultats escomptés, mais qu’une forte inertie institutionnelle maintienne cette réglementation en vigueur pendant des décennies, ce qui en fera un obstacle coûteux à l’innovation.
(1) COMMISSION EUROPEENNE, «Proposition pour une régulation du Parlement européen et du Conseil sur la prévention de la diffusion des contenus à caractère terroriste en ligne», (12.9.2018) http://ec.europa.eu/transparency/regdoc/rep/1/2018/EN/COM-2018-640-F1-EN-MAIN-PART-1.PDF
(2) COMMISSION EUROPEENNE, «State of the Union 2018: Commission proposes new rules to get terrorist content off the web”, Press release (12.9.2018)», communiqué de presse (12.9.2018) http://europa.eu/rapid/press-release_IP-18-5561_en.htm
(3) TORRES-SORIANO, Manuel. ‘The Dynamics of the Creation, Evolution, and Disappearance of Terrorist Internet Forums’, International Journal of Conflict and Violence, 7:1 (2013), 164- 178. http://www.ijcv.org/earlyview/270.pdf
(4) WEIMANN, GABRIEL (2016) “Going Dark: Terrorism on the Dark Web”, Studies in Conflict & Terrorism, 39:3 (2016), 195–206.
(5) COMMISSION EUROPEENNE, «Évaluation d’impact accompagnant le document intitulé Proposition pour une régulation du Parlement européen et du Conseil relatif à la prévention de la diffusion des contenus à caractère terroriste en ligne» (12.9.2018) https://ec.europa.eu/commission/sites/beta-political/files/soteu2018-preventing-terrorist-content-online-swd-408_en.pdf
(6) VĚRA JOUROVÁ. « Code of Conduct on countering illegal hate speech online. Fourth evaluation confirms self-regulation Works”, EU Directorate-General for Justice and Consumers, (février 2019). https://ec.europa.eu/info/sites/info/files/code_of_conduct_factsheet_5_web.pdf
