La Comisión Europea tiene la intención de establecer una nueva regulación (1) que apunta a fortalecer la lucha contra el contenido terrorista en Internet. La innovación principal consiste en un catálogo de obligaciones muy específicas para las compañías que proporcionen servicios, que se impondrán bajo amenaza de sanciones severas. Con esta movida, la Unión Europea está dejando atrás su enfoque anterior, centrado en la auto-regulación. Este cambio de posición nace de la supuesta frustración (2) de los gobiernos europeos ante la persistente disponibilidad de contenido terrorista en las principales plataformas de Internet.
Si bien comparto las preocupaciones detrás de esta iniciativa, no sólo pongo en duda que ellas no vayan a alcanzar el objetivo planteado, sino que mucho me temo que además termine dañando la innovación en el sector digital.
Los terroristas han demostrado tener una gran capacidad de adaptación en el ciberespacio. Saben cómo explotar el nuevo potencial de las tecnologías de la información, y han sabido sobrevivir a la persecución contra su presencia en línea por parte de Estados, compañías y usuarios de Internet.
Éste tampoco es un fenómeno nuevo. La percepción del ciudadano común es que la erupción de contenido terrorista en Internet ocurrió paralelamente con el apogeo de las enormes redes sociales como Facebook y Twitter y servicios de exhibición de videos como Youtube. Sin embargo, pocos recuerdan que hace tan sólo quince años foros de conversación en Internet, como Paltalk, eran uno de los principales lugares para radicalización en línea. Como tampoco recuerda la gente la hegemonía detentada por algunos pocos foros de Internet (3) como plataformas para la difusión de propaganda y como un espacio donde una comunidad mundial de miles de radicales interactuaban.
Hoy en día no se encuentran terroristas en los foros de conversación simplemente porque nadie más los usa. Estos servicios pronto se volvieron obsoletos y fueron absorbidos por otras aplicaciones que ofrecían las mismas funciones, junto con un nuevo catálogo de opciones relacionadas con conectividad y contenido multimedia. Los foros jihadistas han estado durmiendo por años con casi ninguna interacción como consecuencia del éxodo de sus usuarios hacia espacio de Internet más populares.
Una de las lecciones más importantes tras este proceso, es que la fuerza que ocasionó este cambio en la estrategia terrorista no fue la presión directa ejercida por quienes durante años lucharon por clausurar estos sitios web y las cuentas con contenido radical, como tampoco lo fue la implementación de un marco de regulación internacional que involucraba a las empresas en ese esfuerzo (que no existía). La razón principal fue más bien la necesidad de los terroristas de estar presentes donde lo está su audiencia.
De hecho, la llegada del jihadismo a las redes sociales ocurrió pese al riesgo de abrir nuevos espacios en plataformas donde mantener el anonimato era mucho más complicado. Los terrorista tuvieron siempre claro que en caso de elegir entre su seguridad y gana publicidad, lo prioritario era esto último. El enfoque opuesto podría transformarlos en una comunidad marginal, acorralada en unos pocos foros de Internet que nadie visita.
Esto explica también por qué el pronóstico de una erupción masiva de contenido terrorista en la Web Profunda (“Deep web”) probó estar equivocada (4). A priori, esta zona de Internet presentaba todas las condiciones para convertirse en un nuevo santuario digital para los terroristas: un espacio creado deliberadamente para garantizar el anonimato de sus usuarios y donde ningún Estado es capaz de ejercer control. Sin embargo, se pasó por alto el componente más importante: la presencia terrorista en Internet tiene un carácter eminentemente propagandístico, y para ello necesita una audiencia. Hoy en día, la presencia jihadista en la Red Profunda es mínima, por la sencilla razón que ellos no desean perder su tiempo predicando en un desierto digital.
Habiendo dicho eso, la principal debilidad en la propuesta de la UE no es su inefectividad anticipada, sino en los efectos dañinos que tendrá en sector de la prestación de servicios en Internet.
La regulación sólo brinda definiciones ambiguas de los actores a quienes alcanzan estos requerimientos y sobre lo que se considera contenido terrorista.
Pero además impone obligaciones muy problemáticas, como el requerir a los proveedores de retirar o restringir el acceso a contenido terrorista dentro de la hora siguiente a haber recibido la orden de retiro. Esto amenaza la viabilidad económica de las pequeñas y medianas empresas, que conforman el 90% de todas las compañías del sector (5). Ellas deberán cargar con el costo de mantener equipos de supervisión lo suficientemente grandes como para cumplir estos requerimientos, las 24 horas del día, 7 días a la semana. Esta barrera financiera es un inhibidor peligroso a la innovación en el sector, donde una muy significativa proporción de los productos más exitosos comenzó su trayectoria como iniciativas con plantel limitado, enfocados por necesidad en el mantenimiento del servicio y la generación de utilidades.
El problema se extiende incluso a los gigantes de Internet. Éstos tienen la capacidad para absorber los costos económicos, pero manejan un inmenso volumen de información, haciendo imposible lograr una supervisión humana de todo el contenido etiquetado como terrorista. La única manera para cumplir este requerimiento y evitar las severas sanciones para empresas que no cumplan lo suficientemente rápido será automatizar todo el proceso, lo que generará un gran número de errores, afectando un derecho tan sensible como lo es la libertad de expresión.
El aspecto más difícil para entender este enfoque intervencionista de la UE es la oportunidad. Nunca antes los terroristas tuvieron que enfrentar un ambiente tan hostil para divulgar su mensaje por Internet. El grueso de estos mensajes apenas dura unas pocas horas en la red antes de ser borradas. Algunos son bloqueados incluso antes de ser publicados (6). Este nuevo escenario surgió no sólo por la mayor participación de las plataformas más grandes, que han mejorado la infraestructura utilizada para monitorear contenido, pero además gracias a la creciente efectividad de los algoritmos basados en inteligencia artificial que hacen posible cubrir un volumen de información que sería imposible controlar exclusivamente mediante supervisión humana.
Por último, la nueva regulación describe con demasiado detalle la forma para intervenir en un ecosistema que dejará de existir dentro de apenas unos años. Las empresas ofrecerán servicios que ni siquiera podemos imaginar y que se organizarán internamente de una manera muy diferente. Los terroristas, por su parte, se habrán adaptado a las nuevas reglas de juego, y las nuevas amenazas que ellos presentarán poco tendrán que ver con estas regulaciones. El verdadero riesgo está en que no sólo la UE habrá logrado nada de lo que se proponía, sino que además la pesada inercia institucional mantendrá esta regulación en efecto durante décadas, haciéndola un obstáculo costoso para la innovación.
(1) COMISIÓN EUROPEA, “Propuesta para una regulación del Parlamento Europeo y del Consejo para prevención de la diseminación de contenido terrorista en línea” (“Proposal for a regulation of the European Parliament and of the Council on preventing the dissemination of terrorist content online”), (12.9.2018) http://ec.europa.eu/transparency/regdoc/rep/1/2018/EN/COM-2018-640-F1-EN-MAIN-PART-1.PDF
(2) COMISIÓN EUROPEA, “Estado de la Unión 2018: La Comisión propone nuevas reglas para retirar contenido terrorista de la red” (“State of the Union 2018: Commission proposes new rules to get terrorist content off the web”), Comunicado de prensa (12.9.2018) http://europa.eu/rapid/press-release_IP-18-5561_en.htm
(3) TORRES-SORIANO, Manuel. “Las dinámicas de la creación, evolución y desaparición de foros terroristas en Internet” (“The Dynamics of the Creation, Evolution, and Disappearance of Terrorist Internet Forums”), International Journal of Conflict and Violence, 7:1 (2013), 164- 178. http://www.ijcv.org/earlyview/270.pdf
(4) WEIMANN, GABRIEL (2016) “Volviéndose oscuro: Terrorismo en la Red Oscura (Dark Web) (“Going Dark: Terrorism on the Dark Web”), Estudios sobre conflicto y terrorismo (Studies in Conflict & Terrorism), 39:3 (2016), 195-206.
(5) COMISIÓN EUROPEA, “Evaluación del impacto adjunto al documento de Propuesta para una regulación del Parlamento Europeo y del Consejo para prevención de la diseminación de contenido terrorista en línea” (“Impact assessment accompanying the document Proposal for a Regulation of the European Parliament and of the Council on preventing the dissemination of terrorist content online”) (12.9.2018)
(6) VĚRA JOUROVÁ. “Código de conducta para contrarrestar discursos de odio ilegales en línea. La cuarta evaluación confirma que la auto-regulación funciona” (“Code of Conduct on countering illegal hate speech online. Fourth evaluation confirms self-regulation Works”), EU Directorate-General for Justice and Consumers, (February 2019). https://ec.europa.eu/info/sites/info/files/code_of_conduct_factsheet_5_web.pdf
