|04| El derecho de expresión como estabilización del discurso – Rechtsanwalt Bauer

I. Introducción: El discurso en línea – Libertad y responsabilidad

La libertad de expresión, consagrada en el artículo 5 de la Ley Fundamental (Grundgesetz), es una piedra angular de toda sociedad democrática. Permite el intercambio abierto de ideas, la crítica al poder y la formación de la voluntad política. Internet, y en particular las redes sociales, han revolucionado este espacio de discurso, globalizándolo, acelerándolo y, potencialmente, democratizándolo, al ofrecer a cada individuo una plataforma para expresarse. Sin embargo, estas nuevas posibilidades también conllevan retos considerables: el anonimato puede provocar desinhibición, la desinformación y el discurso de odio se propagan a gran velocidad, las cámaras de eco y las burbujas de filtro estrechan el horizonte, y las campañas de desinformación dirigidas pueden socavar la confianza en los medios y en las instituciones.

Ante este panorama, surge la pregunta de cómo el derecho de expresión puede contribuir a posibilitar un discurso público en línea constructivo, basado en hechos y estable, en lugar de dejarlo expuesto a fuerzas destructivas desenfrenadas. Se trata del difícil equilibrio entre la máxima protección de las expresiones de opinión legítimas –incluso cuando resultan provocadoras, incómodas o minoritarias– y la necesidad de trazar límites claros allí donde las expresiones vulneran los derechos de terceros, incitan a la violencia o amenazan los fundamentos de la convivencia democrática. Desde una perspectiva hegeliana, podría argumentarse que el Estado, como realización de la eticidad (Sittlichkeit), tiene la tarea de garantizar las condiciones para un discurso público razonable en el que pueda articularse el «espíritu» de la comunidad. La regulación del discurso en línea sería entonces un intento de mantener este orden ético en el espacio digital.

La «estabilización del discurso» a través del derecho de expresión resulta casi paradójica: exige tanto la protección integral de la libertad de expresión como la limitación eficaz de sus excesos abusivos. En el espacio en línea, descentralizado, sin fronteras y dinámico, este equilibrio es considerablemente más complejo que en los medios tradicionales. Por un lado, un discurso estable necesita pluralidad de opiniones y la libertad de expresar incluso posturas impopulares. Por otro lado, una «libertad» completamente desregulada en internet puede dar lugar a fenómenos como el ciberacoso, las campañas de odio y la difusión masiva de desinformación, que no estabilizan el discurso, sino que lo desestabilizan y envenenan activamente. Leyes como la Ley alemana de Aplicación en Redes Sociales (NetzDG) y la Ley europea de Servicios Digitales (DSA, por sus siglas en inglés) intentan contrarrestar estos elementos desestabilizadores obligando, en particular, a las grandes plataformas en línea a una moderación de contenidos más activa. Sin embargo, el peligro inherente a ello es el denominado «overblocking» –la eliminación preventiva de contenidos también legítimos por temor a sanciones– y, con ello, una posible restricción de la libertad de expresión.

Además, debe tenerse en cuenta que la arquitectura técnica de las plataformas en línea, en particular los algoritmos empleados para la curación de contenidos y los mecanismos de diseño de la interacción, tienen una influencia en la calidad y estabilidad del discurso en línea al menos tan grande, si no mayor, que las propias normas jurídicas. Los algoritmos determinan qué contenidos se muestran de forma destacada a los usuarios y, así, pueden fomentar, de forma intencionada o no, cámaras de eco y polarización social. Decisiones de diseño, como los botones de «me gusta», las funciones de retuit o las secciones de comentarios, pueden crear incentivos específicos para expresiones que llaman la atención, pero que a menudo también resultan emocionalizadoras y extremas. El derecho –por ejemplo, el DSA, con sus obligaciones de transparencia para los sistemas de recomendación– intenta a menudo corregir a posteriori disfunciones causadas o reforzadas tecnológicamente. Una verdadera estabilización del discurso en línea requiere, por tanto, una cooperación integral que vaya más allá de las meras órdenes de eliminación de contenidos ilegales y que tenga también en cuenta el diseño de las propias plataformas, así como la alfabetización mediática de los usuarios.

II. Marco jurídico: NetzDG y la Ley de Servicios Digitales (DSA)

Para regular los contenidos en línea y combatir el discurso de odio y otras expresiones ilícitas, se han promulgado en Alemania y a nivel de la UE leyes específicas que obligan, en particular, a las redes sociales y a otras plataformas en línea.

La Ley de Aplicación en Redes Sociales (NetzDG) en Alemania, en vigor desde 2017 y conocida coloquialmente también como la «ley de Facebook», tiene como objetivo combatir de forma más eficaz los delitos de odio, las noticias falsas punibles y otros contenidos ilícitos en las grandes redes sociales (con más de dos millones de usuarios registrados en Alemania). Las obligaciones fundamentales para los operadores de plataformas incluyen:

El establecimiento de un sistema de gestión de reclamaciones fácilmente accesible y eficaz para que los usuarios puedan notificar contenidos potencialmente ilícitos.
La retirada o el bloqueo de contenidos «manifiestamente ilícitos», por regla general en un plazo de 24 horas desde la recepción de la reclamación.
La retirada o el bloqueo de otros contenidos ilícitos, por regla general en un plazo de siete días desde la recepción de la reclamación; en casos más complejos, este plazo puede superarse, por ejemplo, cuando se da audiencia a quien publicó el contenido o cuando la decisión se encomienda a un organismo reconocido de autorregulación regulada.
La obligación de elaborar y publicar informes de transparencia semestrales sobre la gestión de las reclamaciones.
El nombramiento de un representante legal en Alemania para las notificaciones administrativas y judiciales.

La NetzDG ha sido controvertida desde sus inicios. Entre otras cosas, se critica el riesgo de «overblocking», es decir, la eliminación de contenidos en caso de duda para evitar multas, lo que podría restringir la libertad de expresión. Además, se critica la «privatización de la aplicación del derecho», ya que empresas privadas deben decidir sobre la licitud de las expresiones, una tarea que tradicionalmente corresponde a los tribunales. La definición de lo «manifiestamente ilícito» y los plazos breves también plantean retos considerables para las plataformas.

La Ley de Servicios Digitales (DSA) de la Unión Europea, plenamente aplicable en toda la UE desde febrero de 2024, crea un marco jurídico armonizado para los servicios digitales, en particular para los intermediarios y plataformas en línea. Sus objetivos son ambiciosos: crear un entorno en línea seguro, previsible y digno de confianza, combatir eficazmente la difusión de contenidos ilegales y abordar los riesgos sociales que pueden derivarse de la desinformación u otros contenidos perjudiciales. El DSA define los «contenidos ilegales» de forma muy amplia, como cualquier información que no sea conforme con el derecho de la Unión o con el derecho de un Estado miembro. Esto conlleva el riesgo de que el estándar nacional más estricto pueda convertirse en el criterio de referencia para toda la UE (el llamado «mínimo común denominador»).

El DSA prevé un catálogo escalonado de obligaciones que depende del tamaño, el alcance y el riesgo potencial de los servicios. Se aplican normas especialmente estrictas a las denominadas «plataformas en línea de muy gran tamaño» (VLOP, por sus siglas en inglés) y a los «motores de búsqueda en línea de muy gran tamaño» (VLOSE, por sus siglas en inglés), con más de 45 millones de usuarios activos mensuales en la UE. Entre las obligaciones fundamentales para las plataformas se incluyen, entre otras:

El establecimiento de mecanismos fáciles de usar para notificar contenidos ilegales.
Procedimientos transparentes de moderación de contenidos, incluidas motivaciones claras de las decisiones y mecanismos eficaces de reclamación y recurso (también extrajudiciales).
Una mayor transparencia de la publicidad en línea (etiquetado, información sobre los anunciantes) y de los sistemas de recomendación (divulgación de los principales parámetros, opciones alternativas sin elaboración de perfiles para las VLOP).
Medidas de protección especiales para los menores, incluida la prohibición de la publicidad basada en la elaboración de perfiles dirigida a este colectivo.
La prohibición de dirigir publicidad basada en datos sensibles (por ejemplo, origen étnico, opiniones políticas, orientación sexual).
Obligaciones exhaustivas de evaluación y mitigación de riesgos para las VLOP/VLOSE, en particular en relación con la difusión de contenidos ilegales, los efectos negativos sobre los derechos fundamentales y la manipulación de servicios con repercusiones en los procesos democráticos o en la seguridad pública.
El establecimiento de mecanismos de respuesta a crisis.
La cooperación con las autoridades nacionales (los Coordinadores de Servicios Digitales) y con los denominados «alertadores fiables».

Tanto la NetzDG como el DSA trasladan así una responsabilidad considerable en materia de control de contenidos –y, con ello, de «estabilización del discurso»– a los operadores privados de plataformas. Esto supone un cambio fundamental en el papel tradicional del Estado en la aplicación del derecho y en la interpretación de derechos fundamentales como la libertad de expresión. Tradicionalmente, son los tribunales independientes quienes deciden sobre la licitud o ilicitud de las expresiones tras un examen minucioso. Ahora son las propias plataformas las que, a menudo bajo una considerable presión de tiempo y bajo la amenaza de elevadas multas, deben tomar decisiones de gran alcance sobre la visibilidad de los contenidos. Actúan así como jueces de facto de la libertad de expresión, a menudo sin las garantías propias del Estado de derecho que ofrece un procedimiento judicial. La cooperación entre el Estado y las plataformas es aquí, en gran medida, una cooperación «forzada», en la que las plataformas actúan como una especie de «ayudante del sheriff» del Estado.

La eficacia de estas leyes depende en gran medida de la disposición a cooperar y de los recursos humanos y técnicos de las plataformas, pero también de la calidad e independencia de los «alertadores fiables» y de la capacidad de las autoridades de supervisión de nueva creación. Se trata de un sistema complejo cuyo éxito en la práctica está aún por demostrar y que probablemente dará lugar a un proceso continuo de adaptación y a una cierta «carrera armamentística» entre reguladores, plataformas y actores que buscan perturbar deliberadamente el discurso.

III. ¿Qué son los «contenidos ilegales»? Delimitación y ejemplos

Un problema central en la regulación de las expresiones en línea es la definición de lo que se considera «contenido ilegal». Ni la NetzDG ni el DSA definen este concepto de forma exhaustiva por sí mismos, sino que remiten en gran medida a la legislación existente.

Las categorías típicas de contenido ilegal incluyen:

Delitos penales: Muchas expresiones realizadas en línea pueden constituir delitos tipificados en el Código Penal alemán (StGB). Entre ellos se incluyen, en particular:
Infracciones de derechos de autor: La subida y difusión no autorizadas de material protegido por derechos de autor (textos, imágenes, música, vídeos) es una forma frecuente de contenido ilegal.
Difusión de información falsa (desinformación): La mera difusión de afirmaciones fácticas no veraces no es punible per se, salvo que se cumplan tipos penales específicos como la calumnia o el fraude. La frontera con el acto punible resulta aquí a menudo difícil de trazar.
Infracciones de la normativa de protección de menores.
Ofertas de bienes o servicios ilegales.

La definición de «contenido ilegal» depende a menudo en gran medida del contexto y requiere una compleja valoración jurídica en cada caso concreto. Determinar si una expresión constituye, por ejemplo, una injuria punible o si sigue estando amparada por la libertad de expresión como sátira o crítica mordaz puede resultar difícil de juzgar incluso para juristas. No cabe esperar una valoración impecable por parte del personal de las plataformas, que a menudo debe decidir bajo una considerable presión de tiempo y sin una formación jurídica exhaustiva. También los sistemas automatizados de detección de contenidos, pese a los avances de la inteligencia artificial, son propensos a errores, en particular a la hora de interpretar la ironía, la sátira, los matices culturales o las expresiones políticas complejas. Esto genera una tensión inherente entre la exigencia legal de una eliminación rápida de los contenidos potencialmente ilegales y la necesidad de un examen jurídico riguroso y respetuoso con los derechos fundamentales. El riesgo de decisiones erróneas –tanto la eliminación indebida de contenidos legales (overblocking) como el mantenimiento de contenidos ilegales (underblocking)– es, por tanto, inherente al sistema.

Surge una capa adicional de complejidad a partir de las condiciones generales o las normas comunitarias de las plataformas en línea. Estas suelen ser más estrictas que los requisitos legales y prohíben contenidos que, sin ser ilegales per se, resultan indeseados desde el punto de vista de la plataforma (por ejemplo, ciertas formas de desnudez, publicidad de productos específicos, spam o determinadas opiniones políticas). Las plataformas invocan aquí su «derecho de admisión virtual». Para los usuarios, a menudo no resulta transparente si una eliminación o un bloqueo obedece a una infracción legal o «solo» a una infracción de las condiciones generales. Cuando las plataformas no comunican de forma clara y comprensible en qué base se ha adoptado una decisión de moderación, esto puede generar confusión entre los afectados, la sensación de una censura arbitraria y una pérdida de confianza en la legitimidad de la moderación de contenidos.

IV. Enfoques cooperativos para estabilizar el discurso

Centrarse únicamente en la eliminación de contenidos ilegales resulta insuficiente para estabilizar de forma duradera el discurso en línea. Más bien se necesita un conjunto de medidas cooperativas que involucren a diversos actores y que abarquen tanto elementos reactivos como preventivos:

Canales de notificación eficaces y gestión transparente de reclamaciones por parte de las plataformas: Los usuarios deben poder notificar fácilmente los contenidos potencialmente problemáticos y recibir información comprensible sobre las decisiones adoptadas. El DSA refuerza considerablemente los derechos de los usuarios en este ámbito.
Colaboración con «alertadores fiables»: Tanto la NetzDG como el DSA prevén la posibilidad de que las plataformas colaboren con los denominados «alertadores fiables» –que pueden ser organizaciones no gubernamentales especializadas, asociaciones sectoriales o también organismos públicos. Las notificaciones de estas entidades, clasificadas como especialmente fiables, deben tratarse con prioridad. No obstante, la selección y la independencia de estos «alertadores fiables» constituyen un punto crítico.
Refuerzo de los verificadores de hechos y fomento de la alfabetización mediática: Las organizaciones independientes de verificación de hechos desempeñan un papel importante en la detección y corrección de la desinformación. El Código de Buenas Prácticas de la UE en materia de Desinformación prevé expresamente medidas para reforzar la comunidad de verificadores de hechos, por ejemplo mediante un mejor acceso a los datos y contribuciones financieras justas. Paralelamente, resulta indispensable fomentar la alfabetización mediática de los usuarios, para que puedan reconocer mejor y cuestionar de forma crítica la desinformación, la manipulación y el discurso de odio.
Compromisos voluntarios del sector: Los códigos de conducta, como el citado Código de la UE contra la Desinformación, pueden realizar una contribución importante si se conciben de forma ambiciosa y se aplican de manera consecuente. Exigen la cooperación de los propios operadores de plataformas entre sí y con otras partes interesadas.
Cooperación internacional de las autoridades encargadas de hacer cumplir la ley: Dado que gran parte de los contenidos ilegales y de las campañas de desinformación operan de forma transfronteriza, resulta indispensable una cooperación internacional eficaz entre las autoridades policiales y judiciales para identificar y perseguir a los responsables. Sin embargo, en la práctica esto suele ir acompañado de considerables obstáculos jurídicos y políticos.
Fomento de culturas de comunicación positivas: Una verdadera estabilización del discurso en línea no puede lograrse únicamente mediante prohibiciones y órdenes de eliminación. Más bien se necesitan medidas proactivas y cooperativas para reforzar la resiliencia de los usuarios y fomentar culturas de comunicación positivas. Entre ellas se incluyen el apoyo al «contradiscurso» (counter speech, es decir, respuestas constructivas al odio y a la incitación), la creación de espacios en las plataformas que favorezcan discusiones deliberativas y respetuosas, y la visibilización de fuentes de información de alta calidad.

Sin embargo, los incentivos económicos de muchas plataformas en línea, que a menudo se basan en maximizar la interacción y el tiempo de permanencia de los usuarios para generar ingresos publicitarios, pueden entrar en contradicción con los objetivos de estabilización del discurso. Los algoritmos suelen estar optimizados para generar interacción, lo que no pocas veces favorece contenidos controvertidos, emocionales y polarizadores. Combatir de forma consecuente la desinformación y el discurso de odio genera costes y puede reducir el alcance de determinados contenidos, lo que a su vez merma los ingresos publicitarios. Mientras los modelos de negocio no establezcan incentivos intrínsecos más sólidos para un comportamiento responsable de las plataformas y un discurso más saludable, la regulación seguirá siendo, en gran medida, una imposición externa que puede topar con resistencia o ser eludida. No obstante, los debates en torno a la «inteligencia artificial ética», el «diseño responsable de plataformas» y la «desmonetización» de la desinformación consagrada en el Código de Buenas Prácticas de la UE apuntan a una creciente conciencia sobre esta problemática fundamental.

V. Conclusión: Un equilibrio entre libertad y orden en la red

El derecho de expresión en el contexto en línea es, y sigue siendo, un ámbito dinámico y cargado de tensiones. No existen soluciones sencillas para los complejos retos que plantea la comunicación digital global. Marcos legales como la NetzDG y el DSA son intentos de crear un sistema que proteja la libertad de expresión y, al mismo tiempo, contenga la difusión de contenidos ilegales y perjudiciales.

En última instancia, el legislador, los operadores de plataformas, la sociedad civil y cada usuario individual están llamados conjuntamente a asumir su responsabilidad y a contribuir a la creación y el mantenimiento de un espacio de discurso en línea caracterizado por la equidad, el respeto y la búsqueda de la verdad. Esto exige un esfuerzo continuo, capacidad de adaptación a los nuevos desarrollos tecnológicos y, sobre todo, una cooperación constante entre todos los implicados. La noción hegeliana de «eticidad» (Sittlichkeit), que se manifiesta en las instituciones y prácticas de una comunidad, podría servir aquí como modelo orientador para el desarrollo de una esfera pública digital responsable.