La libertad de expresi\u00f3n, consagrada en el art\u00edculo 5 de la Ley Fundamental (Grundgesetz), es una piedra angular de toda sociedad democr\u00e1tica. Permite el intercambio abierto de ideas, la cr\u00edtica al poder y la formaci\u00f3n de la voluntad pol\u00edtica. Internet, y en particular las redes sociales, han revolucionado este espacio de discurso, globaliz\u00e1ndolo, aceler\u00e1ndolo y, potencialmente, democratiz\u00e1ndolo, al ofrecer a cada individuo una plataforma para expresarse. Sin embargo, estas nuevas posibilidades tambi\u00e9n conllevan retos considerables: el anonimato puede provocar desinhibici\u00f3n, la desinformaci\u00f3n y el discurso de odio se propagan a gran velocidad, las c\u00e1maras de eco y las burbujas de filtro estrechan el horizonte, y las campa\u00f1as de desinformaci\u00f3n dirigidas pueden socavar la confianza en los medios y en las instituciones.<\/p>\n\n\n\n
Ante este panorama, surge la pregunta de c\u00f3mo el derecho de expresi\u00f3n puede contribuir a posibilitar un discurso p\u00fablico en l\u00ednea constructivo, basado en hechos y estable, en lugar de dejarlo expuesto a fuerzas destructivas desenfrenadas. Se trata del dif\u00edcil equilibrio entre la m\u00e1xima protecci\u00f3n de las expresiones de opini\u00f3n leg\u00edtimas \u2013incluso cuando resultan provocadoras, inc\u00f3modas o minoritarias\u2013 y la necesidad de trazar l\u00edmites claros all\u00ed donde las expresiones vulneran los derechos de terceros, incitan a la violencia o amenazan los fundamentos de la convivencia democr\u00e1tica. Desde una perspectiva hegeliana, podr\u00eda argumentarse que el Estado, como realizaci\u00f3n de la eticidad (Sittlichkeit), tiene la tarea de garantizar las condiciones para un discurso p\u00fablico razonable en el que pueda articularse el \u00abesp\u00edritu\u00bb de la comunidad. La regulaci\u00f3n del discurso en l\u00ednea ser\u00eda entonces un intento de mantener este orden \u00e9tico en el espacio digital.<\/p>\n\n\n\n
La \u00abestabilizaci\u00f3n del discurso\u00bb a trav\u00e9s del derecho de expresi\u00f3n resulta casi parad\u00f3jica: exige tanto la protecci\u00f3n integral de la libertad de expresi\u00f3n como la limitaci\u00f3n eficaz de sus excesos abusivos. En el espacio en l\u00ednea, descentralizado, sin fronteras y din\u00e1mico, este equilibrio es considerablemente m\u00e1s complejo que en los medios tradicionales. Por un lado, un discurso estable necesita pluralidad de opiniones y la libertad de expresar incluso posturas impopulares. Por otro lado, una \u00ablibertad\u00bb completamente desregulada en internet puede dar lugar a fen\u00f3menos como el ciberacoso, las campa\u00f1as de odio y la difusi\u00f3n masiva de desinformaci\u00f3n, que no estabilizan el discurso, sino que lo desestabilizan y envenenan activamente. Leyes como la Ley alemana de Aplicaci\u00f3n en Redes Sociales (NetzDG) y la Ley europea de Servicios Digitales (DSA, por sus siglas en ingl\u00e9s) intentan contrarrestar estos elementos desestabilizadores obligando, en particular, a las grandes plataformas en l\u00ednea a una moderaci\u00f3n de contenidos m\u00e1s activa. Sin embargo, el peligro inherente a ello es el denominado \u00aboverblocking\u00bb \u2013la eliminaci\u00f3n preventiva de contenidos tambi\u00e9n leg\u00edtimos por temor a sanciones\u2013 y, con ello, una posible restricci\u00f3n de la libertad de expresi\u00f3n.<\/p>\n\n\n\n
Adem\u00e1s, debe tenerse en cuenta que la arquitectura t\u00e9cnica de las plataformas en l\u00ednea, en particular los algoritmos empleados para la curaci\u00f3n de contenidos y los mecanismos de dise\u00f1o de la interacci\u00f3n, tienen una influencia en la calidad y estabilidad del discurso en l\u00ednea al menos tan grande, si no mayor, que las propias normas jur\u00eddicas. Los algoritmos determinan qu\u00e9 contenidos se muestran de forma destacada a los usuarios y, as\u00ed, pueden fomentar, de forma intencionada o no, c\u00e1maras de eco y polarizaci\u00f3n social. Decisiones de dise\u00f1o, como los botones de \u00abme gusta\u00bb, las funciones de retuit o las secciones de comentarios, pueden crear incentivos espec\u00edficos para expresiones que llaman la atenci\u00f3n, pero que a menudo tambi\u00e9n resultan emocionalizadoras y extremas. El derecho \u2013por ejemplo, el DSA, con sus obligaciones de transparencia para los sistemas de recomendaci\u00f3n\u2013 intenta a menudo corregir a posteriori disfunciones causadas o reforzadas tecnol\u00f3gicamente. Una verdadera estabilizaci\u00f3n del discurso en l\u00ednea requiere, por tanto, una cooperaci\u00f3n integral que vaya m\u00e1s all\u00e1 de las meras \u00f3rdenes de eliminaci\u00f3n de contenidos ilegales y que tenga tambi\u00e9n en cuenta el dise\u00f1o de las propias plataformas, as\u00ed como la alfabetizaci\u00f3n medi\u00e1tica de los usuarios.<\/p>\n\n\n\n
Para regular los contenidos en l\u00ednea y combatir el discurso de odio y otras expresiones il\u00edcitas, se han promulgado en Alemania y a nivel de la UE leyes espec\u00edficas que obligan, en particular, a las redes sociales y a otras plataformas en l\u00ednea.<\/p>\n\n\n\n
La Ley de Aplicaci\u00f3n en Redes Sociales (NetzDG) en Alemania<\/strong>, en vigor desde 2017 y conocida coloquialmente tambi\u00e9n como la \u00abley de Facebook\u00bb, tiene como objetivo combatir de forma m\u00e1s eficaz los delitos de odio, las noticias falsas punibles y otros contenidos il\u00edcitos en las grandes redes sociales (con m\u00e1s de dos millones de usuarios registrados en Alemania). Las obligaciones fundamentales para los operadores de plataformas incluyen:<\/p>\n\n\n\n La NetzDG ha sido controvertida desde sus inicios. Entre otras cosas, se critica el riesgo de \u00aboverblocking\u00bb, es decir, la eliminaci\u00f3n de contenidos en caso de duda para evitar multas, lo que podr\u00eda restringir la libertad de expresi\u00f3n. Adem\u00e1s, se critica la \u00abprivatizaci\u00f3n de la aplicaci\u00f3n del derecho\u00bb, ya que empresas privadas deben decidir sobre la licitud de las expresiones, una tarea que tradicionalmente corresponde a los tribunales. La definici\u00f3n de lo \u00abmanifiestamente il\u00edcito\u00bb y los plazos breves tambi\u00e9n plantean retos considerables para las plataformas.<\/p>\n\n\n\n La Ley de Servicios Digitales (DSA) de la Uni\u00f3n Europea<\/strong>, plenamente aplicable en toda la UE desde febrero de 2024, crea un marco jur\u00eddico armonizado para los servicios digitales, en particular para los intermediarios y plataformas en l\u00ednea. Sus objetivos son ambiciosos: crear un entorno en l\u00ednea seguro, previsible y digno de confianza, combatir eficazmente la difusi\u00f3n de contenidos ilegales y abordar los riesgos sociales que pueden derivarse de la desinformaci\u00f3n u otros contenidos perjudiciales. El DSA define los \u00abcontenidos ilegales\u00bb de forma muy amplia, como cualquier informaci\u00f3n que no sea conforme con el derecho de la Uni\u00f3n o con el derecho de un Estado miembro. Esto conlleva el riesgo de que el est\u00e1ndar nacional m\u00e1s estricto pueda convertirse en el criterio de referencia para toda la UE (el llamado \u00abm\u00ednimo com\u00fan denominador\u00bb).<\/p>\n\n\n\n El DSA prev\u00e9 un cat\u00e1logo escalonado de obligaciones que depende del tama\u00f1o, el alcance y el riesgo potencial de los servicios. Se aplican normas especialmente estrictas a las denominadas \u00abplataformas en l\u00ednea de muy gran tama\u00f1o\u00bb (VLOP, por sus siglas en ingl\u00e9s) y a los \u00abmotores de b\u00fasqueda en l\u00ednea de muy gran tama\u00f1o\u00bb (VLOSE, por sus siglas en ingl\u00e9s), con m\u00e1s de 45 millones de usuarios activos mensuales en la UE. Entre las obligaciones fundamentales para las plataformas se incluyen, entre otras:<\/p>\n\n\n\n Tanto la NetzDG como el DSA trasladan as\u00ed una responsabilidad considerable en materia de control de contenidos \u2013y, con ello, de \u00abestabilizaci\u00f3n del discurso\u00bb\u2013 a los operadores privados de plataformas. Esto supone un cambio fundamental en el papel tradicional del Estado en la aplicaci\u00f3n del derecho y en la interpretaci\u00f3n de derechos fundamentales como la libertad de expresi\u00f3n. Tradicionalmente, son los tribunales independientes quienes deciden sobre la licitud o ilicitud de las expresiones tras un examen minucioso. Ahora son las propias plataformas las que, a menudo bajo una considerable presi\u00f3n de tiempo y bajo la amenaza de elevadas multas, deben tomar decisiones de gran alcance sobre la visibilidad de los contenidos. Act\u00faan as\u00ed como jueces de facto de la libertad de expresi\u00f3n, a menudo sin las garant\u00edas propias del Estado de derecho que ofrece un procedimiento judicial. La cooperaci\u00f3n entre el Estado y las plataformas es aqu\u00ed, en gran medida, una cooperaci\u00f3n \u00abforzada\u00bb, en la que las plataformas act\u00faan como una especie de \u00abayudante del sheriff\u00bb del Estado.<\/p>\n\n\n\n La eficacia de estas leyes depende en gran medida de la disposici\u00f3n a cooperar y de los recursos humanos y t\u00e9cnicos de las plataformas, pero tambi\u00e9n de la calidad e independencia de los \u00abalertadores fiables\u00bb y de la capacidad de las autoridades de supervisi\u00f3n de nueva creaci\u00f3n. Se trata de un sistema complejo cuyo \u00e9xito en la pr\u00e1ctica est\u00e1 a\u00fan por demostrar y que probablemente dar\u00e1 lugar a un proceso continuo de adaptaci\u00f3n y a una cierta \u00abcarrera armament\u00edstica\u00bb entre reguladores, plataformas y actores que buscan perturbar deliberadamente el discurso.<\/p>\n\n\n\n Un problema central en la regulaci\u00f3n de las expresiones en l\u00ednea es la definici\u00f3n de lo que se considera \u00abcontenido ilegal\u00bb. Ni la NetzDG ni el DSA definen este concepto de forma exhaustiva por s\u00ed mismos, sino que remiten en gran medida a la legislaci\u00f3n existente.<\/p>\n\n\n\n Las categor\u00edas t\u00edpicas de contenido ilegal incluyen:<\/p>\n\n\n\n La definici\u00f3n de \u00abcontenido ilegal\u00bb depende a menudo en gran medida del contexto y requiere una compleja valoraci\u00f3n jur\u00eddica en cada caso concreto. Determinar si una expresi\u00f3n constituye, por ejemplo, una injuria punible o si sigue estando amparada por la libertad de expresi\u00f3n como s\u00e1tira o cr\u00edtica mordaz puede resultar dif\u00edcil de juzgar incluso para juristas. No cabe esperar una valoraci\u00f3n impecable por parte del personal de las plataformas, que a menudo debe decidir bajo una considerable presi\u00f3n de tiempo y sin una formaci\u00f3n jur\u00eddica exhaustiva. Tambi\u00e9n los sistemas automatizados de detecci\u00f3n de contenidos, pese a los avances de la inteligencia artificial, son propensos a errores, en particular a la hora de interpretar la iron\u00eda, la s\u00e1tira, los matices culturales o las expresiones pol\u00edticas complejas. Esto genera una tensi\u00f3n inherente entre la exigencia legal de una eliminaci\u00f3n r\u00e1pida de los contenidos potencialmente ilegales y la necesidad de un examen jur\u00eddico riguroso y respetuoso con los derechos fundamentales. El riesgo de decisiones err\u00f3neas \u2013tanto la eliminaci\u00f3n indebida de contenidos legales (overblocking) como el mantenimiento de contenidos ilegales (underblocking)\u2013 es, por tanto, inherente al sistema.<\/p>\n\n\n\n Surge una capa adicional de complejidad a partir de las condiciones generales o las normas comunitarias de las plataformas en l\u00ednea. Estas suelen ser m\u00e1s estrictas que los requisitos legales y proh\u00edben contenidos que, sin ser ilegales per se, resultan indeseados desde el punto de vista de la plataforma (por ejemplo, ciertas formas de desnudez, publicidad de productos espec\u00edficos, spam o determinadas opiniones pol\u00edticas). Las plataformas invocan aqu\u00ed su \u00abderecho de admisi\u00f3n virtual\u00bb. Para los usuarios, a menudo no resulta transparente si una eliminaci\u00f3n o un bloqueo obedece a una infracci\u00f3n legal o \u00absolo\u00bb a una infracci\u00f3n de las condiciones generales. Cuando las plataformas no comunican de forma clara y comprensible en qu\u00e9 base se ha adoptado una decisi\u00f3n de moderaci\u00f3n, esto puede generar confusi\u00f3n entre los afectados, la sensaci\u00f3n de una censura arbitraria y una p\u00e9rdida de confianza en la legitimidad de la moderaci\u00f3n de contenidos.<\/p>\n\n\n\n Centrarse \u00fanicamente en la eliminaci\u00f3n de contenidos ilegales resulta insuficiente para estabilizar de forma duradera el discurso en l\u00ednea. M\u00e1s bien se necesita un conjunto de medidas cooperativas que involucren a diversos actores y que abarquen tanto elementos reactivos como preventivos:<\/p>\n\n\n\n Sin embargo, los incentivos econ\u00f3micos de muchas plataformas en l\u00ednea, que a menudo se basan en maximizar la interacci\u00f3n y el tiempo de permanencia de los usuarios para generar ingresos publicitarios, pueden entrar en contradicci\u00f3n con los objetivos de estabilizaci\u00f3n del discurso. Los algoritmos suelen estar optimizados para generar interacci\u00f3n, lo que no pocas veces favorece contenidos controvertidos, emocionales y polarizadores. Combatir de forma consecuente la desinformaci\u00f3n y el discurso de odio genera costes y puede reducir el alcance de determinados contenidos, lo que a su vez merma los ingresos publicitarios. Mientras los modelos de negocio no establezcan incentivos intr\u00ednsecos m\u00e1s s\u00f3lidos para un comportamiento responsable de las plataformas y un discurso m\u00e1s saludable, la regulaci\u00f3n seguir\u00e1 siendo, en gran medida, una imposici\u00f3n externa que puede topar con resistencia o ser eludida. No obstante, los debates en torno a la \u00abinteligencia artificial \u00e9tica\u00bb, el \u00abdise\u00f1o responsable de plataformas\u00bb y la \u00abdesmonetizaci\u00f3n\u00bb de la desinformaci\u00f3n consagrada en el C\u00f3digo de Buenas Pr\u00e1cticas de la UE apuntan a una creciente conciencia sobre esta problem\u00e1tica fundamental.<\/p>\n\n\n\n El derecho de expresi\u00f3n en el contexto en l\u00ednea es, y sigue siendo, un \u00e1mbito din\u00e1mico y cargado de tensiones. No existen soluciones sencillas para los complejos retos que plantea la comunicaci\u00f3n digital global. Marcos legales como la NetzDG y el DSA son intentos de crear un sistema que proteja la libertad de expresi\u00f3n y, al mismo tiempo, contenga la difusi\u00f3n de contenidos ilegales y perjudiciales.<\/p>\n\n\n\n En \u00faltima instancia, el legislador, los operadores de plataformas, la sociedad civil y cada usuario individual est\u00e1n llamados conjuntamente a asumir su responsabilidad y a contribuir a la creaci\u00f3n y el mantenimiento de un espacio de discurso en l\u00ednea caracterizado por la equidad, el respeto y la b\u00fasqueda de la verdad. Esto exige un esfuerzo continuo, capacidad de adaptaci\u00f3n a los nuevos desarrollos tecnol\u00f3gicos y, sobre todo, una cooperaci\u00f3n constante entre todos los implicados. La noci\u00f3n hegeliana de \u00abeticidad\u00bb (Sittlichkeit), que se manifiesta en las instituciones y pr\u00e1cticas de una comunidad, podr\u00eda servir aqu\u00ed como modelo orientador para el desarrollo de una esfera p\u00fablica digital responsable.<\/p>\n","protected":false},"excerpt":{"rendered":" I. Introducci\u00f3n: El discurso en l\u00ednea \u2013 Libertad y responsabilidad La libertad de expresi\u00f3n, consagrada en el art\u00edculo 5 de la Ley Fundamental (Grundgesetz), es una piedra angular de toda sociedad democr\u00e1tica. Permite el intercambio abierto de ideas, la cr\u00edtica al poder y la formaci\u00f3n de la voluntad pol\u00edtica. Internet, y en particular las redes… Seguir leyendo |04| El derecho de expresi\u00f3n como estabilizaci\u00f3n del discurso<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"_editorskit_title_hidden":false,"_editorskit_reading_time":0,"_editorskit_is_block_options_detached":false,"_editorskit_block_options_position":"{}","footnotes":""},"class_list":["post-2459","page","type-page","status-publish","hentry","entry"],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/bauer.legal\/es\/wp-json\/wp\/v2\/pages\/2459","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bauer.legal\/es\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/bauer.legal\/es\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/bauer.legal\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bauer.legal\/es\/wp-json\/wp\/v2\/comments?post=2459"}],"version-history":[{"count":1,"href":"https:\/\/bauer.legal\/es\/wp-json\/wp\/v2\/pages\/2459\/revisions"}],"predecessor-version":[{"id":2460,"href":"https:\/\/bauer.legal\/es\/wp-json\/wp\/v2\/pages\/2459\/revisions\/2460"}],"wp:attachment":[{"href":"https:\/\/bauer.legal\/es\/wp-json\/wp\/v2\/media?parent=2459"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n
\n
III. \u00bfQu\u00e9 son los \u00abcontenidos ilegales\u00bb? Delimitaci\u00f3n y ejemplos<\/h3>\n\n\n\n
\n
IV. Enfoques cooperativos para estabilizar el discurso<\/h3>\n\n\n\n
\n
V. Conclusi\u00f3n: Un equilibrio entre libertad y orden en la red<\/h3>\n\n\n\n