Desde que existen los foros y redes sociales, la moderación manual de textos ha sido un problema por el coste de tiempo y criterio que requieren, de modo que las empresas que impulsan su masificación actual han optado por la solución más basta del libro: la moderación automática por criterios de denuncia, con desenlace de exclusión. Es decir, va a palpo y reproduce los prejuicios de los moderadores que la entrenan. Una forma muy poco sensata de administrar algo tan serio como la pérdida de tu presencia en redes sociales.
Comentarios
Una forma muy poco sensata de administrar algo tan serio como la pérdida de tu presencia en redes sociales, que hoy en día está muy cerca de ser un servicio esencial y que toca muy de cerca los derechos de propiedad intelectual. Quien quiera reducir esto a una cuestión interna de las empresas y sus condiciones de servicio, puede engañarse a sí mismo, pero a nadie más.
A ese fallo de los sistemas de moderación automáticos (mal entrenados, mal preparados y demasiado poderosos para tomar decisiones de ese alcance sin supervisión) se suma un problema básico de criterio. No se puede censurar en función de lo que otros, sin cualificar, opinen de tus textos o contenidos. Lo sabe cualquiera que haya llevado foros o redes y lo sabe cualquiera que haya observado a la especie humana: es el equivalente de entregar la llave de la expresión pública a los más radicales.
Quien se moviliza contra una página web (o una película o un profesor) habitualmente no es quien respeta la opinión ajena, sino quien sólo respeta la propia. Quien denuncia a Consuelo Ordóñez por recordar a los que murieron por defender la libertad de todos no es una persona de cuyo criterio puedas fiarte. El resultado de gobernarse por el nivel de gritos que desatan tus acciones es que gobierne quien más grita; y, si bien es cierto que hay cosas que hacen gritar a la gente normal, a quienes más se oye suele ser a los extremistas.
De poner coto a los que más gritan e incluso a la mayoría para evitar que pisoteen a los demás. Hemos aprendido que no se puede prohibir una película porque sea ofensiva para los cristianos, ni una novela porque glorifique modos de vida alejados de la moral general ni un ensayo porque cuestione la interpretación actual de un hecho histórico.
Las quejas deberían servir para alarmar, para generar una intervención cualificada, proporcionada y sensata, de la que la empresa se haga siempre responsable. No pueden servir para privar automática y ciegamente de voz y presencia a una persona en función del griterío de intolerantes, con el único recurso real de gritar más. Por el lado contrario, un sistema que se olvida de defender lo básico si no escucha quejas suficientes no va a funcionar bien nunca.
Quiero pensar que esta expansión de la “cultura de cancelación” a la red es una simple cuestión de beneficios que podrá resolverse con mejor tecnología, y no algo mucho más grave. Si realmente los gestores de las redes piensan que se puede dejar la libertad de expresión en manos de detectores de humo manipulables por los más fumadores, el problema es de fondo, y la regulación externa de las redes, una necesidad. No sólo para garantizar que no se excluye al disidente, sino para garantizar la protección de derechos básicos. En resumen, que se cumpla la ley.
Mira, por eso me echaron de Menéame hace un par de años...
#2 como dirian en meneame el trono: strike is coming
Estoy en foros moderados automáticamente. En lugar de llamar a alguien "cabrón", lo llamas "c.abrom" y se lo traga.