¿Cómo se mantiene limpio Internet?

¿Alguna vez has denunciado una publicación por considerarla un peligro inminente? ¿Te has preguntado qué sucede después de tomar esa acción? La rapidez con la que una imagen puede volverse viral en las redes sociales es impactante. Ahora, imagina si esa imagen muestra un acto criminal y, en lugar de ser denunciada, es compartida o retuiteada por otros espectadores. Reflexiona sobre cómo podría afectar a niños, adolescentes o personas vulnerables, e incluso cómo podría influir en ti, dependiendo de tu estado emocional en ese momento.

Es esencial mantener un Internet limpio y seguro. Sin embargo, los algoritmos no discriminan entre un anuncio sobre la concienciación del cáncer de mama y contenido inapropiado, o entre una foto de niños disfrazados y una relacionada con explotación infantil. Es por eso que se requiere la intervención humana para discernir qué contenidos sospechosos deben ser eliminados y cuáles pueden permanecer.

Entonces, ¿Cómo se decide qué publicaciones son ofensivas y cuáles no lo son? ¿Por qué no estamos inundados de contenido indeseable cada minuto? La respuesta: los moderadores de contenido limpian Internet. Estos profesionales trabajan en las sombras de la red, determinando qué puede ser compartido masivamente y qué no, actuando como guardianes de Internet.

En este nuevo artículo, exploraremos el papel crucial que desempeñan 24/7 para asegurar un Internet libre de peligros.

¿Qué son los moderadores de contenido?

¿Recuerdas ese momento de la película "Hombres de Negro" en el que Z (Rip Torn) le dice a J (Will Smith) que a partir de entonces no existe, que su identidad será completamente anónima? De manera similar, los moderadores de contenido desempeñan su papel en el mundo digital.

Son individuos como tú y como yo, pero se comprometen a un estricto acuerdo de confidencialidad que les prohíbe compartir lo que experimentan en sus pantallas y el impacto emocional que este trabajo puede tener en ellos. Se ven obligados a utilizar un lenguaje codificado para proteger la identidad de las plataformas para las que trabajan, y están bajo la vigilancia constante de empresas de seguridad privada para garantizar que no revelen información a la prensa. Además, enfrentan la amenaza de sanciones económicas si violan estas reglas.

Aunque este escenario podría parecer sacado de una película de ciencia ficción, es una realidad palpable. Estas personas existen, y aunque su labor es esencial para mantener la integridad de las plataformas digitales, conlleva una serie de consecuencias negativas que a menudo pasan desapercibidas para nosotros, o que preferimos ignorar.

¿Cómo trabajan los limpiadores?

Peses a cumplir un papel vital en la limpieza de plataformas como Facebook, Twitter y Google, no reciben su compensación directamente de estas grandes empresas tecnológicas. En su lugar, son empleados por empresas subcontratadas en diferentes partes del mundo, que tienden a mantener los salarios en niveles bajos.

En esta compleja cadena de subcontratación, hay decenas de miles de jóvenes que se enfrentan diariamente a contenido extremadamente perturbador que está destinado a ser eliminado.

Estamos hablando de imágenes y videos que abarcan desde decapitaciones y mutilaciones hasta ejecuciones, necrofilia, tortura y abuso infantil. Cada turno laboral implica lidiar con una cantidad abrumadora de estas imágenes, con la responsabilidad de presionar el botón de “ignorar” o “eliminar” lo que va en contra de las políticas de las plataformas, sin importar la hora del día.

A la dificultad del trabajo se añaden las condiciones laborales de los trabajadores, a quienes habitualmente se emplea como contratistas en lugar de como empleados permanentes a tiempo completo, no se les imparte capacitación ni reciben apoyo psicológico por la labor que realizan. Esto es problemático porque la constante exposición a contenidos violentos puede suponer una carga psicológica a largo plazo que a menudo da lugar a síntomas similares a los del trastorno por estrés postraumático tales como insomnio, pesadillas, ansiedad o alucinaciones. La gravedad del problema no ha recibido suficiente atención por parte de muchas empresas tecnológicas (OIT, 2019, p. 4).

Un sacrificio por todos

Es alarmante descubrir que una parte significativa de esta labor se lleva a cabo en Manila, la capital de Filipinas. Esta ciudad, paradójicamente, es reconocida por acumular los desechos tóxicos analógicos del mundo occidental desde hace años. Así es, toda la basura de la red queda depositada en los cables de fibra óptica. Estos cables, que deberían ser una fuente de conectividad y progreso, se convierten en un recurso codiciado por grupos que actúan como "buitres", buscando oportunidades para extraer valiosos datos que luego pueden vender en el mercado clandestino. La búsqueda no es gratuita, muchos de estos carroñeros de spam resultan con serias lesiones al indagar entre los residuos tecnológicos.

Sin embargo, a diferencia de sus heridas visibles, las cicatrices emocionales de los limpiadores permanecen invisibles. Todo ese contenido impactante y perturbador, esas imágenes y videos, penetran en sus memorias, donde en cualquier momento pueden tener efectos impredecibles: desde trastornos de la alimentación y pérdida de la libido, hasta ansiedad, alcoholismo, depresión e incluso suicidio.

Se ha documentado que varios de estos moderadores que están expuestos particularmente a desinformación comienzan a creer en ella, si te expones a cientos de videos diarios sobre la tierra plana puedes comenzar a dudar. Sumado a las consecuencias psicológicas que te orilla el observar contenido perjudicial como parte de tu jornada laboral, hay evidencia de cómo entre los moderadores de contenidos ha aumentado la depresión, adicción y el estrés postraumático, (Torres Vargas, 2022, p.112).

Es crucial mantener la red libre de peligros para todos. Sin embargo, es igualmente urgente implementar medidas concretas para proteger a aquellos que enfrentan el peso de lidiar con una gran cantidad de imágenes perturbadoras en su trabajo diario. El mensaje es claro: todos tenemos el poder de mantener Internet limpio y evitar que unos pocos sacrifiquen su bienestar por nosotros. Esto se logra siendo responsables del contenido que compartimos, subimos y guardamos. A veces, una pequeña acción, como un par de clics, puede transformar el mundo.

FUENTES:

Torres Vargas, G. A. (2022). Desafíos en el entorno de la información y la documentación ante las problemáticas sociales actuales. (2), 105-120. https://ru.iibi.unam.mx/jspui/handle/ IIBI_UNAM/529