A principios de este mes, la Unión Europea dejaba claro que el contenido extremista debería eliminarse en una o dos horas, pidiendo a compañías como Facebook, Google o Twitter que mejoren el proceso de moderación.

El problema llega cuando tienes una plataforma con 2.000 millones de usuarios activos, ya que moderar todo el contenido generado se convierte en una tarea titánica. Los 7.500 moderadores que tiene la compañía parecen no dar a basto con la cantidad de trabajo que tienen encima.

Facebook pide perdón

Propublica, una agencia de noticias independiente y sin ánimo de lucro radicada en Manhattan, envió a la red social 49 publicaciones que incitaban al odio. El problema es que los moderadores erraron en 22 ocasiones. Es decir, en casi el 50% de los casos.

En seis de las ocasiones, Facebook se escudó en que los usuarios habían marcado mal las publicaciones (en seis ejemplos) y que no tenían demasiada información para responder (en dos casos)

Además, Facebook defendió 19 de sus decisiones, en publicaciones que incluían contenido sexista, racista y antisemita. Justin Osofsky, vicepresidente de la compañía, firmó un comunicado en el que asegura que "sienten los errores que han cometido".

"Tenemos que hacerlo mejor".

Osofsky declaró que en 2018 el equipo de seguridad de la red social llegará contará con 20.000 miembros. También ha asegurado que Facebook elimina unas 66.000 publicaciones a la semana, que previamente fueron reportadas por contener mensajes de odio.

 El caso del líder checheno Ramzan Kadyrov

Precisamente, esta semana conocíamos que fueron bloqueadas las cuentas de Facebook e Instagram del homofóbico líder checheno Ramzan Kadyrov. Narcisista empedernido, utilizaba las redes sociales para hacer gala de una "masculinidad" desmedida y presumir de supuestos logros deportivos.

Los perfiles de Kadyrov se cerraron después de que fuera incluido en la lista de personas prohibidas de los Estados Unidos. En este caso, se le penalizó por su actitud homófoba fuera de las redes sociales, ya que utilizaba sus perfiles para alimentar su ego.

En una segunda cuenta de Instagram (a la que ahora tampoco se puede acceder), emitía un comunicado en el que parece un tanto resentido. Aseguraba que él mismo ya había pensado en borrar sus perfiles:

"Querían molestarme, pero fallaron. Durante mucho tiempo estuve pensando en abandonar esta red social, pero no quería molestar a mis amigos y seguidores, casi cuatro millones. La red ha pretendido desde hace tiempo ser independiente de Washington D.C. y su decisión se produjo inmediatamente después de las sanciones del Tesoro de los Estados Unidos. Podrán bloquear las cuentas, pero nunca podrán bloquear el nombre de Ramzan Kadyrov, ni las redes sociales ni quienes las manejan".

En Genbeta | Un ex-ejecutivo de Facebook piensa que la red social está destruyendo la forma en la que funciona la sociedad

Dos empleados de Microsoft que trabajaban en el equipo de seguridad online, están demandando a la empresa luego de desarrollar trastorno de estrés postraumático por tener que someterse a mirar contenido con todo tipo de imágenes perturbadoras. Los dos empleados alegan que se vieron forzados a ver fotos y vídeos llenos de brutalidad, ofensas sexuales, y hasta asesinatos y abuso de menores.

En su demanda acusan a Microsoft de ser negligentes y causar estrés emocional. Según lo que han declarado tanto la familia como los demandantes, Henry Soto y Gren Blauert, el trabajo de moderación los obligaba a ver contenido inhumano y despreciable de forma constante y dicen que el impacto psicológico ha sido tan extremo que ya no pueden ni estar alrededor de niños ni usar ordenadores sin verse afectados.

Microsoft respondió a los alegatos de sus ex empleados diciendo que no está de acuerdo con ellos y que se toma muy seriamente su responsabilidad de remover y reportar cualquier tipo de imágenes y contenido de abuso y explotación sexual de menores que son compartidos en sus servicios, así como la salud de los empleados que hacen ese trabajo tan importante.

En la demanda que fue introducida en diciembre y hecha pública esta semana, se alega que Microsoft no advirtió a los trabajadores sobre los peligros de ese tipo de trabajo. El puesto de Henry Soto requería que asistiera a las autoridades a acabar con grupos criminales y violentos y por ello tenía que ver cientos de fotografías y vídeos llenas de violencia y brutalidad (incluyendo pornografía infantil) que mostraran el nivel de depravación de los infractores.

Sabemos que existe un grupo de personas en el mundo que tiene que lidiar con la cloaca de los más bajo de la web. Si las acusaciones hechas por estos empleados tienen algo de verdad, el mundo de la moderación online es increíblemente perturbador, y si es difícil no sentirse incómodo apenas leyendo sobre algo así, el extremo al que podría afectar a alguien lidiando con ello día a día no puede menospreciarse.

Aunque existen varios sistemas automatizados que han desarrollado gigantes como Facebook, Google o el mismo Microsoft, que se encargan de detectar este tipo de contenido distribuido a través de sus servicios, aún se requiere la supervisión de un humano, y ahí es donde entran empleados como los de esta historia.

Vía | The Next Web
En Genbeta | Microsoft lanza un portal de privacidad online para permitirte gestionar lo que sabe de ti

Habrá usuarios que dispongan de sus propios blogs de WordPress instalado en sus propios servidores, pero que no necesitan tener sus navegadores web continuamente abiertos, aunque si desean ser más eficaces a la hora de moderar los comentarios que les entran. Y para ésto, claro está, también hay solución.

Gracias a Daniel Dura, tanto estos usuarios como cualquiera de nosotros disponemos de Moderator, actualmente en su versión 0.1. Se trata de un plugin que instalaremos en nuestra instalación de WordPress, y de un cliente en Adobe AIR. Una vez que hayamos subido el plugin a nuestro servidor y lo tengamos activo desde el panel de WordPress, desde el menú Opciones veremos una nueva opción desde la cual nos permitirá descargarnos un cliente de escritorio que funciona bajo la plataforma Adobe AIR.

Desde este cliente podremos aprobar, borrar y marcar como spam cada uno de los comentarios que nos llegue. Para ello inicialmente indicaremos la URL del blog, usuario y contraseña, y una vez dentro configuraremos el intervalo de tiempo por el que chequeará periódicamente nuestro blog en busca de nuevos comentarios. Cuando encuentre nuevos comentarios seremos notificados igualmente por Moderator.

Pero aquí no acabará la cosa, ya que más adelante se espera la posibilidad de poder responder a los comentarios, además del soporte de múltiples blogs.

Para hacer uso de esta aplicación, necesitamos disponer de WordPress 2.6.x, además de tener instalado Adobe AIR 1.1. Cuando aparezca la esperada versión de WordPress, la 2.7, Moderator soportará dicha versión.

Vía | Webware Enlace | Sitio oficial de Moderator