Twitch combate los mensajes de odio mediante inteligencia artificial: esta herramienta detecta cuentas potencialmente indeseadas

Twitch combate los mensajes de odio mediante inteligencia artificial: esta herramienta detecta cuentas potencialmente indeseadas
2 comentarios

La popularidad de Twitch ha crecido a un ritmo exponencial durante los últimos años, y cada vez son más los usuarios que entran a la plataforma para ver a sus streamers favoritos, dejando incluso de lado la tele. Sin embargo, una de las peores cosas que puede ver un espectador o un creador de contenido en un directo, son los mensajes de odio que a veces resuenan en el chat. Twitch ha ido introduciendo medidas para combatirlas todo este tiempo, y hoy hablamos de su última conocida.

La plataforma introduce una herramienta para detectar, mediante inteligencia artificial, a usuarios sospechosos o potencialmente indeseados. De esta manera, el sistema utiliza técnicas de machine learning para ocultar del chat aquellas cuentas que hayan evitado ser baneadas del directo mediante la creación de una cuenta nueva.

Una herramienta de gran utilidad para el creador de contenido

Cuando alguien sospechoso aparece por el chat, el sistema detecta automáticamente si se trata de una cuenta que 'posiblemente' haya evadido un ban a través de la creación de una cuenta nueva. En ese sentido lo que hace es ocultar el mensaje del chat y advertir al creador de contenido. Por otra parte, si es 'probable' pero no hay demasiada certeza, la cuenta se marcará con un indicador en rojo para que los moderadores y creadores puedan monitorizar su comportamiento de forma más fácil.

Los creadores pueden modificar las restricciones de este sistema, pudiendo eliminar tanto a 'posibles' como a 'probables' cuentas que hayan evadido un ban. También pueden desactivar la herramienta si así lo desean.

Desde la plataforma no han sido muy descriptivos con el funcionamiento de este sistema, comentando únicamente que se basan en 'señales' para detectar la cuenta por medio de inteligencia artificial.

El único 'pero' de este sistema por el momento es que, el creador de contenido y los moderadores van a seguir viendo esos mensajes de odio aunque estén ocultos para el chat. Es entendible, puesto que sino no se puede saber la gravedad del asunto, pero aún así, el hecho de tan solo verlo puede afectar considerablemente a cualquiera.

No es la única medida que la plataforma ha lanzado recientemente para combatir los mensajes de odio. Hace un tiempo dieron a conocer otra herramienta que consistía en filtrar aún más el contenido del chat haciendo que las cuentas participantes tengan que estar verificadas a través de un e-mail y número de teléfono. Esta opción la pueden activar los creadores manualmente, y se trata de un obstáculo más para aquellas cuentas nuevas que han sido creadas con la única finalidad de insultar y no respetar a la comunidad.

Más información | Twitch

Temas
Inicio