Así lucha YouTube contra los vídeos de terrorismo

Controlar lo que se publica en las redes es como poner puertas al campo. Se puede hacer, pero las probabilidades de que se nos escapen muchos flecos son bastante elevadas. Y en estas anda YouTube.

El servicio de Google lo está intentando por diestro y siniestro. Y aunque YouTube es un espacio en el que no podemos encontrar escenas de sexo ni violencia extrema, algunas de las grabaciones que podemos ver hoy son violentas o susceptibles de herir la susceptibilidad de cualquiera. Esto es, no aptas para todos los públicos.

Ahora YouTube se ha propuesto luchar contra los vídeos de terrorismo. La plataforma ha comenzado a desplegar una funcionalidad que quiere evitar las búsquedas y visionado de imágenes relacionadas con el terrorismo. Su manera de luchar contra esta lacra será mostrando imágenes que desacrediten las prácticas terroristas. Será una manera de contrarrestrarlas.

Los vídeos de terrorismo redireccionarán a contenidos que los desacrediten

YouTube ha seleccionado una serie de términos, que son los que la gente introduce al buscar imágenes sobre terrorismo. Los responsables de la plataforma se han negado a proporcionar estas palabras clave, pero es evidente que se tratará de vocablos directamente relacionados con el terrorismo, los grupos violentos y el extremismo.

Al teclear en la caja de búsqueda alguno de estos términos, que tampoco serán tantos, el sistema redirigirá al usuario a contenidos que confrontan los mensajes extremistas y desacreditan cualquier fundamento que pudieran exponer como cierto los grupos terroristas.

Una obligación moral y… económica

A principios de este año, cientos de anunciantes boicotearon a YouTube. La razón estaba directamente vinculada con el terrorismo. Y es que la plataforma fue denunciada por alojar vídeos extremistas y violentos, que abundaban en la retórica del odio. Los anunciantes se dieron cuenta que sus productos estaban apareciendo junto a estos contenidos.

Google ha rechazado esta tesis. Pero lo cierto es que en los últimos tiempos han tomado distintas medidas para que estos vídeos desaparezcan de su plataforma. A esta medida de redireccionamiento hay que sumar la coalición que el año pasado ya formaron Facebook, Microsoft, Twitter y YouTube para ser completamente hostiles para los grupos terroristas y extremistas violentos.

La tecnología de redirección

La funcionalidad ha sido bautizada internamente como Redirect Method y ha sido desarrollada por Jigsaw, un grupo que se encuentra dentro de Alphabet, la compañía de Google.

Jigsaw no es nueva en esto. La compañía tiene la experiencia de haber participado con Moonshot CVE, una firma que se encarga de usar la tecnología para combatir los extremismos y la violencia.

Ellos estudian de qué manera usan la tecnología los grupos terroristas. Y esto incluye la posibilidad de instruir y reclutar nuevos miembros. No hay que perder de vista que algunas de las personas que han cometido atentados en Europa han sido reclutados con propaganda extremista y han actuado como lobos solitarios, sin necesidad de haber sido entrenados en los países de origen de estos extremismos.

De ahí que los mensajes de propaganda terrorista estén siendo fulminados de YouTube para redirigir a aquellos que los miran a contenidos que desactivan esos mensajes de odio.

YouTube ya lo ha usado en Europa para potenciales reclutas de ISIS

Hasta ahora, YouTube había admitido que usaba este método en Europa redirigir a potenciales reclutas de ISIS a vídeos antiterroristas. Sin embargo, parece que esta funcionalidad será ampliada en las próximas semanas en un conjunto de búsquedas más amplio.

Parece que los términos de búsqueda se irán actualizando, también en otros idiomas que no sean el inglés. Y es que el sistema será capaz de aprender automáticamente para ir adaptándose a las búsquedas que se hacen.

Además, YouTube ha informado que los vídeos que pueden etiquetarse en el odio o el extremismo no admitirán ningún tipo de publicidad. Lo que debería, en principio, tranquilizar a los anunciantes.

Además, parece que se trabajará más intensamente en la identificación y eliminación de contenidos relacionados con el terrorismo y se ampliará el número de expertos independientes que los controlen. 50 personas más se sumarán a las 63 que actualmente trabajan para este fin y forman parte de diferentes ONGs.