Un vídeo gráfico en el que se muestra aun hombre de Pensilvania acusado de decapitar a su padre, que circuló durante horas por YouTube, ha vuelto a poner bajo los reflectores las deficiencias de las empresas de redes sociales para impedir que se difundan por la red publicaciones aterradoras.
La policía informó que acusó a Justin Mohn, de 32 años, de asesinato en primer grado y mal manejo de un cadáver después de que decapitara a su padre, Michael, en su casa del condado de Bucks y lo publicara en un video de 14 minutos en YouTube que cualquiera podía ver en cualquier lugar.
Ha suscitado comparaciones con los videos de decapitaciones publicados en internet por miembros del grupo Estado Islámico en el momento de su apogeo hace casi una década, se conoció mientras los directores generales de Meta, TikTok y otras empresas de redes sociales testificaban ante legisladores federales frustrados por lo que consideran una falta de progreso en materia de seguridad infantil en internet.
YouTube, propiedad de Google, no asistió a la audiencia a pesar de ser una de las plataformas más populares entre los adolescentes.
El inquietante video de Pensilvania surgió tras otras horribles grabaciones que han sido difundidas en las redes sociales en los últimos años, incluyendo tiroteos masivos transmitidos en vivo desde Louisville, Kentucky; Memphis, Tennessee; y Buffalo, Nueva York; así como masacres filmadas en el extranjero en Christchurch, Nueva Zelanda, y la ciudad alemana de Halle.
Pete Feeney, capitán de la policía del distrito de Middletown, explicó que el video de Pensilvania permaneció en línea unas cinco horas, un lapso que plantea dudas sobre si las plataformas de redes sociales están cumpliendo con prácticas de moderación que podrían ser más necesarias que nunca en medio de las guerras de Gaza y Ucrania, y de unas elecciones presidenciales extremadamente conflictivas en Estados Unidos.
“Es otro ejemplo del flagrante fracaso de estas empresas a la hora de protegernos […] No podemos confiar en que califiquen sus propios deberes”, afirmó Alix Fraser, directora del Consejo para Redes Sociales Responsables de la organización sin ánimo de lucro Issue One (Asunto Uno).
Un portavoz de YouTube dijo que habían retirado el video, eliminado el canal de Mohn y estaba rastreando y eliminando cualquier republicación que pudiera aparecer. La plataforma para compartir videos afirma que utiliza una combinación de inteligencia artificial y moderadores humanos para supervisar su contenido, pero no respondió a preguntas sobre cómo se detectó el video o por qué no se hizo antes.
Las principales empresas de redes sociales moderan los contenidos con la ayuda de potentes sistemas automatizados, que a menudo pueden detectar contenidos prohibidos antes que un humano. Pero esa tecnología a veces se queda corta cuando un video es violento y gráfico de una forma nueva o inusual, como en este caso, explicó Brian Fishman, cofundador de la empresa de tecnología de confianza y seguridad Cinder.
Es entonces cuando los moderadores humanos son “realmente, realmente fundamentales […] La IA está mejorando, pero aún no ha alcanzado ese punto”, dijo.
Telediario
