Un estudio demuestra que YouTube le recomienda videos sobre armas y tiroteos a niños
La investigación fue realizada por Tech Transparency Project (TTP), un proyecto sin fines de lucro que monitorea el trabajo de las grandes tecnológicas y cuyos analistas crearon cuentas identificadas como niños de nueve y 14 años
El algoritmo de YouTube recomendó cientos de videos sobre armas y violencia armada a cuentas de niños interesados en videojuegos, según un nuevo estudio. Algunos de los contenidos sugeridos daban instrucciones sobre cómo convertir pistolas en armas automáticas o mostraban tiroteos en escuelas.
La investigación fue realizada por Tech Transparency Project (TTP), un proyecto sin fines de lucro que monitorea el trabajo de las grandes tecnológicas. Para este estudio, los analistas crearon cuatro cuentas de YouTube: dos identificadas como niños de nueve años y dos identificadas como niños de 14 años.
Luego simularon ser menores de edad a los que les gustaban los videojuegos, reproduciendo videos sobre la temática. Con una diferencia clave: la mitad de los perfiles solo vio material recomendado por la plataforma y el resto nunca interactuó con él.
El estudio encontró que YouTube envió contenido sobre tiroteos y armas a todas las cuentas. Sin embargo, lo hizo en un mayor volumen a los usuarios que hicieron clic en los videos recomendados. En algunos casos, hasta 10 veces más. Es decir, si un menor mostró interés en los videos sugeridos por YouTube, el algoritmo presentó cada vez más contenido relacionado con la violencia en el mundo real.
Un video mostraba a una niña en edad de escuela primaria sujetando una pistola. En otro, se veía a un hombre que usaba una pistola calibre 50 para dispararle a una cabeza ficticia, llena de sangre y cerebros realistas. El equipo registró también escenas reales que mostraban tiroteos en escuelas y otros eventos parecidos.
El hallazgo del estudio desmiente las garantías que YouTube ha ofrecido sobre la seguridad de sus algoritmos. “Las recomendaciones de YouTube en realidad no están dirigiendo a los espectadores hacia contenido extremo”, publicó en 2021 en el blog de la plataforma el entonces vicepresidente de ingeniería de la compañía, Cristos Goodrow. “La entrega de recomendaciones responsables es nuestra máxima prioridad”, aseguró entonces.
YouTube envió 382 videos de armas de fuego reales a la cuenta que simulaba ser un niño de nueve años y que vio solo contenido recomendado. Todo esto en un solo mes, lo que sería un promedio de más de 12 por día. El volumen fue mucho mayor en los usuarios de 14 años: mostró 1.325 videos de armas de fuego reales, un promedio de más de 44 por día.
Las cuentas que ignoraron las sugerencias recibieron algunos videos relacionados con armas, pero en mucha menor cantidad: 34 para las de nueve años y 172 para las de 14 años.
“Los videojuegos son una de las actividades más populares para los niños. Puedes jugar un juego como Call of Duty sin terminar en una tienda de armas, pero YouTube los está llevando allí”, dijo Katie Paul, directora de TTP, en declaraciones a AP. “No son los videojuegos, no son los niños. Son los algoritmos”.
