Uvalde muestra por qué las amenazas en línea deben tomarse más en serio

Uvalde muestra por qué las amenazas en línea deben tomarse más en serio

Hoy hace una semana, un joven de 18 años entró a una escuela primaria en Uvalde, Texas, y cometió el último de l. a. interminable serie de asesinatos sin sentido de nuestra nación. Y después de ese horror (19 niños muertos, dos maestros muertos, 18 más heridos), l. a. atención se centró una vez más en el papel que podrían haber jugado las plataformas para permitir l. a. violencia.

Esta pregunta puede sentirse urgentemente necesaria y también de alguna manera fuera de lugar. Necesario porque las personas (a menudo adolescentes) son constantemente siendo arrestado después de hacer amenazas en las redes socialesy el caso Uvalde muestra una vez más por qué esas amenazas deben tomarse más en serio.

Y, sin embargo, también está claro que el problema de l. a. violencia con armas de fuego en Estados Unidos no se resolverá al nivel de l. a. política de plataforma o l. a. aplicación. Solo se puede resolver haciendo más difícil que las personas adquieran y usen armas, en specific las armas de asalto que figuran en cada historia como esta.

Pero por aquí nos centramos en las plataformas. Y con eso en mente, echemos un vistazo a lo que hemos aprendido sobre el comportamiento en línea del tirador en l. a. semana posterior al tiroteo. Habla de problemas relacionados con l. a. seguridad infantil y las plataformas que he informado aquí antes, y señala algunos pasos claros que las plataformas (y, si es necesario, los reguladores) deben tomar a continuación.

Aparte de un puñado de mensajes privados, el tirador de Uvalde parece no haber usado mucho Fb. Eso e Instagram alguna vez fueron las plataformas predeterminadas para hacer amenazas como estas, pero las nuevas plataformas están ganando popularidad entre los jóvenes. Al tirador de Uvalde le gustó uno llamado Yubo, creado por una empresa francesa llamada Twelve App. Es una aplicación de “escalofriante en vivo” identical a Houseparty, l. a. aplicación en l. a. que se convirtió Meerkat después de ayudar a lanzar l. a. locura de l. a. transmisión en vivo en los Estados Unidos en 2015.

Aparentemente, también es bastante widespread, con más de 18 millones de descargas solo en los Estados Unidos, según l. a. firma de investigación de mercado Sensor Tower.

Al igual que Houseparty, Yubo permite que los usuarios se transmitan en vivo a un pequeño grupo de amigos. El giro es que Yubo se enfoca en hacer nuevos amigos: encontrar personas con intereses similares y permitirles chatear. Particularmente gente joven. “Yubo es una plataforma social de transmisión en vivo que celebra l. a. verdadera esencia de ser joven”. la empresa dice. (Quizás por esa razón, parece haber atraído a más de su parte de hombres mayores y sus insinuaciones sexuales no deseadas.)

En los días posteriores a l. a. masacre, los reporteros descubrieron que Yubo parece haber sido l. a. major aplicación social del tirador. Lo usó, entre otras cosas, para amenazar con violación y tiroteos en escuelas. Aquí están Daniel A. Medina, Isabelle Chapman, Jeff Winter y Casey Tolan en CNN:

Tres usuarios dijeron que vieron a Salvador Ramos amenazar con cometer violencia sexual o llevar a cabo tiroteos en escuelas en Yubo, una aplicación que utilizan decenas de millones de jóvenes en todo el mundo.

Todos los usuarios dijeron que informaron l. a. cuenta de Ramos a Yubo por las amenazas. Pero parecía, dijeron, que Ramos pudo mantener una presencia en l. a. plataforma. CNN revisó un mensaje directo de Yubo en el que Ramos supuestamente envió a un usuario el recibo de $2,000 por su compra de armas en línea de un fabricante de armas de fuego con sede en Georgia.

En el El Correo de WashingtonSilvia Foster-Frau, Cat Zakrzewski, Naomi Nix y Drew Harwell encontró un patrón similar de comportamiento:

Un chico de 16 años de Austin que dijo que veía a Ramos con frecuencia en los paneles de Yubo, le dijo al Correo que Ramos frecuentemente hacía comentarios sexuales agresivos a mujeres jóvenes en l. a. aplicación y le envió una amenaza de muerte durante un panel en enero.

“Lo vi acosar a las niñas y amenazarlas con agresión sexual, como violación y secuestro”, dijo el adolescente. “No fue como una sola ocurrencia. Generation frecuente.

Él y sus amigos denunciaron l. a. cuenta de Ramos a Yubo por intimidación y otras infracciones docenas de veces. Nunca recibió respuesta, dijo, y l. a. cuenta permaneció activa.

Yubo le dijo a l. a. purple que está cooperando con l. a. investigación, pero se negó a ofrecer detalles sobre por qué el tirador pudo permanecer en l. a. plataforma a pesar de haber sido denunciado por hacer amenazas una y otra vez.

Puede parecer impactante que una character que repetidamente hace amenazas violentas, y es denunciado por hacerlo a l. a. plataforma, no vea ninguna consecuencia. Y, sin embargo, desde hace años, los niños nos han estado diciendo que esto es algo routine para ellos.

En mayo del año pasado, escribí sobre un informe basado en una encuesta de menores realizada por Thorn, una organización sin fines de lucro que desarrolla tecnología para defender a los niños del abuso sexual. Aquí hay dos hallazgos de esa encuesta que son relevantes para el caso Uvalde: de mi columna al respecto:

  • Los niños tienen más del doble de probabilidades de usar herramientas de informes y bloqueo de plataformas que de contarles a los padres y otros cuidadores lo que sucedió.: el 83 % de los niños de 9 a 17 años que informaron haber tenido una interacción sexual en línea reaccionaron informando, bloqueando o silenciando al agresor, mientras que solo el 37 % dijo que se lo dijeron a un padre, adulto de confianza o compañero.
  • Los angeles mayoría de los niños que bloquean o denuncian a otros usuarios dicen que esos mismos usuarios los vuelven a encontrar rápidamente en línea.: Más de l. a. mitad de los niños que bloquearon a alguien dijeron que l. a. misma character los contactó nuevamente, ya sea a través de una nueva cuenta o de una plataforma diferente. Esto fue cierto tanto para las personas que los niños conocían en l. a. vida actual (54 por ciento) como para las personas que solo habían conocido en línea (51 por ciento).

En resumen: l. a. mayoría de los niños usan herramientas de informes de plataformas en vez de informar a los padres u otros cuidadores sobre las amenazas en línea, pero en l. a. mayoría de los casos esas herramientas de denuncia no son efectivas. En nuestra entrevista del año pasado, Julie Cordua, directora ejecutiva de Thorn, comparó las herramientas de informes de l. a. plataforma con alarmas contra incendios a las que se les cortaron los cables. En el caso de Uvalde, vemos lo que sucede cuando esas alarmas no están conectadas a mecanismos efectivos de aplicación.

Si hay lugar para el optimismo aquí, es el hecho de que los delincuentes realmente parece que se está alejando de las plataformas mejor defendidas a los que están menos establecidos y, en algunos casos, tienen menos políticas y herramientas de aplicación. Seguramente parte de eso es simplemente evidencia de gustos cambiantes: Discord y Twitch son mucho más populares entre el adolescente promedio de hoy que Fb o tal vez incluso Instagram. Pero parte de esto también es que Meta, YouTube y Twitter en specific han invertido mucho en l. a. moderación de contenido, lo que dificulta que los malos actores hagan amenazas con impunidad y evadan las prohibiciones. Eso habla del valor de l. a. moderación de contenido, tanto para las empresas como para el mundo en normal.

Lea detenidamente el sitio internet y l. a. historia de Yubo y verá una empresa que parece estar comprometida con l. a. buena administración. l. a. aplicación tiene pautas comunitarias claramente publicadas, aunque los que no se han actualizado desde 2020. Tiene una política sobre l. a. evasión de l. a. prohibición. Y utiliza tecnología de reconocimiento facial en un esfuerzo por evitar que los usuarios menores de 13 años se registren.

Los angeles compañía también cube que utiliza el aprendizaje automático para escanear transmisiones en vivo en un esfuerzo por encontrar un mal comportamiento y escanea mensajes de texto para buscar información privada que los usuarios podrían estar a punto de compartir sin saberlo, como números de teléfono. Estas son herramientas buenas, útiles y costosas que muchas otras plataformas no ofrecen.

Al mismo tiempo, estas son medidas voluntarias en un mundo donde los reguladores aún no han establecido estándares mínimos para l. a. política de contenido, l. a. moderación, l. a. aplicación o el informe de lo que encuentran, también conocido como “transparencia”. Sabemos que Yubo tenía una política básicamente en contra de todo lo que hacía el tirador de Uvalde. Sabemos que los niños vieron lo que estaba haciendo en línea, se preocuparon y usaron las herramientas de informes de l. a. aplicación para tratar de evitar que sucediera en el futuro.

Y, como suele ser el caso en estas situaciones, no sabemos nada sobre lo que sucedió a continuación. ¿Se revisaron los informes? ¿Por humanos o máquinas? ¿Qué encontraron?

Las plataformas que permiten a los usuarios crear cuentas deberían estar obligadas a permitir que las personas denuncien esas cuentas por mal comportamiento. (¿Sabías que todavía no puedes denunciar una cuenta en iMessage, uno de los servicios de comunicaciones más grandes del mundo?) También se debería exigir a las plataformas que nos informen qué hacen con esos informes, tanto individualmente (a l. a. character que lo denunció) y en conjunto (para que podamos entender el mal comportamiento en las plataformas en normal).

Tristemente, hacerlo no hará nada para detener l. a. epidemia de violencia armada en este país. Pero cumplirá l. a. promesa que las aplicaciones como Yubo les hacen a sus usuarios cuando les permiten informar sobre un mal comportamiento: que tomarán medidas cuando las reciban y trabajarán para evitar daños mayores.

Nadie obligó a Yubo a construir los sistemas que Thorn’s Cordua llamó acertadamente “alarmas contra incendios”. Pero lo hizo. Lo mínimo que Yubo y otras plataformas pueden hacer ahora es ofrecernos alguna evidencia de que esas alarmas están realmente conectadas.