Contra el bullying, autocensura: por qué Instagram aún se queda corto en su lucha contra el acoso

Instagram está de actualidad debido a sus nuevas políticas contra el bullying. Conscientes de que el grueso de sus usuarios son adolescentes y que el acoso online se está convirtiendo en un problema dentro de la plataforma, buscan disuadirlo por medio de una Inteligencia Artificial que apela más a la ética que al castigo.

Nuevo algoritmo. Instagram da un nuevo paso hacia delante en su lucha por erradicar el acoso online. Si hace tan solo un par de meses, Adam Mossori aseguró que borrarían todo el material que incita al odio, ahora, están probando una nueva IA capaz de detectar mensajes irrespetuosos o que inciten al odio. ¿Resultado? Antes de ser enviado, Instagram mostrará al usuario en cuestión un mensaje que diga: ¿Estás seguro que quieres publicar esto?

Para desarrollar el algoritmo, Instagram se ha basado en las solicitudes de mensajes reportados anteriormente por parte de los usuarios. Es decir, esta fórmula detectará estructuras irrespetuosas o saltará cada vez que un usuario escriba un insulto que se encuentre dentro del listado que reconoce el algoritmo. ¿Problema? Este filtro deja fuera las formas de bullying más sutiles donde los insultos directos no siempre son el móvil del acoso.

En la misma línea, la plataforma trabaja en el desarrollo de una nueva función llamada “Restricción” y que consiste en bloquear a ese usuario que está molestando, pero sin que él se entere. Es decir, esa persona podrá seguir comentando y enviando mensajes, pero será invisible tanto para el usuario acosado como para sus seguidores.

7 de cada 10 adolescentes. Es decir, el 72% de las personas de 12 a 20 años tiene un perfil en Instagram. Están abiertos a consumir todo tipo de contenido albergado en la red social y a hacer uso de su propia imagen a través de las publicaciones de la feed y los stories. El nivel de exposición de la generación Z ha aumentado respecto a la generación millennial, entre otras cosas, porque la conexión ha pasado de ser puntual a continúa.

Mientras los usuarios de Tuenti, en los inicios de la red social, necesitaban un ordenador para poder chatear o subir fotos, los adolescentes actuales están en contacto todo el tiempo lo que implica que si existe el acoso online, éste estará mucho más presente porque son sensibles de recibirlo en cualquier momento.

59% Es la cifra de adolescentes que ha sufrido bullying en internet, al menos alguna vez en su vida. Según un estudio publicado por el Centro de Investigaciones Pew, casi en 60% de los adolescentes americanos ha tenido que enfrentarse a una situación de acoso en redes sociales. De hecho, el mismo estudio señala como tendencia, la creación de cuentas anónimas que buscan acosar desde la sombra para no dejar rastro.

Apología del suicidio. Actualmente, el hashtag #suicide contiene en más de 8 millones de publicaciones en Instagram. Sin embargo, tal y como dijo el CEO de la red social al hilo de esta problemática, no pueden eliminar este tipo de posts porque “parte de su política consiste en permitir que los usuarios compartan sus propias dificultades”.

Aun así, con motivo del suicidio de la británica Molly Russel, Instagram instauró una pantalla informativa para todos aquellos que busquen este tipo de palabras clave en la plataforma. De este modo, antes de ver las publicaciones sobre suicidio, la app te muestra una ventana informativa en la que te pregunta si estás seguro de querer acceder a ese tipo de contenido.

El bullying como detonante. ¿Existe relación directa entre el bullying y el suicidio en adolescentes? Parece ser que sí. Según un estudio publicado por el Instituto de Salud Americano en 2017, el 77% de los jóvenes que terminaron en el hospital por conductas suicidas había sufrido acoso previamente. El mismo estudio matiza que, en este contexto, factores como la depresión o los problemas de autoestima fueron determinantes a la hora dar el paso hacia la autolesión.

Aunque la nueva iniciativa de Instagram es una herramienta más para combatir el problema, todavía es demasiado inconcreta: no detecta el bullying específicamente, sino los mensajes irrespetuosos y en ningún caso establece líneas rojas a este tipo de dinámicas.

via