Molly Russel tenía 14 años cuando, en 2017, decidió quitarse la vida. Su familia, del norte de Londres, encontró material relacionado con la depresión y el suicidio al entrar a su cuenta de Instagram después de su muerte. Meses más tarde, el padre de la joven acusó a la aplicación de 'ayudar a matar' a su hija. Esto causó tal revuelo que la empresa pasó a prohibir cualquier tipo de imagen gráfica relacionada con las autolesiones. Ahora, y debido a la presión producida por la familia de Molly, Instagram ha introducido una nueva función anti-bullying para que los usuarios se lo piensen dos veces antes de publicar un comentario que resulte ofensivo.
Durante mucho tiempo, Instagram ha estado utilizando inteligencia artificial para detectar contenido ofensivo en imágenes, vídeos y comentarios. Con la nueva función no solo se podrá detectar este tipo de material sino que aparecerá un aviso de advertencia cuando alguien quiera comentar de forma ofensiva. Así pues, si un usuario escribe, por ejemplo, "eres imbécil", debajo de la publicación aparecerá un mensaje que pondrá: "¿Estás seguro de que quieres publicar esto? Aprende más / Obtén más información". Al hacer click en "obtener más información", los usuarios verán otro aviso en el que podrán leer: "Intentamos que Instagram sea un lugar seguro. Estamos pidiendo a las personas que reconsideren los comentarios que parecen similares a otros que se han denunciado".
Instagram espera que esta nueva función ayude a que desaparezcan, poco a poco, estas interacciones abusivas en la plataforma que fomentan el odio y que pueden causar problemas emocionales a aquellas personas que sean más propensas a sentir inseguridad o baja autoestima. No es la única iniciativa que están probando para abordar este tema, además, han implementado otra función llamada "restringir" que es equivalente a la de bloquear pero con una diferencia: la persona puede seguir escribiendo, enviando mensajes y comentando, pero el usuario al que van dirigidos los mensajes no verá nada, el que agrede queda invisibilizado. Esto ha aparecido porque, según la plataforma, muchos jóvenes que son objetivo de mensajes ofensivos no dejan de seguir ni denuncian a la persona por miedo a que la situación vaya a peor.
El director ejecutivo de Instagram, Adam Mosseri, dijo que la plataforma tiene mucho más que hacer para abordar con totalidad el problema del acoso escolar: "Podemos hacer más para evitar que ocurra la intimidación en Instagram, y podemos hacer más para capacitar los objetivos de la intimidación para que los jóvenes se defiendan" y concluyó: "Es nuestra responsabilidad crear un entorno seguro en Instagram". La plataforma explica que las pruebas han demostrado que se trata de una función exitosa. Esperemos que así sea porque la tecnología y las redes sociales ocupan un lugar importante y casi prioritario en el día a día de los jóvenes.