Instagram asegura que la plataforma no se toma a la ligera los problemas vinculados con la salud mental, el suicidio y las autolesiones, por ello, ha empezado a implementar en la Unión Europea la tecnología que ya utiliza en otros lugares del mundo para detectar contenidos autolesivos.
La plataforma busca y elimina de forma proactiva contenidos que traten sobre el suicidio o las autolesiones. Al detectarlos, los envía a un grupo de revisores, quienes deciden los pasos a seguir a continuación: eliminar dichos contenidos, contactar con asociaciones de ayuda o, en los casos más extremos, avisar a los servicios de emergencias.
Entre abril y junio, la compañía pudo actuar sobre el 90 por ciento de los contenidos detectados por esta tecnología «antes de que alguien lo denunciara», aunque la «meta» de Instagram es alcanzar un porcentaje lo más próximo al 100 por ciento, como informan desde Instagram en un comunicado.
Esta tecnología llega ahora la Unión Europea, donde actuará tanto en Instagram como en Facebook, y permitirá reducir la visibilidad de dichos contenidos en apartados como Explora o incluso eliminarlos si realmente violan las políticas de las dos plataformas.
El siguiente paso es poder enviar los contenidos detectados a revisores humanos para que puedan ayudar a las personas. «No contar con esta pieza en la Unión Europea hace que sea más difícil conectar a las personas con organizaciones locales y los servicios de emergencia», explica el responsable de la plataforma, Adam Mosseri.
Actualmente, explica el directivo, están hablando con reguladores y gobiernos sobre «la mejor forma de traer esta tecnología a la Unión Europea», atendiendo a las consideraciones de privacidad.
