Una investigación llevada a cabo sobre Instagram revela que la app da prioridad a las fotos de personas con poca ropa, condicionando de ese modo la forma en la que la gente crea contenido.
Sí amigos parece ser que a Instagram le gusta mostrarnos a gente con muy poca ropa. Puede que ese sea el motivo de que a mí casi nadie me vea… XD. Tengo que decir que algo me olía por la gran cantidad de personas semi desnudas que permanentemente me salen en la pestaña de exploración pero ahora ha llegado hasta mis manos un estudio que así lo confirma. Podéis leerlo pulsando en este enlace.
Pero no es algo que diga solo yo. Sarah es una empresaria de comida que utiliza las redes sociales para conseguir clientes. Una de las que más utiliza es Instagram, dado que al final es la segunda red social más grande de Europa después de Facebook y un canal de marketing en el que hay que estar.
Sin embargo, y a pesar de contar con unos 53000 seguidores, notaba que las imágenes que publicaba no llegaban a la mayoría de sus 53.000 seguidores a menos que… si, lo has adivinado, a menos que saliera en bañador. Es más, la mayoría de las publicaciones con más «me gusta» subidas en los últimos meses eran de ella en bikini. Ely Killeuse, una autora de libros que cuenta con unos 132.000 seguidores en Instagram afirmaba que la mayoría de las fotos que más gustaban a sus seguidores la mostraban a ella bien en ropa interior o en bañador.
Para comprender qué imágenes priorizaba Instagram, la Red Europea de Periodismo de Datos y AlgorithmWatch pidió a 26 voluntarios que instalaran una extensión en su navegador y que siguieran a una serie de creadores de contenido profesionales. Para tal fin se seleccionó a 37 profesionales de 12 países, de los cuales 14 de los mismos eran hombres, para que usaran Instagram con el fin de promocionar marcas o atraer a nuevos clientes, sobre todo en el ámbito de la comida, la moda, el fitness o los viajes.
Este complemento lo que hace es abrir automáticamente la página de inicio de Instagram cada cierto tiempo, y observar qué publicaciones son las que salen en la parte de arriba de las noticias de los voluntarios, con el fin de determinar cuáles son las publicaciones que las plataformas consideran más relevante para cada voluntario.
Teniendo en cuenta que cada uno sigue a diferentes creadores de contenido, lo normal es que las publicaicones que salieran en la parte superior del perfil de exploración deberían ser de lo más diversas. Sin embargo, esto no es lo que se encontraron.
Los datos del estudio
En los primeros meses del año analizaron 1.737 publicaciones de los creadores de contenido que estaban participando en el estudio, con 2.400 fotografías. Lo curioso fue que de estas publicaciones, 362 (el 21%) fueron reconocidas por un programa informático como imágenes que mostraban mujeres u hombres en bañador o ropa interior.
Sin embargo, al observar las publicaciones que les aparecían a los voluntarios, el 30 % de todas las publicaciones mostradas eran de personas con poca ropa (algunas publicaciones se mostraron incluso más de una vez).
Y es que las publicaciones que contenían imágenes de mujeres con poca ropa (bien en ropa interior o en bikini) tenían más de un 50 % de probabilidades de salir en las noticias de nuestros voluntarios, mientras que las publicaciones de hombres con el pecho al aire, tenían casi un 30% más de probabilidades de mostrarse (eso porque no me han visto a mí sin camiseta).
Aquellas imágenes de comida o paisajes tenían un 60% menos de probabilidades de salir en el área de noticias. Puedes ver estos resultados en detalle pinchando aquí.
A falta de más pruebas
Aun así, y aunque esto les sucedió a la mayoría de los usuarios, hay que decir que una pequeña minoría recibió publicaciones que reflejaban una mayor diversidad de publicaciones de los creadores de contenido participantes en el estudio. Parece que existen ciertos factores que limitan este efecto para algunos usuarios.
Sin embargo, y a pesar de que las publicaciones mostradas por Instagram muestran una clara tendencia al desnudo, sería conveniente una auditoría exhaustiva del algoritmo de suministro de noticias para ver si esto se podría extrapolar también fuera de lo sucedido con el grupo de voluntarios. Sin acceso a los datos internos y a los servidores de Facebook, siempre será imposible sacar conclusiones definitivas.
Parece ser que lo único que Facebook dijo al respecto fue: “Esta investigación muestra diversos errores y se equivoca a la hora de determinar cómo funciona Instagram.
Ordenamos las publicaciones en el feed dependiendo del contenido y las cuentas en las que el usuario ha mostrado interés, no en factores arbitrarios como la presencia de gente semi desnuda”.
Aunque a pesar de ello, existen motivos para considerar que los hallazgos del estudio son representativos de cómo funciona Instagram en general.
Maximizando el compromiso
En una patente publicada por Facebook en 2015 (la empresa propietaria de Instagram) se detallaba cómo seleccionaban qué imágenes mostrar antes. Así, cuando un usuario sube una imagen, esta es analizada automáticamente por el algoritmo, según la patente, otorgando a cada publicación una «métrica de participación», que luego se utiliza para decidir si mostrar o no una imagen en el feed de noticias del usuario.
La métrica de participación se basa en teoría, en el comportamiento anterior que haya tenido el usuario. Si a una persona le mola una marca determinada, y hay una foto que contiene un producto de esa marca, la métrica de participación aumenta.
Sin embargo, en esta métrica de participación también influye el comportamiento que hayan tenido antes todos los usuarios de la app. Así la patente reconoce que el género, el origen étnico y el «estado de desnudez» de las personas en una foto podrían usarse para calcular la métrica de participación.
Si bien Instagram dice que el orden de noticias está configurado en función de lo que «más le importa» a un usuario concreto, la patente de la compañía expone que en realidad podría clasificarse de acuerdo con lo que cree que les importa a todos los usuarios.
Por tanto, las imágenes que ve un usuario no serían solo aquellas que concuerden solo con su comportamiento anterior, sino también por lo que Instagram cree que les gusta al resto de usuarios.
Correlaciones Sin Sentido
Para entender esto, hay que empezar por el hecho de que Facebook utiliza un software para analizar las imágenes antes de que su algoritmo decida cuáles mostrar a un usuario. Dicho software se basa en un conjunto de datos de entrenamiento, compuesto por miles de imágenes generadas de forma manual.
Los informáticos son conscientes desde hace tiempo que tales sistemas replican y amplifican los sesgos de sus datos de entrenamiento, lo que da lugar a correlaciones en muchas ocasiones disparatadas. Por ejemplo, cuando se trata de identificar lobos usando en imágenes de caninos encontrados online, la realidad es que el sofware no reconoce a los animales como tales, sino que asigna la etiqueta de «lobo» a cualquier animal que aparezca sobre un fondo con nieve porque, en la mayoría de las fotos que componen la base de entrenamiento, aparecen paisajes nevados.
El tema es que los responsables que capacitar al software son normalmente trabajadores mal pagados que tienen que trabajar a gran velocidad y brindar resultados que se ajusten a las expectativas de sus jefes. Esto los lleva a adoptar acríticamente las categorías que se les ofrecen y a pasar por alto las sutilezas que puede contener una foto, tal y como escribió Agathe Balayn, candidata a doctorado en la Universidad Tecnológica de Delft sobre el tema del sesgo en los sistemas automatizados.
Y esto inevitablemente trae graves consecuencias. Así se dan casos como el de un artista brasileño que no pudo publicar en una ocasión porque Instagram consideró que su contenido era violento cuando lo único que mostraba era a un niño y al corredor de Fórmula Uno Lewis Hamilton juntos. Ambos eran de piel oscura. Paro ahí no quedó la cosa. En abril, a una profesora de yoga se le negó un anuncio porque la imagen mostraba blasfemias, a pesar de que solo estaba haciendo la postura de la grulla lateral. Ella es asiático-americana.
La Sutil Linea Que Separa La Ofensa De La Absurdez
Lo realmente curioso y que me llama poderosamente la atención es que las pautas de Instagram establecen bien claro que la desnudez «no está permitida» en la app, pero favorece las publicaciones que muestran la piel. El problema es que la diferencia entre lo que la aplicación recomienda y lo que no se puede publicar, se determina a través de algoritmos no auditados y bastante sesgados, por lo que los creadores de contenido están siempre sobre una línea muy fina entre mostrar lo suficiente para llamar la atención de sus seguidores, y no tanto como para ser expulsados de la app.
Una encuesta de 2019 de 128 usuarios de Instagram realizada por la revista estadounidense Salty mostró que la eliminación abusiva de contenido era habitual. ¿Con qué frecuencia sucede?¿Las personas de color y las mujeres se ven afectadas de manera grave? Pues la realidad es que es imposible saberlo mientras algoritmos de Instagram sigan sin auditar.
Miedo A La Prohibición De Las Sombras
El problema está en que la mayoría de los creadores profesionales de contenido de Instagram temen hablar con la prensa de este tema por las represalias que pueda tomar Facebook contra ellos, bien eliminando sus cuentas o aplicándoles el temido shadow-ban (una práctica en la que las publicaciones de un usuario se muestran a ninguno o muy pocos de sus seguidores, sin el conocimiento del usuario, te recomiendo que eches un vistazo al mi post sobre el Shadow Ban en Instagram)
El Reglamento General de Protección de Datos (RGPD), que se encuentra en vigor desde el año 2018 así como la normativa Platforms to Business (P2B), están empezando a ofrecer ciertas garantías a los usuarios. Concretamente GDPR determina que los usuarios tienen «derecho a una explicación» con respecto a las decisiones que instagram tome de forma automatizada, y la regulación P2B obligará a los servicios de intermediación online a mostrar los «principales parámetros que determinan la clasificación algorítmica».
El problema es que la autoridad irlandesa de protección de datos, que es la responsable de regular la filial europea de Facebook con sede en Irlanda, parece tener una escasez de personal importante y «no parece entender el RGPD».. Otro problema radica en la falta de vigilancia. El problema es que ninguna autoridad, ni nivel europeo ni dentro de los Estados miembros, tiene el poder o las herramientas necesarias para auditar ninguna de estas enormes plataformas, incluida Instagram, dejando muchas de las disposiciones de GDPR sin aplicar.
Posible Discriminación
Si bien los resultados del estudio muestran que los creadores de contenido, tanto los masculinos como los femeninos, se ven obligados a mostrar carnaca de manera similar si quieren llegar a su audiencia, el efecto podría ser mayor para las mujeres, y por tanto, estar ante una discriminación de género en toda regla. Sin embargo, aunque esta discriminación basada en el género está prohibida según la Carta de los Derechos Fundamentales de la Unión Europea, no existen vías legales para que un usuario de Instagram inicie procedimientos legales. Los detalles del emprendimiento en las redes sociales no se recoge en la legislación.
Si que existen grupos que luchan por los derechos de los creadores independientes en las redes sociales. IG Metall, el sindicato más grande de Europa, apoya al colectivo de los YouTubers, exigiendo una mayor igualdad y transparencia por parte de Google (ya que es el propietario de YouTube) cuando un video, por ejemplo, es desmonetizado. Por desgracia, no planean ampliar su programa para proteger a creadores de contenido en Instagram u otras plataformas.
Uno De Cada Tres Europeos Usan Instagram
Dado que la cantidad de empresarios europeos que crean contenido en Instagram probablemente sea de miles, el impacto de sus publicaciones es enorme, ya que cuentan con cientos de miles de seguidores. Facebook afirma que aproximadamente unos 140 millones de personas que residen en la Unión Europea usaron Instagram en abril.
Entre la gente más joven, aquella comprendida entre los 18 y los 24 años, la penetración de Instagram es de practicamente el 100 % en todos los países de la Unión Europea. Las órdenes de quedarse en casa vinculadas a la pandemia de Covid-19 han conseguido que aumente el tiempo dedicado a Instagram de una forma increíble.
Así nos encontramos ante la paradoja de no hacer caso a las autoridades que crearon el algoritmo de Instagram y no mostrar partes del cuerpo, lo cual reduce drásticamente la audiencia, o cumplir con las reglas establecidas por los ingenieros de Facebook para poder tener la oportunidad de ganarse la vida creando contenido.
¿Qué opináis del tema?¿Estáis de acuerdo?¿Debería empezar a desnudarme para petarlo o puede ser malo para la vista y el medio ambiente?
¡Si no tienes nada que perder sígueme en instagram!
