Estereotipos de género en TikTok e Instagram: un experimento de ingeniería inversa para entender los mecanismos de los algoritmos de las redes sociales

Gender stereotypes in TikTok and Instagram: a reverse engineering experiment for understanding the mechanisms of social network algorithms

Anna Cláudia Bueno-Fernandes

Pontificia Universidad Católica de Rio Grande do Sul, Brasil
anna.cbf@gmail.com
https://orcid.org/0000-0001-9627-0002

Eduardo Campos-Pellanda

Pontificia Universidad Católica de Rio Grande do Sul, Brasil
eduardo.pellanda@pucrs.br 
https://orcid.org/0000-0002-8296-9282

Recibido: 10/07/2022 Revisado: 2/08/2022 Aceptado:  15/08/2022 Publicado: 01/09/2022

 

Forma sugerida de citar: Bueno-Fernandes, A. C. y Campos-Pellanda Eduardo (2022). Estereotipos de género en TikTok e Instagram: un experimento de ingeniería inversa para entender los mecanismos de los algoritmos de las redes sociales. Universitas-XXI, 37, pp. 247-270. https://doi.org/10.17163/uni.n37.2022.10

Resumen

En el contexto de la inmersión de los contenidos digitales durante la pandemia del Covid-19, se hizo evidente la popularización de los mecanismos algorítmicos de curaduría contenidos en la vida cotidiana. Este artículo presenta las observaciones de un experimento de ingeniería inversa realizado en la PUCRS (Brasil) en el que se buscó evidencia del refuerzo (o no) de los estereotipos de género en las redes sociales. Para ello, se crearon cuentas en las aplicaciones TikTok e Instagram, una identificada con pronombres masculinos y otra con pronombres femeninos. El estudio se dividió en fases en las que se cambiaron los niveles de interacción con el contenido de las aplicaciones, de manera que fue posible analizar las transformaciones en los vídeos recomendados para identificar pistas del mecanismo utilizado por la plataforma. Por último, fue posible observar las diferencias entre los contenidos sugeridos para cada perfil que pueden estar relacionadas con los estereotipos de género y las diferencias de calidad y temas populares en cada aplicación. También fue posible percibir qué acciones parecían tener más injerencia en las recomendaciones y qué tipo de contenido o interacción se priorizaba para cada red. Este estudio no pretende acabar con las discusiones sobre el funcionamiento de las redes sociales, sino aportar nuevas preguntas y reflexiones sobre los parámetros utilizados por su lógica y los posibles efectos positivos y negativos de estas recomendaciones en diferentes contextos sociales.

Palabras clave

Comunicación, tecnología, ingeniería inversa, estereotipos de género, algoritmos, TikTok, Instagram.

Abstract

In the context of immersion of digital content during the Covid-19 pandemic, the popularization of algorithmic mechanisms for curating information in everyday life was evident. This article presents the observations of a reverse engineering experiment carried out at PUCRS (Brazil) in which evidence of the reinforcement (or not) of gender stereotypes in social networks was sought. For this, accounts were created on the TikTok and Instagram apps, one identified with male pronouns, the other with female pronouns. The study was divided into phases in which the levels of interaction with the content of the applications were changed so that it was possible to analyze the transformations in the recommended videos to identify clues to the mechanism used by the platform. Finally, it was possible to observe differences between the content suggested for each profile that may be related to gender stereotypes and differences in quality and popular topics in each application. It was also possible to perceive which actions seemed to have more interference in the recommendations and which type of content or interaction was prioritized for each network. This study does not intend to end the discussions on how social networks operate but to bring new questions and reflections on the parameters used by their logic and the possible positive and negative effects of these recommendations in different social contexts.

Keywords

Communication, technology, reverse engineering, gender stereotypes, algorithms, TikTok, Instagram.

 

Introducción

El grado de evolución de la inmersión en los contenidos digitales que estamos experimentando desde la expansión del mercado de los smartphones (teléfonos inteligentes) y la popularización de las apps (aplicaciones) es cada vez mayor. Esta curva ascendente se vio impulsada durante la pandemia de Covid-19, donde se puso de manifiesto la popularización de los mecanismos algorítmicos para la curaduría de contenidos en la vida cotidiana. Las aplicaciones para teléfonos inteligentes han servido no solo para los servicios, sino también para la comunicación entre nosotros en la sociedad en varias dimensiones. En este contexto, se observa la adhesión de nuevas redes, como la china TikTok, que obligó a los competidores a aumentar los sistemas de monetización con recomendaciones de contenido más intensas.

En junio de 2022, el portal de noticias The Verge dio a conocer un memorándum dirigido a los empleados de Facebook que se filtró al público, en el que se recomendaba a los ingenieros de la empresa que transformaran el feed de la aplicación en algo más parecido al de su competidor TikTok (Heath, 2022). Lanzada en 2016, TikTok, también conocida como Douyin en China, es una plataforma de vídeo con atributos recreativos como publicar, seguir, compartir, comentar, gustar y otros. Su diferencia con respecto a otras plataformas similares, como YouTube, es que los vídeos suelen ser más cortos, con una duración máxima de 15 segundos, con una minoría de vídeos de más de un minuto. Además, la plataforma puede personalizar el contenido ofrecido en función de la navegación de los usuarios y de las categorías utilizadas en el contenido (Su et al., 2021).

Como señala Wu (2020), además de ser una plataforma en la que es vital la difusión de fragmentos de música, que pueden incluirse fácilmente en secuencias cortas, TikTok también es popular por la narrativa en formato sitcom (comedia de situación), secuencias basadas en series de televisión, con el guion, los personajes y los diálogos. Su objetivo principal es más el entretenimiento que la relación social entre los usuarios. Según Wang (2020), TikTok se posiciona a nivel internacional para atraer a un público más joven con divertidos vídeos de personas cantando, bailando, mientras que su versión china busca un público mayor con vídeos sobre la rutina diaria.

La fuerza de TikTok se ve en sus números: la app se ha descargado 3600 millones de veces. En 2021, las descargas de la app fueron un 20 % más que las de Facebook y un 21 % más que las de Instagram. En los tres primeros meses de 2022, los usuarios de iPhone pasaron una media un 78 % más de tiempo en TikTok que en Facebook (Heath, 2022). En una entrevista con el periodista Alex Heath, los representantes de Meta, la empresa propietaria de Facebook e Instagram, afirmaron que la compañía tardó en darse cuenta del crecimiento de su competidor, pero que ahora estaba empezando a comprender su impacto social. Según el periodista:

Así es cómo funcionará en la práctica el futuro de la app de Facebook: la pestaña principal se convertirá en una mezcla de Stories y Reels en la parte superior, seguida de las publicaciones que su ingeniería de descubrimiento recomienda tanto de Facebook como de Instagram. Será más visual, una experiencia fuertemente basada en el vídeo con comandos más precisos para enviar un mensaje directo a los amigos. (Heath, 2022, s/p)

Instagram está más cerca de este escenario. La aplicación fue la primera red social online nativa de los smartphones, que apareció en 2010 para compartir imágenes con la posibilidad de editarlas rápidamente y ponerles filtros, todo de forma instantánea (Pellanda y Streck, 2017, p. 12). A partir de 2016, la app lanzó la opción de historias, fotos y vídeos cortos, en los que se podía insertar texto, y emojis, entre otras características, que inicialmente tenían un límite de tiempo de un día, pero que, sin embargo, pueden ser fijados por el usuario en su perfil para que no desaparezcan. Las historias también se pueden publicar para un grupo de amigos cercanos o para todos los seguidores. Por último, en 2020, Instagram implementó una nueva función, la pestaña Reels, que cuenta con publicaciones en formato de vídeos cortos de cuentas que el usuario no sigue necesariamente, un modelo más cercano al contenido y la distribución de TikTok.

Aunque el formato de las publicaciones —vídeos cortos— es esencial, lo que llama la atención del nuevo rumbo de Facebook es el intento de acercarse a la ingeniería de recomendación de la app china en su pestaña “For You” (“Para ti”, en español). Si la compañía ya seguía una lógica de contenidos recomendados que utilizaba pistas de las preferencias de los usuarios por sus relaciones y gustos en la red, TikTok da un paso más allá, adivinando lo que quiere un usuario por sus hábitos pasivos, de manera que los nuevos vídeos que aparecen especialmente para él son ilimitados (Heath, 2022). Aquí tenemos una de las primeras preguntas de este artículo. Después de todo, ¿cuáles serían estas pistas y cómo formarían parte de un algoritmo que determina lo que se mostrará en el feed de un usuario? Yendo más allá, ¿qué pruebas tendríamos de que la lógica utilizada para adivinar no reproduce prejuicios, especialmente los vinculados a raza, sexualidad y género?

A partir de estas cuestiones, este artículo pretende reflexionar sobre si existe algún parámetro en los algoritmos de TikTok e Instagram que pueda ser responsable de reforzar los estereotipos, especialmente los de género. Para aportar evidencias a esta reflexión, realizamos un experimento de ingeniería inversa en el que observamos los contenidos sugeridos para dos perfiles diferentes en las dos redes de forma que se señalaran las diferencias y sus posibles relaciones con los estereotipos de género.

D’Amorim (1997, p. 122) define los estereotipos de género como “[...] el conjunto de creencias sobre los atributos personales apropiados a los hombres y a las mujeres, sean estas creencias individuales o compartidas”. Según la autora, aunque los estereotipos son flexibles y cambian continuamente, los aspectos cognitivos siguen siendo más resistentes al cambio que los afectivos, restringiendo los géneros a roles y características específicas. Por ejemplo, en la cultura occidental se asocia a los hombres con actividad, competitividad, independencia, decisión y confianza en sí mismos, mientras que a las mujeres se las asocia con emotividad, amabilidad, comprensión y dedicación.

Cabe mencionar que, como recuerdan Carrera y Carvalho (2020), los estereotipos de género también están atravesados por los de raza y clase social. Aunque este estudio no profundiza en los dos últimos, la comprensión de estos aspectos es muy relevante y merece ser destacada en futuras investigaciones. Solo como ejemplo, se puede señalar la diferencia en el tratamiento mediático que reciben las mujeres blancas y las negras. Las autoras señalan que mientras las mujeres blancas son retratadas en la prensa y la publicidad como sumisas y afables, las mujeres negras son representadas por las figuras de la “Matriarca” (la madre negra), “Jezebel” (la mujer sexualizada) y “Zafiro” (la mujer independiente).

Métodos y procedimientos

Partiendo de la base de que los objetos de investigación son dinámicos y tienen características nuevas y peculiares, el camino elegido fue crear una investigación dentro de la investigación en la que la metodología forma parte del experimento.

La técnica metodológica utilizada para el análisis fue la ingeniería inversa, en la que, partiendo de un producto existente, se busca entender su funcionamiento tras las interacciones con el mismo. Como las aplicaciones de redes sociales son sistemas basados en algoritmos que buscan las preferencias del usuario para definir qué mostrar en la pantalla, se buscó realizar ciertos comportamientos dentro de las aplicaciones que pudieran moldear o interferir con el contenido mostrado.

Para el experimento, se utilizaron dos teléfonos celulares formateados (es decir, sin datos guardados en el sistema), proporcionados por Ubilab, Laboratorio de Investigación en Movilidad y Convergencia Mediática de la Facultad de Comunicación, Artes y Diseño de la Pontificia Universidad Católica de Río Grande do Sul (Famecos/PUCRS). El objetivo con el uso de los teléfonos celulares era que no hubiera datos previamente guardados en los dispositivos que pudieran interferir de alguna manera con los resultados de la investigación. En cada uno de los celulares se creó una cuenta de TikTok. La cuenta se utilizó solo en uno de los dispositivos para que tampoco hubiera interferencia en la navegación de un perfil en los datos del otro.

Teniendo este cuidado, se crearon perfiles ficticios para un hombre de 29 años llamado Marcelo y una mujer de 29 años llamada Marcelly. Como los teléfonos celulares tienen datos de geolocalización, se puede identificar que ambos perfiles viven en la ciudad de Porto Alegre, en el estado de Rio Grande do Sul. A partir de esta información proporcionada a la aplicación, observamos qué vídeos se mostraban para cada perfil en el área “Para ti”, un feed de contenidos populares en la red que pueden ser o no publicaciones de perfiles seguidos por el usuario.

Además de las cuentas de TikTok, también se crearon cuentas de Instagram con los mismos usuarios ficticios. Como la cuenta de Marcelo estaba en el dispositivo, debido a algunos problemas técnicos, la aplicación de Instagram no funcionaba; se observó su perfil accediendo al sitio de la red en una ventana de incógnito abierta en el notebook (ordenador portátil) de la investigadora. La ventana anónima impide que se guarden las cookies del sitio y el historial de navegación para que no interfieran con los algoritmos analizados. Aunque el uso del notebook puede presentar algunas diferencias con el uso de dispositivos móviles, como la identificación de la ubicación del usuario, se considera que su uso no dificultó el análisis de esta investigación, ya que los objetivos se centran en los estereotipos de género, y no en cuestiones regionales.

Para la interacción con las redes, se determinaron tres fases. En la primera fase, el objetivo sería observar los contenidos recomendados por las aplicaciones sin interacciones y tratar de mantener la misma proporción de tiempo visto en cada video, con el objetivo de no mostrar preferencia en algunos contenidos. Estos contenidos se analizaron como grupo de control para poder entender cuáles eran las posibles transformaciones en los contenidos sugeridos en las siguientes fases.

En la segunda fase, iniciamos algunas interacciones, tanto dentro de la aplicación como en el navegador estándar del dispositivo, analizando si había cambios en los contenidos recomendados. Se vieron los vídeos sugeridos en las búsquedas hasta el final, y se exploró el perfil de los creadores de contenidos. Finalmente, en la última fase, se realizaron interacciones como gustar y favorecer contenidos y seguir a determinados creadores de contenidos. Se vieron y gustaron al menos tres vídeos de cada uno de los creadores seguidos, lo que demuestra la preferencia del usuario por ese contenido.

Tabla 1
Fases definidas para el análisis

El objetivo del experimento era principalmente comprender si los algoritmos de las aplicaciones refuerzan de algún modo los estereotipos de género. Por ello, tras observar pasivamente los contenidos ofrecidos en un primer momento en cada una de las apps, la interacción pretendía mostrar las preferencias de los perfiles por temas que generalmente no se asocian a su género. De este modo, los contenidos y los creadores buscados diferían en cada cuenta.

Dado que las mujeres suelen asociarse con la belleza y la emoción, en contra del estereotipo, se utilizó el perfil de género masculino Marcelo para mostrar la preferencia por vídeos relacionados con estos aspectos. Así, se buscaron contenidos y creadores de maquillaje masculino, moda, música pop y romance. También se buscaron creadores de Drag Queen que se identificaran como hombres cis, pero con una actuación de carácter femenino, que publicaran vídeos tanto de un género como del otro, además de hablar mucho de temas de maquillaje y moda, por ser aspectos relacionados con su actuación.

Por otro lado, el perfil de mujer, Marcelly, explora temas más ligados a los hombres —actividad y competitividad— como los gamers, los juegos electrónicos y el fútbol. Como los estereotipos no se limitan a las diferencias entre géneros, también buscamos contenidos que escaparan de una imagen estándar de la mujer: blanca, de pelo liso y heterosexual. Por ello, además de buscar perfiles de mujeres vinculados a temas LGBTQIAPN+, también se exploraron vídeos y perfiles de mujeres negras y de pelo rizado y se diferenciaron comportamientos, como la búsqueda de recetas veganas.

Tabla 2
Acciones realizadas en cada uno de los perfiles de las fases 2 y 3

Resultados

Los resultados que se presentan a continuación son fruto de la observación del investigador. Se anotaron los temas relacionados con los vídeos en el feed de cada cuenta y se hicieron capturas de pantalla para registrar y revisar el contenido.

TikTok

En la primera fase, si bien no se realizaron interacciones con el contenido de las apps, aunque las cuentas tenían algunos contenidos en común, algunas historias parecían indicar comportamientos relacionados con los estereotipos de género. En el perfil de Marcelo, los contenidos que aparecían, en general, estaban relacionados con el fútbol, las armas, la música trap, las mujeres con menos ropa serenatas cantadas por mujeres, los chistes más pesados y el humor que mostraba la relación entre parejas heterosexuales desde la perspectiva de un hombre. En los contenidos, había más personas asociadas al género masculino. En el perfil de Marcelly, los temas estaban relacionados con comedias morales o religiosas, música country, relaciones entre parejas heterosexuales desde una perspectiva femenina y chistes ligeros. En los contenidos predominaban las personas asociadas al género femenino. En común se pudo observar, además de algunos contenidos populares, sobre todo canciones pop y bailes del momento, vídeos que mostraban a personas blancas y cis en relaciones heteronormativas.

Imagen 1

Nota. Capturas de pantalla de los contenidos que aparecían en los perfiles creados en TikTok, realizada por la autora.

En el momento siguiente, durante la fase de exploración, los feeds empezaron a ser más similares sin ninguna interacción directa en la aplicación. Sin embargo, el perfil de Marcelly empezó a mostrar más contenido que puede considerarse atractivo. Mientras que en el perfil de Marcelo, los temas seguían siendo relacionados con humor, fútbol, armas, bailes, especialmente de mujeres en ropa corta y poses sexys, y vídeos con chistes, algunos gordo-fóbicos, en el perfil de Marcelly, empezaron a aparecer vídeos con contenido 18+, bailes con mujeres en ropa corta y poses sexys, uñas encarnadas, dermatólogos apretando granos, clases de educación sexual mostrando órganos sexuales explícitamente e incluso una escena de parto en el momento de la salida del bebé. Los vídeos 18+, es decir, para mayores de 18 años, tenían una foto de perfil que indicaba el tipo de contenido o mostraban escenas de sexo explícito o desnudos. Además, el feed también contenía vídeos de humor, comedias morales o religiosas (cristianas) y, en esta ocasión, imágenes de Jesucristo.

Cabe destacar que ninguno de los dos perfiles parecía mostrar vídeos relacionados con las búsquedas y los contenidos vistos. La exploración en el navegador y en la aplicación no parecía interferir en lo que se mostraba para cada usuario; incluso después de unos días, se mantenía el mismo comportamiento.

Imagen 2

Nota. Capturas de pantalla del contenido del perfil masculino. La primera imagen de la izquierda es de lo que se buscaba. El resto de las publicaciones en la pestaña “Para ti”.

Imagen 3

Nota. Capturas de pantalla de los contenidos del perfil femenino. La primera imagen de la izquierda es de lo que se buscaba. El resto de las publicaciones en la pestaña “Para ti”.

Los cambios comenzaron a verse en la tercera fase después de que los usuarios siguieran contenidos y rechazaran otros. El cambio más significativo se produjo en el perfil de las canciones mostradas. Se mantuvieron algunos estereotipos, como las comedias con sesgo moral o religioso, para Marcelly y las armas y el fútbol, para Marcelo.

En el perfil de Marcelo, se empezó a ver más confusión en el tratamiento de género que se pretendía dar al usuario. Algunos vídeos tenían la perspectiva de una mujer. Además, comenzaron a aparecer más imágenes de personas que escapaban de los estereotipos de género y de la heteronormatividad, como travestis y parejas homosexuales. En los vídeos de travestis, que se diferenciaban de las actuaciones de drags, era imposible identificar si había humor o un sesgo peyorativo. Sin embargo, aparecieron algunas publicaciones de creadores de contenido trans, comentando aspectos de sus vidas.

Imagen 4
Capturas de pantalla de los contenidos del perfil masculino

En el perfil de Marcelly, los vídeos relacionados dejaron de aparecer tras la denegación de contenidos de un perfil para mayores de 18 años y un vídeo de uñas encarnadas. El perfil musical pasó de predominar los conciertos de country a los de cantantes de pop. La perspectiva de gran parte de los vídeos seguía siendo la de una mujer (por ejemplo, las insinuaciones de una mujer hablándole a otra de su novio). Aparecieron algunos vídeos del juego Free Fire, relacionados con los perfiles seguidos, pero en menor cantidad.

Una interacción que se escapó un poco de los métodos utilizados fue la de darle like a un vídeo sobre la serie Stranger Things, realizada como prueba para observar si interactuar con algún contenido directamente en la pestaña “Para ti” tendría un efecto más notable. Tras esta acción, el número de historias con actores y escenas de la serie aumentó significativamente, apareciendo a veces en más de cinco vídeos relacionados con el tema de forma consecutiva. Sin embargo, esto no se notó al darle like a un vídeo con escenas del juego Free Fire, cuando las publicaciones sobre el mismo tema estaban mucho más espaciadas.

Imagen 5
Capturas de pantalla de los contenidos en el perfil femenino

Instagram

Se creó una cuenta de Instagram para encontrar las diferencias entre las aplicaciones y las posibles explicaciones. La primera impresión al crear un perfil para Marcelly es que las imágenes tienen mejor resolución, muestran un público internacional más diverso y tienen menos desnudos. Se discutirá más a fondo en la sección de Discusión, pero primero, vale la pena describir los videos que se muestran en la pestaña de Reels.

Los primeros vídeos de personas con rasgos asiáticos cantando canciones populares del pop inglés aparecieron al crear el perfil femenino. También hay vídeos de animales, principalmente gatos y perros, así como de pequeños bailes, varios cantantes, movimientos de personas en monopatín, escenas de partidos de fútbol y consejos de belleza. Hay vídeos en varios idiomas.

Las primeras interacciones de búsqueda no parecían afectar a los reels, o al menos tardaban más en aparecer. A medida que aparecían los vídeos de consejos de belleza, se mostraba una publicación sobre el cuidado del cabello rizado en un momento determinado relacionado con la búsqueda realizada. Después de darle me gusta a esta publicación, los reels empezaron a tener un predominio de vídeos relacionados: cuidado del cabello rizado y gente mostrando el cabello rizado o trenzado. Los vídeos también empezaron a limitarse al inglés y al portugués, disminuyendo la presencia de asiáticos y árabes, pero las publicaciones con mascotas y deportes siguieron con la misma frecuencia. También empezaron a aparecer vídeos relacionados con tratamientos estéticos, como uñas postizas pintadas.

Imagen 6
Capturas de pantalla de los contenidos en el perfil femenino en Instagram

Se dio like a un vídeo de un pastel con decoraciones divertidas para comprobar la relación entre el gusto por el contenido directamente en reels y aumentó el contenido de temas relacionados. Al cabo de un tiempo, se observó que empezaron a aparecer una y otra vez imágenes de pasteles con el mismo tipo de decoración, además de otros dulces que podían estar relacionados.

Al crear el perfil de Instagram de Marcelo, fue imposible instalar la aplicación por razones técnicas. Como solución se utilizó una ventana anónima de Google Chrome en un notebook con sistema operativo Windows. Hay que tener en cuenta que el cambio de un dispositivo móvil con geolocalización a un notebook puede haber provocado cambios en la captura de datos por parte del algoritmo. Sin embargo, se considera que al ser este experimento una exploración inicial, y por el contenido de lo observado, aún con el cambio de dispositivo, se pudieron obtener pruebas relevantes para el estudio.

Imagen 7
Capturas de pantalla de los contenidos en el perfil femenino

Al principio, solo aparecían imágenes de viajes por el mundo. Sin embargo, al volver a visitar la página utilizando otro ordenador, con sistema operativo macOS, aun utilizando una ventana de incógnito, el feed era muy diferente, con contenidos en lengua portuguesa. Es posible que haya ocurrido por la posible identificación de la región de conexión, aunque el uso de cookies estaba bloqueado. Las imágenes y vídeos que aparecían al usuario pueden ser descritas como: fotos de mujeres, de la cara o del cuerpo, imágenes humorísticas, vídeos o imágenes que utilizan una perspectiva masculina (“por qué las mujeres hacen esto”, “yo cuando hago cierta cosa”, mostrando una figura que puede ser identificada como masculina), fotos o vídeos de mascotas, frases de motivación.

Imagen 8
Capturas de pantalla de los contenidos en el perfil masculino

Cabe destacar que, en el feed de contenido de Marcelo, aunque no se realizó ninguna búsqueda relacionada con el tema, aparecieron imágenes de consejos para el cabello rizado. Así, es posible señalar de antemano que las imágenes relacionadas con el pelo rizado en el perfil de Marcelly no estaban necesariamente influenciadas por las búsquedas y reacciones realizadas por el usuario, sino que puede tratarse de un contenido considerado popular. Sin embargo, tras la interacción en la pestaña Reel del perfil femenino, el aumento de imágenes similares fue significativo.

Tras las interacciones de la tercera fase, los reels del perfil masculino se actualizaron inmediatamente con contenidos relacionados con los creadores de contenidos y con las imágenes y vídeos que les gustaban. Se pueden ver más imágenes de drags, maquillaje, moda, Lady Gaga, actores que participaron en la serie Bridgerton, e incluso dibujos animados con debates de género y parejas del mismo sexo. En común con los contenidos del feed antes de la interacción, se mantuvieron las fotos de rostros o cuerpos de mujeres.

Imagen 9
Capturas de pantalla de los contenidos en el perfil masculino luego de las interacciones

Debido a las diferencias entre las transformaciones en los feeds de los perfiles, se incluyó una prueba en la que también se accedió al perfil de Instagram de Marcelly en el notebook en una ventana de incógnito. Incluso sin las interacciones, se pudo observar que el contenido estaba más alineado con las cuentas seguidas, con imágenes de anime y de mujeres con el cabello teñido (que pueden estar relacionadas con las cuentas de juegos seguidas) e imágenes de fútbol.

Imagen 10
Capturas de pantalla de los contenidos en el perfil femenino, accediendo desde el ordenador

 

Discusión

Como afirma Wu (2020, p. 332), TikTok es un software de “puro entretenimiento” que recomienda una variedad de contenidos con la lógica de su algoritmo. En general, se observó que la app parece invertir más en los contenidos populares de la web que en la navegación y la interacción de los usuarios, pero al principio parece haber un cliché de género. Inicialmente, el contenido popular genera compromiso con las personas de un género, región y edad específicos. Puede ocurrir con base en un contenido que recibe una clasificación de género por parte del autor de la publicación, por el uso de etiquetas específicas, o porque involucra a más usuarios con las mismas características demográficas.

En cuanto al segundo momento del experimento, se hipotetiza que la app comienza a reproducir contenidos que pueden ser más atractivos porque generan más engagement o compromiso (positivo o negativo) ya que no hay muchas interacciones con las que el algoritmo pueda adaptarse. Otra hipótesis es que la hora de uso de la app podría estar influyendo en contenidos sexuales más explícitos y bromas más pesadas, ya que se accedía más a la app por la noche, después de las 22 horas.

En la tercera fase, al buscar perfiles de jugadoras para que Marcelly las siguiera, se pudo observar que algunas que aparecían tenían más vídeos de baile que de juegos, con poses sensuales y ropa más corta. Surge entonces otra hipótesis: quizás aparezcan más contenidos 18+ porque son creados por perfiles que se autodenominan mujeres, lo que podría tener un mayor peso en el usuario que también se autodenomina mujer.

Finalmente, en la última fase, parece que influye el hecho de que las personas a las que los usuarios han empezado a seguir también sigan o marquen como preferencias ya que, aunque el feed sigue sin tener relación directa con los vídeos buscados, los temas de los vídeos en este nuevo momento parecen diferentes. Seguir a otros usuarios también puede añadir nuevas tendencias al feed, pero sigue dominando lo que es popular y genera engagement. El feed parece sufrir más influencia cuando se rechaza cierto contenido.

Además, se puede observar que TikTok (desde un perfil brasileño, al menos) es excepcionalmente blanco, heteronormativo y cristiano. Incluso cuando uno busca contenidos alternativos, empieza a seguir a creadores y le gustan determinados vídeos, este patrón cambia muy poco. Puede que tenga más que ver con su audiencia que con la propia herramienta.

Por otro lado, Instagram está más orientado a los clics, aunque la búsqueda no afecta mucho al contenido. Si hay un clic en un tipo de vídeo dentro de la pestaña Reels, pueden aparecer al menos otros tres similares a continuación. Sin embargo, las búsquedas y los likes directamente en los perfiles de los creadores tampoco parecen afectar a la pestaña Reels de la app. Los vídeos suelen tener mejor resolución y utilizan filtros de imagen y otras características. Al fin y al cabo, como afirma Wang (2020), a diferencia de Instagram, TikTok se centra más en vídeos producidos de forma amateur y sin una producción estética más elaborada. Los vídeos son reservados, sin contenido +18 ni mensajes religiosos (al menos en la navegación neutral). Puede que tenga que ver con un público más elitista, pero también con el fuerte atractivo publicitario de la herramienta, que está obligada a seguir unas reglas específicas.

El uso de la herramienta en el dispositivo se vio perjudicado, lo que dificultó la comparación de perfiles. En el móvil, al principio, el contenido parece más “neutral” en cuanto a los estereotipos de género. En un principio, Instagram parece más diverso, ya que incluye contenidos en otros idiomas y de diversas etnias, al menos en el perfil femenino al que se accede mediante un smartphone. Por otro lado, el perfil masculino, al que se accede mediante un notebook, parece estar más influenciado por una perspectiva y por los estereotipos de género.

Se pudo observar una diferencia entre el contenido mostrado en los Instagram Reels cuando se accedía a la aplicación desde el ordenador y cuando se accedía desde el móvil. En el móvil aparecían muchos más vídeos cortos, mientras que en el ordenador eran principalmente fotos o galerías de imágenes. Además, el contenido era mucho más cercano a las cuentas con las que había interacción. Es necesario realizar más estudios sobre estos aspectos, pero esto puede indicar que en el dispositivo móvil hay un mayor acercamiento al formato y al algoritmo de TikTok, mostrando contenidos más populares, mientras que en el ordenador las recomendaciones siguen vinculadas a las interacciones de los usuarios.

Consideraciones finales

Tal y como opinan Carrera y Carvalho (2020):

Hay relevancia científica en la investigación sobre los motores de búsqueda y las elecciones algorítmicas que dictan los resultados de las imágenes que compondrán el imaginario social sobre los cuerpos y los sujetos. Sin embargo, es imprescindible continuar la profundización del tema en un intento de exponer los problemas y contribuir a la comprensión de las dinámicas productivas que dirigen estos agentes artificiales. (p. 112)

Este artículo fue realizado a partir de un experimento de observación para intentar aportar algunas hipótesis sobre el mecanismo de funcionamiento de los algoritmos de las redes sociales Instagram y TikTok, principalmente en su relación con la difusión y refuerzo de los estereotipos de género. El estudio pretende ser un inicio para futuras investigaciones, poniendo a prueba las hipótesis y observaciones presentadas para que pueda aportar más reflexiones, cuestionamientos y, tal vez, algunas respuestas sobre el funcionamiento de las redes sociales y sus posibles impactos en la sociedad.

Algunas sugerencias que se pueden dejar para futuros estudios son intentar mapear las categorías (etiquetas) de contenido que aparecen en el feed de cada perfil e incluir más perfiles para obtener resultados más consistentes. En estos otros perfiles, se podrían hacer otros experimentos, como mantener las búsquedas exactas y los perfiles de contenido gustado o seguido, buscando las diferencias entre los feeds, y si están relacionadas con información del perfil del usuario, como el género.

La transformación en las formas de interacción es parte de la evolución de las sociedades, y las innovaciones técnicas pueden traer tanto facilidades y beneficios, como desventajas y dificultades. Entender y debatir los algoritmos que conforman cada vez más nuestra forma de ver el mundo y nuestro sentido de la realidad es fundamental para comprender los impactos negativos de las nuevas tecnologías y cómo mitigarlos.

La importancia de entender el algoritmo a través de su deconstrucción se hace latente porque las empresas que lo programan no hacen público su funcionamiento. La técnica de la ingeniería inversa tiene el potencial de entender estas dinámicas y sirve para vigilar el funcionamiento de estos sistemas.

Referencias bibliográficas

Carrera, F. y Carvalho, D. 2020. Algoritmos racistas: a hiper-ritualização da solidão da mulher negra em bancos de imagens digitais. Galáxia, 43, 99-114. http://dx.doi.org/10.1590/1982-25532020141614. São Paulo.

D’Amorim, M. A. 1997. Estereótipos de gênero e atitudes acerca da sexualidade em estudos sobre jovens brasileiros. Temas psicol., 5(3), 121-134. Ribeirão Preto. https://bit.ly/3zAwWXT

Heath, A. 2022. Facebook is changing its algorithm to take on TikTok, leaked memo reveals. The Verge. Tech. https://bit.ly/3PZT03t

Pellanda, E. C. y Streck, M. 2017. Instagram como interface da Comunicação móvel e ubíqua. Sessões do Imaginário, 22(37), 10-19. Porto Alegre. https://doi.org/10.15448/1980-3710.2017.1.28017

Su, C., Zhou, H., Gong, L., Teng, B., Geng, F. y Hu, Y. 2021. Viewing personalized video clips recommended by TikTok activates default mode network and ventral tegmental area. NeuroImage, 237, 118136. https://doi.org/10.1016/j.neuroimage.2021.118136

Wang, Y. 2020. Influence of camera view on TikTok users’ presence, immersion, and adoption intent. Computers in Human Behavior, 106373. https://doi.org/10.1016/j.chb.2020.106373

Wu, L. 2020. Comparative analysis of video stories and user behaviors on WeChat and TikTok. Advances in Social Science, Education and Humanities Research, 496, 329-333. 3rd International Conference on Humanities Education and Social Sciences (ICHESS 2020),