Casos 

Tu casa del futuro: el filtro de TikTok señalado como racista

Tu casa del futuro: el filtro de TikTok señalado como racista
Plataforma
TikTok
País
América Latina
Año
2023
regla
Estereotipos raciales y negativos contra grupos vulnerables
Categoría
Moderación de Contenido

La semana pasada se popularizó en TikTok un video publicado por El Ocurrente Víctor, un creador de contenido con más de 5.5 millones de seguidores en esa red social. En la publicación, Víctor ponía a prueba un efecto o filtro que muestra a los usuarios, a manera de juego, la casa que tendrán en el futuro. En un primer intento, la herramienta arrojó como resultado una choza. El influenciador, que es afrodominicano, afirmó: “yo creo que eso es porque soy negro”. 

A continuación, el video muestra a Víctor cubriéndose el rostro con harina y volviendo a poner a prueba el filtro, que en una segunda oportunidad predice que vivirá en la Casa Blanca. En la descripción que acompaña el video se lee: “Estos filtros son racistas”.

@elocurrentevictor Esto filtro son R@cista 😫 idea : @Dialtero95 #parati ♬ sonido original - Las Ocurrencias De Victor

La publicación, que hoy tiene más de 11 millones de reproducciones, hace parte de una tendencia a la que se han sumado usuarios afro a quienes el efecto ha asignado casas en ruinas, construcciones tribales o cuevas. 

TikTok, al igual que otras aplicaciones, permite que los usuarios creen sus propios filtros y efectos a través de la herramienta Effect House. A su vez, estos elementos funcionan dentro de la plataforma como vehículos para aglomerar contenido y crear tendencias, de la misma forma en la que ocurre con los hashtags o con los audios.

El efecto, que ha sido utilizado en más de medio millón de videos en TikTok, se llama “Your Future House” y fue desarrollado por Skill Sewa, una compañía de remodelación y soluciones de vivienda localizada en Nepal. 

Las reglas de efectos de TikTok prohíben el contenido que promueva estereotipos basados en la raza, la orientación sexual, la identidad de género o la discapacidad de una persona. De acuerdo con la compañía, esta clase de herramientas pueden causar prejuicios y comportamientos discriminatorios, por lo cual serán rechazados o removidos de la plataforma, incluyendo aquellos que generalicen rasgos que culturalmente sean percibidos como negativos.

El efecto de “Your Future House” hace parte de un diseño clásico de las herramientas de TikTok: el de un carrusel de imágenes –de personajes de películas o de futbolistas, por ejemplo– que eventualmente se detiene para identificar al usuario con una sola de esas imágenes. Este tipo de efectos suelen desarrollarse bajo la plantilla ‘randomizer’, que en teoría otorga resultados aleatorios sin tener en cuenta la información biométrica de los usuarios, como los rasgos físicos. 

Aunque no hay suficientes herramientas de transparencia para conocer qué clase de criterios utilizan los efectos desarrollados y publicados por los usuarios, es posible que la tendencia de “Your Future House” y su supuesta inclinación racista sea más una coincidencia que un sesgo discriminatorio.

En todo caso, no es la primera vez que se advierte una tendencia racista por parte de los algoritmos de TikTok . En 2020, el investigador Marc Faddoul, de la Escuela de Información de la Universidad de California en Berkeley, observó que la plataforma tendía a recomendar cuentas de acuerdo con la etnia de las personas. A su vez, ese mismo año, un grupo de influenciadores denunció que su visibilidad se había visto afectada luego de haber publicado contenido relacionado con el movimiento Black Lives Matter. 

Situaciones de este tipo subrayan las amplias responsabilidades que tiene la compañía en el diseño de algoritmos que hoy llegan a cerca de 1.700 millones de usuarios. A esto se suman las dificultades de monitorear y arbitrar las acciones de terceros, no solo por cuenta del contenido –audio, video, texto– sino también a través de capas adicionales de filtros o efectos que pueden terminar teniendo impactos adversos que la plataforma no puede prever.

Para estar conectado con las noticias del mundo digital, suscríbete a nuestro newsletter, Botando Corriente:

ir a casos