«La descripción me indica que la intención del vendedor es incitar a la rabia», opina Donovan. Aunque esta conexión con el hip hop pueda parecer exagerada al principio, el algoritmo de TikTok Shop me sugirió repetidamente productos relacionados con la simbología nazi a lo largo del mes pasado mientras buscaba «joyas hip hop» y variaciones de esa búsqueda con diferentes combinaciones de palabras.
Por ejemplo, el término más destacado por TikTok en la pestaña dedicada al comercio electrónico, en el apartado de productos que otros usuarios buscaban, era ‘swatika jewelry’ (joyas swatika), un error ortográfico de esvástica, junto a un set de cadenas cubiertas de diamantes de imitación con un precio de 11 dólares.
Después de hacer clic en la búsqueda inicial sugerida de «joyas swatika», TikTok presentó en la página siguiente búsquedas aún más incendiarias. TikTok Shop mostró la frase «collar alemán de la Segunda Guerra Mundial» junto a la imagen de un colgante con una estrella de David. A medida que continuaba explorando las búsquedas de productos sugeridos, la red de términos relacionados con el nazismo parecía no tener fin.
Una lista no exhaustiva de frases que TikTok Shop me sugirió durante esta investigación incluía: «collar doble perno luminoso», «collar SS», «collar alemán esvástica» y «collar HH».
Aunque el algoritmo de búsqueda fue explícito con sus sugerencias, los resultados de productos que mostró TikTok Shop eran menos evidentes y, a menudo, no estaban directamente relacionados con el antisemitismo. Por ejemplo, un collar en los resultados mostraba rayos superpuestos en forma de «S», en lugar de la disposición lado a lado característica de las insignias de las «SS» de la Schutzstaffel, el grupo paramilitar que operó en Alemania y la Europa ocupada por los nazis durante la Segunda Guerra Mundial.
No se sabe qué pasa con el algoritmo
«Tenemos ideas generales sobre el funcionamiento de estos algoritmos. Pero los detalles exactos de lo que implementan en cualquiera de sus productos son opacos. Nadie puede decirte por qué se hacen esas recomendaciones», afirma Filippo Menczer, profesor de la Universidad de Indiana y director del Observatorio de Medios Sociales.
Sin más información sobre el sigiloso algoritmo de TikTok, es imposible determinar con exactitud cómo se originó esta red de términos de búsqueda relacionados con el nazismo. Menczer teoriza que los resultados de búsqueda sugeridos que encontré podrían deberse a que el algoritmo funciona según lo previsto, conectando términos de búsqueda orgánicos potencialmente relacionados, o a algún tipo de manipulación por parte de usuarios maliciosos, que usan cuentas falsas para intentar engañar al algoritmo y potenciar ciertos términos de búsqueda. Al ser contactado para obtener comentarios, Kuper, de TikTok, afirmó que la plataforma cuenta con políticas de protección, que incluyen la supervisión de los resultados de búsqueda.
Donovan considera que a TikTok le queda mucho trabajo por hacer en materia de moderación de contenidos y protección de usuarios. «Realmente necesitan profundizar, investigar y entender de dónde viene todo esto. Y también ofrecer transparencia, para que los usuarios comprendan cómo fueron atacados», concluye.
Artículo originalmente publicado en WIRED. Adaptado por Alondra Flores.
DERECHOS DE AUTOR
Esta información pertenece a su autor original y fue recopilada del sitio https://es.wired.com/articulos/tiktok-shop-esta-repleta-de-articulos-de-simbologia-nazi
