Los algoritmos de recomendación hacen que todos acabemos en los mismos lugares

Mientras tanto, las elecciones de las personas se vuelven más homogéneas. Al comparar las secuencias de visitas antes y después de la simulación, la similitud entre los recorridos aumenta drásticamente. Cuando se adopta masivamente, la tecnología siempre tiene un efecto uniformizador, lo que hace que se pierda la singularidad del usuario. La coincidencia de ubicaciones también aumenta: las personas tienden a estar en los mismos lugares a las mismas horas.

La novedad del estudio

Para comprender estos mecanismos, los investigadores tuvieron que superar un obstáculo fundamental: la falta de transparencia de los algoritmos. “Lo ideal sería saber qué algoritmos hay detrás de Google Maps”, explica Pappalardo. “Según la Unión Europea, gracias a la Ley de Servicios Digitales plataformas como Google Maps deberían estimar el riesgo que sus algoritmos suponen para el entorno urbano. Pero hasta ahora se ha hecho poco o nada al respecto”.

Los investigadores implementaron los algoritmos más utilizados para identificar posibles universalidades. Y las encontraron. Tomaron información del mundo real sobre las visitas de las personas a diversos lugares, como restaurantes, tiendas, estaciones de tren y museos, obtenida de redes sociales basadas en geolocalización en las ciudades de Nueva York y Tokio; dos megalópolis con culturas distintas. Utilizaron esos datos para entrenar sistemas de recomendación basados ​​en machine learning, el aprendizaje automático de hábitos individuales y colectivos basado en algoritmos. Luego simularon la experiencia de personas con diferentes necesidades: ir al pub, al gimnasio, a una pizzería o a un restaurante de sushi. Por último, hicieron una solicitud genérica, dejando que el algoritmo decidiera a qué lugar específico ir. Al variar la tasa de adopción (es decir, la probabilidad de que una persona siga la sugerencia o la ignore) pudieron estudiar cómo cambian la diversidad individual, la diversidad colectiva y la homogeneización, y qué papel juegan nuestras elecciones en todo esto.

“La novedad reside en esta semisimulación”, subraya Mauro. “Es la primera vez que se simula un ciclo de retroalimentación en un entorno urbano considerando explícitamente el papel de la IA y, sobre todo, qué sucede cuando el usuario decide rechazar la sugerencia”. La decisión de cada usuario pasa a formar parte del historial digital sobre el cual los sistemas de recomendación calculan sus futuras sugerencias para los mejores destinos.

Regulación y conciencia

Tras destacar el ciclo continuo del que todos formamos parte, los investigadores también exploraron los intentos actuales por romperlo. Su objetivo era cambiar el rumbo de este ciclo, oponiéndose a la homogeneización que viene en marcha desde hace tiempo. Si bien existen líneas de investigación que intentan reducir el sesgo (o brecha) de popularidad en los sistemas de recomendación, según Mauro estos enfoques no bastan para resolver el problema. “Siempre buscan aumentar la diversidad para el individuo, para no aburrirlo con los productos y lugares recomendados”, explica, “pero no tienen en cuenta métricas como la homogeneización y la diversidad colectiva. Se necesitan sistemas adaptativos y multiobjetivo, capaces de compensar cuando ven que la diversidad colectiva se desploma”.

Utilizar la inteligencia artificial para resolver problemas no es fácil. Existe un nivel individual, un nivel social y, por supuesto, un nivel económico (impulsado por los intereses de quienes diseñan y prestan el servicio) que no se puede ignorar. Rara vez coinciden los tres, por lo que es crucial decidir qué postura adoptar. “Necesitamos identificar un sistema de valores de referencia, evitando el tecnosolucionismo”, añade Mauro. “La solución no puede ser únicamente tecnológica. Necesitamos regulaciones y políticas que obliguen a las plataformas no solo a optimizar las ganancias y la interacción, sino también a adoptar una perspectiva que respete los valores que, como sociedad, sostenemos”.

Los autores del estudio aseguran con optimismo y determinación que continuarán la investigación en IA en la misma dirección (la que establece la Ley de Servicios Digitales en Europa). Al exigir a las plataformas que evalúen el impacto de sus propios algoritmos, creen que esta iniciativa ayudará a valorar cada vez más la contribución que los usuarios hacen cada vez que confían en una sugerencia basada en la IA, en lugar del instinto o el boca a boca.

El algoritmo ya no es solo un artefacto, un producto humano. Se ha convertido en un verdadero actor en las dinámicas sociales, y las está modificando. Por ende, merece atención, estudio y regulación, así como también la conciencia de que la velocidad con la que nos estandariza depende de cuán ciegamente obedecemos.

Artículo originalmente publicado en WIRED Italia. Adaptado por Andrea Baranenko.