ChatGPT y otras IA están sirviendo propaganda rusa

Ni Google ni DeepSeek respondieron a la solicitud de comentarios de WIRED. Un correo electrónico de xAI de Elon Musk decía: «El legado de los medios miente».

En una declaración escrita, un portavoz de la embajada rusa en Londres indicó que «no estaba al tanto» de los casos específicos que detalla este informe, pero que se opone a cualquier intento de censurar o restringir el contenido por motivos políticos: «La represión contra los medios de comunicación rusos y los puntos de vista alternativos priva de esta oportunidad a quienes tratan de formarse sus propias opiniones independientes y socava los propios principios de libertad de expresión y pluralismo que los gobiernos occidentales dicen defender».

El sabotaje silencioso de Rusia a los chatbots

«Corresponde a los proveedores pertinentes bloquear el acceso a los sitios web de los medios afectados por las sanciones, incluidos los subdominios o los dominios de nueva creación, y a las autoridades nacionales competentes adoptar las medidas reglamentarias de acompañamiento», afirma un portavoz de la Comisión Europea.

Lukasz Olejnik, consultor independiente e investigador visitante del Departamento de Estudios de Guerra del King’s College de Londres, afirma que los hallazgos «validan» y ayudan a contextualizar cómo Rusia está atacando el ecosistema de información de Occidente: «A medida que los LLM se convierten en la herramienta de referencia, desde la búsqueda de información hasta la validación de conceptos, atacar este elemento de la infraestructura de la información es un movimiento inteligente. Desde el punto de vista de la UE y Estados Unidos, esto pone claramente de manifiesto el peligro», argumenta Olejnik.

Desde que Rusia invadió Ucrania, el Kremlin se ha movilizado para controlar y restringir el libre flujo de información dentro de Rusia: prohibiendo los medios de comunicación independientes, aumentando la censura, restringiendo los grupos de la sociedad civil y construyendo más tecnología controlada por el Estado. Al mismo tiempo, algunas de las redes de desinformación del país han incrementado su actividad y han adoptado herramientas de IA para potenciar la producción de imágenes, videos y sitios web falsos.

Según la investigación, alrededor del 18% de todas las preguntas, idiomas y LLM arrojaron resultados relacionados con medios de comunicación rusos financiados por el Estado, sitios «vinculados» a las agencias de inteligencia rusas o redes de desinformación. Por ejemplo, las preguntas sobre las conversaciones de paz entre Rusia y Ucrania dieron lugar a más citas de «fuentes atribuidas por el Estado» que las preguntas sobre los refugiados ucranianos.

La investigación de la ISD afirma que los chatbots mostraron un sesgo de confirmación: cuanto más tendenciosa o maliciosa era la consulta, con mayor frecuencia los LLM proporcionaban información atribuida al Estado ruso. Las consultas maliciosas ofrecían contenidos atribuidos al Estado ruso una cuarta parte de las veces; las consultas tendenciosas, contenidos prorrusos el 18% de las veces; mientras que las consultas neutrales apenas superaban el 10%. En la investigación, las preguntas maliciosas a los chatbots «exigían» respuestas que respaldaran una opinión existente, mientras que las preguntas «tendenciosas» eran más abiertas.

ChatGPT era el que más fuentes rusas citaba

De los cuatro chatbots, muy populares en Europa y que recopilan datos en tiempo real, ChatGPT es el que más fuentes rusas cita y el más influenciado por las preguntas tendenciosas, según la investigación. Grok enlazaba a menudo con cuentas de redes sociales que promovían y amplificaban las narrativas del Kremlin, mientras que DeepSeek producía a veces grandes volúmenes de contenido ruso atribuido por el Estado. Los investigadores afirman que Gemini, de Google, mostraba «con frecuencia» advertencias de seguridad junto a las conclusiones y obtuvo los mejores resultados generales de los chatbots que probaron.

Múltiples informes de este año han afirmado que una red de desinformación rusa apodada «Pravda» ha inundado la web y las redes sociales con millones de artículos como parte de un esfuerzo por «envenenar» a los LLM e influir en sus resultados. «Que la desinformación rusa sea repetida como un loro por un modelo de IA occidental da a esa falsa narrativa mucha más visibilidad y autoridad, lo que permite a estos malos actores lograr sus objetivos», asevera McKenzie Sadeghi, investigador y editor de la empresa de vigilancia de medios NewsGuard, que ha estudiado la red Pravda y la influencia de la propaganda rusa en los chatbots. Según sus conclusiones, solo dos enlaces de la investigación de ISD pudieron conectarse a la red Pravda.