La próxima era de la desinformación operada con enjambres de IA será escalofriante

En 2016, miles de rusos acudían a diario a un moderno edificio de oficinas en el número 55 de la calle Savushkina de San Petersburgo; formaban parte de la infame granja de trolls conocida como la Agencia de Investigación de Internet (IRA). Día y noche, siete días a la semana, estos empleados comentaban manualmente artículos de noticias, publicaban en Facebook y Twitter y, en general, trataban de agitar a los estadounidenses sobre las elecciones presidenciales.

Cuando se descubrió su macabro plan, hubo una amplia cobertura mediática y audiencias en el Senado, y las plataformas de redes sociales introdujeron cambios en la forma en que verificaban a los usuarios. Pero, a pesar de todo el dinero y los recursos invertidos por la IRA, el impacto fue mínimo, comparado sin duda con el de otra campaña vinculada a Rusia que filtró los correos electrónicos de Hilary Clinton justo antes de las elecciones.

Una década después, aunque la IRA ya no existe, las campañas de desinformación han seguido evolucionando, incluido el uso de tecnología de IA para crear sitios web falsos y deepfakes. Un nuevo artículo, publicado en Science, predice un inminente cambio radical en la forma en que se llevarán a cabo las campañas de desinformación. En lugar de cientos de empleados sentados en escritorios en San Petersburgo, el artículo postula que una persona con acceso a las últimas herramientas de IA será capaz de dirigir «enjambres» de miles de cuentas de redes sociales, capaces no solo de crear mensajes indistinguibles del contenido humano, sino de evolucionar de forma independiente y en tiempo real, todo sin supervisión humana constante.

Un problema grave

Los investigadores creen que estos enjambres de IA podrían provocar cambios de opinión en toda la sociedad que no solo influirían en las elecciones, sino que acabarían con la democracia, a menos que se tomen medidas para evitarlo. «Los avances en inteligencia artificial ofrecen la posibilidad de manipular creencias y comportamientos a nivel de toda la población. Al imitar la dinámica social humana, amenazan la democracia», se lee en el artículo.

El documento ha sido elaborado por 22 expertos de todo el mundo, procedentes de campos como la informática, la IA y la ciberseguridad, así como la psicología, las ciencias sociales computacionales, el periodismo y la política gubernamental. La visión pesimista sobre cómo la tecnología de IA cambiará el entorno de la información es compartida por otros expertos en la materia que han revisado el documento.

«Apuntar a individuos o comunidades elegidos va a ser mucho más fácil y poderoso. Se trata de un entorno extremadamente difícil para una sociedad democrática. Tenemos un gran problema», afirma Lukasz Olejnik, investigador visitante del Departamento de Estudios de Guerra del King’s College de Londres y autor de Propaganda: From Disinformation and Influence to Operations and Information Warfare (Propaganda: de la desinformación y la influencia a las operaciones y la guerra de información).

Incluso aquellos que son optimistas sobre el potencial de la IA para ayudar a los humanos creen que el documento expone una amenaza que debe tomarse en serio. «No cabe duda de que las campañas de influencia potenciadas por la IA entran dentro del estado actual de avance de la tecnología y, como se expone en el documento, esto también plantea una complejidad significativa para las medidas de gobernanza y la respuesta de defensa», afirma Barry O’Sullivan, profesor de la Escuela de Informática y TI del University College Cork.

En los últimos meses, mientras las empresas de IA intentan demostrar que valen los cientos de miles de millones de dólares que se han invertido en ellas, muchos han señalado la invención de agentes de IA como prueba de que la tecnología por fin estará a la altura de las expectativas. Pero, según los autores, esa misma tecnología podría desplegarse pronto para difundir desinformación y propaganda a una escala nunca vista.

Qué son los «enjambres de desinformación»

Los enjambres que describen los autores estarían formados por agentes controlados por IA capaces de mantener identidades persistentes y, sobre todo, memoria, lo que permitiría simular identidades en línea creíbles. Los agentes se coordinarían para alcanzar objetivos comunes y, al mismo tiempo, crearían identidades individuales para evitar ser detectados. Estos sistemas también serían capaces de adaptarse en tiempo real para responder a las señales compartidas por las plataformas de medios sociales y en conversación con humanos reales.

«Estamos entrando en una nueva fase de la guerra informativa en las plataformas de medios sociales, en la que los avances tecnológicos han dejado obsoleto el enfoque clásico de los bots», afirma Jonas Kunst, profesor de Comunicación en la BI Norwegian Business School y uno de los coautores del informe.