¿La IA tuvo influencia en las elecciones de México? Expertos examinan el impacto de la tecnología en las democracias

La Fundación Friedrich Naumann y Eon Institute presentaron el informe “IA generativa y su influencia en las elecciones de México 2024”. El encuentro reunió a especialistas en tecnología, política y género, quienes reflexionaron sobre los retos y oportunidades que estas herramientas representan para las elecciones y la democracia..

Siegfried Herzog, Director General para América Latina de la Fundación Friedrich Naumann, quien destacó la importancia de comprender los efectos de la IA en la democracia. “El uso correcto de estas herramientas podría promover la libertad y la participación democrática, pero un uso indebido puede ser un detrimento para la calidad democrática”, afirmó.

El Senador Rolando Zapata, Presidente de la Comisión de IA del Senado, enfatizó la necesidad de establecer marcos normativos adecuados para mitigar riesgos y aprovechar el potencial de la IA. “Los hallazgos aquí presentados nos alertan sobre el enorme potencial de la IA para manipular la información y la opinión pública. Debemos actuar con urgencia, pero también con optimismo. Trabajemos juntos por un futuro donde la tecnología fortalezca, no debilite, nuestra democracia”, señaló.

Hallazgos clave del informe

Daniela Rojas, Oficial Senior de Programas de Eon Institute, y Claudia Del Pozo, Directora y Fundadora de Eon Institute, presentaron los principales hallazgos del informe, que analiza el impacto de la IA en las elecciones mexicanas de 2024. Entre los resultados más destacados se encuentran:

Uso malintencionado de la IA mínimo: Se identificaron solo 44 casos relacionados con elecciones, de los cuales únicamente 5 tuvieron amplia cobertura mediática y en redes sociales.

Uso limitado de deepfakes: La mayoría de los casos registrados involucraron shallowfakes o cheapfakes, es decir, manipulaciones menos sofisticadas que los deepfakes.

Efecto Liar’s Dividend: Se observó cómo la desinformación también puede surgir a partir de afirmaciones falsas sobre la manipulación de contenidos por IA, incluso cuando la verificación experta confirma la autenticidad del material.

IA y cibercrimen: Se registraron al menos 4 casos en los que la imagen de figuras públicas fue utilizada para cometer fraudes cibernéticos.

Violencia política en razón de género: Se documentaron 2 casos en los que se utilizó IA para generar y difundir material íntimo no consensuado de candidatas.

Adopción temprana de IA en Tribunales Electorales: Aunque algunos tribunales electorales en México han comenzado a implementar IA, su uso sigue en una fase inicial, con un alto potencial para mejorar la eficiencia y la transparencia judicial.

El informe también analiza las posibles razones detrás de estos resultados, tendencias emergentes y recomendaciones clave para los tomadores de decisiones en futuros procesos electorales. El documento completo puede consultarse en el enlace: bit.ly/IAGenMex2024.

Desafíos y soluciones

Tras la presentación del informe, se llevó a cabo un panel de discusión con destacados especialistas, entre ellos Daniela Mendoza, Directora General de VerificadoMX; Lorenzo Córdova, Profesor e Investigador de la UNAM y Expresidente del INE; Manuel Alejandro Guerrero, Profesor Investigador de la Universidad Iberoamericana; y Sol Sánchez Rabanal, Oficial Nacional de Género en PNUD México.

El debate abordó temas clave como el impacto de la IA en la desinformación electoral, su uso para la violencia política en razón de género y estrategias para mitigar estos riesgos. Lorenzo Córdova destacó la importancia de educar a la ciudadanía en el uso crítico de la información, mientras que Sol Sánchez Rabanal subrayó la necesidad de proteger a las mujeres en la política frente a los ataques digitales.

“La IA no es neutral; refleja los sesgos de quienes la diseñan y utilizan. Por eso, es crucial que las regulaciones y políticas públicas tengan un enfoque de género”, afirmó Sánchez Rabanal.

En un mundo donde la tecnología avanza a pasos agigantados, México y otros países enfrentan el reto de adaptarse a esta nueva realidad. Como señaló el Senador Zapata: “El futuro de la democracia depende de cómo gestionemos hoy los desafíos y oportunidades que nos presenta la Inteligencia Artificial”.

Los expertos subrayaron la urgencia de contar con marcos normativos robustos y una mayor cooperación entre gobiernos, empresas tecnológicas y sociedad civil para garantizar que la IA se utilice como una herramienta para fortalecer, no debilitar, las democracias.