México alista su primera ley para regular la IA con penas de prisión por usos indebidos

En ámbitos laborales, educativos o de seguridad, quedaría prohibido el uso de sistemas de reconocimiento emocional que carezcan de base científica o que generen discriminación, así como la implementación de sistemas de decisión letal autónoma fuera de marcos legales específicos.

Infracciones de leves a “gravísimas”

El primer borrador de la propuesta legislativa establece un sistema de clasificación para las infracciones relacionadas con el uso de la IA. El documento, citado por diversos medios nacionales, introduciría por primera vez el concepto de faltas “gravísimas” para identificar los usos más perjudiciales y las violaciones más severas a las prohibiciones establecidas.

El marco regulatorio considera como infracciones gravísimas aquellas conductas con potencial de causar daños irreversibles o de gran magnitud derivados del uso de la IA. Entre ellas se incluyen el desarrollo o uso de aplicaciones con funciones expresamente prohibidas por la ley, así como la implementación de sistemas que, por negligencia grave o dolo, afecten la vida, la integridad física o cognitiva, la privacidad o la seguridad nacional.

Dentro de esta categoría también se contempla el uso de IA para la manipulación cognitiva, política, electoral o social “con fines ilícitos o contrarios a los principios democráticos, de manera deliberada”, excluyendo actividades proselitistas, publicitarias o de difusión de ideas que cumplan con los marcos legales vigentes.

De igual forma, la operación de sistemas autónomos letales sin supervisión humana significativa, la vigilancia masiva sin base legal, la creación de herramientas destinadas al fraude, la desinformación o la suplantación de identidad, así como la introducción deliberada de vulnerabilidades tecnológicas mediante sistemas de IA, quedarían comprendidas en este nivel de clasificación. Incurrir en alguna de estas faltas podría derivar en sanciones penales, incluidas penas de prisión.

Por otro lado, las infracciones graves se centran, en términos generales, en el incumplimiento de obligaciones regulatorias. Entre ellas se incluyen la omisión de evaluaciones obligatorias sobre la seguridad algorítmica de los modelos, la negativa injustificada a proporcionar información técnica para auditorías y la implementación de sistemas sin las certificaciones requeridas.

En este rubro también se sanciona la manipulación o destrucción de registros técnicos, la falta reiterada de medidas de mitigación de riesgos, el uso de sistemas de alto riesgo fuera de los contextos autorizados y el incumplimiento de medidas cautelares, preventivas o correctivas dictadas por la autoridad competente.

Finalmente, el marco regulatorio propuesto establece como infracciones leves aquellas faltas administrativas menores que no comprometen la seguridad nacional, los derechos de los usuarios ni el cumplimiento de garantías fundamentales. En este apartado se incluyen, por ejemplo, la omisión de actualizaciones técnicas no sustantivas, el retraso en la entrega de información no esencial o el incumplimiento de lineamientos procedimentales de carácter general.

¿Un mecanismo de censura?

La ley faculta a la Autoridad Nacional de IA para clasificar y prohibir nuevos sistemas que representen riesgos potenciales para la seguridad. Bajo este enfoque, los sistemas de alto riesgo estarán sujetos a controles estrictos de evaluación, certificación y supervisión, que incluyen la creación de un Registro Nacional de Sistemas de Inteligencia Artificial.

Este padrón será de carácter público y concentrará información técnica sobre los sistemas considerados de alto riesgo, así como aquellos utilizados por el gobierno federal en operaciones de vigilancia y control cuando impliquen riesgos para los derechos humanos, la seguridad o la estabilidad democrática. Asimismo, la normativa permite a la Autoridad Nacional de IA ordenar la suspensión de sistemas cuando representen un “riesgo grave e inminente”.