Morelos aprueba hasta 8 años de cárcel y multas de 220,000 pesos por crear o difundir contenidos íntimos con IA

En Morelos buscan sancionar hasta con 8 años a quienes difundan contenido generado con Inteligencia Artificial (IA) sin consentimiento, específicamente en torno a temas de violación a la intimidad sexual que involucren esta tecnología.

Ese es el resultado de la iniciativa presentada por la diputada Gonzala Leonor Martínez Gómez, presidenta de la Comisión de Salud del legislativo del estado. Esta integra desde multas hasta castigos que pueden ser prisión, los cuales se definirán principalmente por la gravedad del delito y del contenido publicado.

De acuerdo con el decreto publicado en el Periódico Oficial del Estado de Morelos, la reforma aprobada implica agregar los párrafos sexto y séptimo al artículo 150 bis del Código Penal para el Estado de Morelos. Estos párrafos incluyen las indicaciones que sancionan penalmente a quien use la Inteligencia Artificial para crear, manipular y difundir contenido sexual íntimo de una persona sin su consentimiento.

Esta reforma se centra en castigar principalmente a quien, con el uso de IA, manipule imágenes, audios o videos de contenido íntimo sexual de una persona, creados con el fin de generar hechos falsos con apariencia real. El propósito es castigar la exposición, difusión, distribución, exhibición, reproducción, transmisión, comercialización, oferta, intercambio o compartición de dicho material.

La sanción aplica donde no exista la autorización o el consentimiento expreso, voluntario y genuino de la persona, y si se difunde en medios como materiales impresos, correos electrónicos, mensajes de teléfono, redes sociales o cualquier otra plataforma tecnológica.

Entre los diferentes detalles establecidos en la reforma, se aclara que, para los efectos de este artículo (es decir, para aplicarlo correctamente), se entiende por Inteligencia Artificial a todas aquellas aplicaciones, programas o tecnología que analizan fotografías, audios o videos y que ofrecen ajustes automáticos para hacerles alteraciones o modificaciones.

Los deepfakes y la motivación de la ley

Según el decreto, esta iniciativa surge para responder al uso de la Inteligencia Artificial en la creación y difusión de contenido sexual íntimo sin consentimiento. También tiene motivaciones en otras situaciones, como la amenaza de los deepfakes (o pornografía con falsificación profunda), técnica donde se suele mezclar el rostro de una persona con contenidos pornográficos.

Además, se motiva por la popularización de herramientas como la plataforma Deepswap, que permite el acceso a la creación de este tipo de contenidos. Se busca fortalecer la tutela de la intimidad, la dignidad y la reputación de las personas frente a posibles usos maliciosos de esta tecnología.

Tal como lo deja ver la publicación del decreto, originalmente la propuesta incluía un agravante de género, es decir, una mayor pena que podía ser hasta del doble si la víctima era una mujer. Sin embargo, se decidió cambiar esta agravante específica, ya que se consideraba que duplicar la pena automáticamente podía violar el principio de proporcionalidad. Además, se consideró que aumentar las penas solamente cuando las mujeres eran las afectadas podía ser excluyente para otras víctimas que también fueran afectadas.

Las penas de cárcel y multas

En caso de que se genere algún comportamiento donde se use la IA para crear contenido sexual falso, los culpables deberán ser castigados con hasta los 8 años de cárcel ya mencionados, además de poder recibir multas de más de 220,000 pesos.

Una vez que las víctimas hagan las denuncias, la Fiscalía General del Estado de Morelos será la encargada de investigar los casos de manipulación de contenido íntimo a través de herramientas tecnológicas. Estas permitirán rastrear el origen de las publicaciones a través de sus direcciones IP.

De esta forma, de acuerdo con la diputada, se busca garantizar la justicia para las víctimas y también sentar precedentes legales para los responsables del uso indebido de la IA.