Esas aplicaciones que «desnudan» gente con IA están generando 36 millones de dólares al año

«Nuestro análisis del comportamiento de los nudificadores indica claramente su deseo de construir y afianzarse en un nicho de la industria para adultos. Es probable que sigan intentando entremezclar sus operaciones en el espacio de contenidos para adultos, una tendencia que debe ser contrarrestada por las empresas tecnológicas convencionales y también por la industria para adultos«, explica Lakatos.

Regulaciones, opiniones y luchas contra los deepfakes

Muchos de los problemas de las empresas tecnológicas que permiten a las plataformas de desnudos utilizar sus sistemas son bien conocidos. Durante años, los periodistas especializados en tecnología han informado sobre cómo la deepfake economy ha utilizado servicios de pago convencionales, anuncios en redes sociales, exposición en motores de búsqueda y tecnología de grandes empresas para operar. Sin embargo, se han tomado pocas medidas integrales.

«Desde 2019, las apps de desnudos han pasado de ser un puñado de proyectos secundarios de baja calidad a una industria artesanal de negocios ilícitos profesionalizados con millones de usuarios», comenta Henry Ajder, un experto en IA y deepfakes que descubrió por primera vez el crecimiento del ecosistema de nudificación en 2020. «Solo cuando empresas como estas, que facilitan el ‘perverso viaje del cliente’ de las apps de nudificación, tomen medidas específicas, empezaremos a ver progresos significativos para dificultar el acceso a estas aplicaciones y obtener beneficios de ellas.»

Hay indicios de que los sitios web de nudificación están actualizando sus tácticas y enfoques para tratar de evitar posibles medidas enérgicas o eludir las prohibiciones. El año pasado, WIRED informó de cómo los sitios web de nudificación utilizaban sistemas de inicio de sesión único de Google, Apple y Discord para permitir a la gente crear cuentas rápidamente. Muchas de las cuentas de desarrolladores fueron inhabilitadas tras la denuncia. Sin embargo, según el indicador, en 54 de los 85 sitios web se utiliza el sistema de inicio de sesión único de Google, y los creadores de los sitios web han tomado medidas para eludir la detección por parte de Google. Según el informe, utilizarían un «sitio intermediario» para «hacerse pasar por una URL diferente para el registro».

Aunque las empresas tecnológicas y los reguladores han adoptado un enfoque glacial para hacer frente a los deepfakes abusivos desde que surgieron por primera vez hace más de una década, se han producido algunos movimientos recientes. El fiscal de la ciudad de San Francisco ha demandado a 16 servicios de generación de imágenes no consentidas, Microsoft ha identificado a los desarrolladores de deepfakes de famosos y Meta ha presentado una demanda contra una empresa que supuestamente está detrás de una aplicación de nudificación que, según la gigante, publica repetidamente anuncios en su plataforma. Mientras tanto, la controvertida Ley ‘Take It Down’ (Ley de Retirada de Contenidos), que el presidente de Estados Unidos, Donald Trump, promulgó en mayo, exige a las empresas tecnológicas que eliminen rápidamente los abusos de imágenes no consentidos, y el gobierno del Reino Unido está ilegalizando la creación de deepfakes explícitos.

Estas medidas pueden reducir algunos servicios de desnudez y desvestirse, pero se necesitan medidas más contundentes para frenar la floreciente y dañina industria. Mantzarlis argumenta que si las empresas tecnológicas son más proactivas y estrictas en la aplicación de sus políticas, la capacidad de los nudificadores para prosperar disminuirá: «Sí, estas cosas migrarán a rincones menos regulados de internet, pero dejémoslo. Si los sitios web son más difíciles de descubrir, acceder y utilizar, su audiencia y sus ingresos se reducirán. Por desgracia, este regalo tóxico de la era de la IA generativa no puede devolverse. Pero sin duda puede reducirse drásticamente su alcance».

Artículo originalmente publicado en WIRED. Adaptado por Alondra Flores.