Miles de apps programadas por la IA desparraman datos confidenciales por internet

«Según la información limitada que compartieron, la principal afirmación de RedAccess parece ser que algunos usuarios han publicado aplicaciones en la web abierta que deberían haber sido privadas», escribió Amjad Masad, CEO de Replit, en una respuesta en X. «Replit permite a los usuarios elegir si las aplicaciones son públicas o privadas. Que las aplicaciones públicas sean accesibles en internet es lo esperado. La configuración de privacidad se puede cambiar en cualquier momento con un solo clic».

Un portavoz de Lovable respondió en un comunicado: «En Lovable nos tomamos muy en serio los informes sobre datos expuestos y sitios de phishing, y estamos trabajando activamente para obtener la información necesaria para investigar. Este asunto sigue en curso. Cabe destacar que Lovable proporciona a los desarrolladores las herramientas para crear aplicaciones de forma segura, pero la configuración de la aplicación es, en última instancia, responsabilidad del creador».

Blake Brodie, directora de relaciones públicas de Wix, la empresa matriz de Base44, declaró que «Base44 ofrece a los usuarios herramientas robustas para configurar la seguridad de sus propias aplicaciones, incluyendo controles de acceso y ajustes de visibilidad». Añadió que «deshabilitar esos controles es una acción deliberada y sencilla que cualquier usuario puede realizar. En los casos en que las aplicaciones eran accesibles públicamente, esto refleja una decisión de configuración del usuario, no una vulnerabilidad de la plataforma«.

Brodie también señaló que «es sumamente fácil fabricar aplicaciones que aparentan contener datos reales de usuarios. Sin un solo ejemplo verificado, no tenemos forma de evaluar la validez de estas afirmaciones». Por su parte, RedAccess negó no haber proporcionado ejemplos a Base44.

Zvi señala que para unas pocas docenas de aplicaciones web expuestas, llegó a ponerse en contacto con el propietario aparente de la aplicación, que confirmó que los datos habían sido expuestos. RedAccess también compartió con WIRED comunicaciones anonimizadas en varios casos que mostraban a usuarios de Base44 dando las gracias a los investigadores por alertarles sobre aplicaciones web expuestas, que luego fueron protegidas o desconectadas.

Qué tanto podemos confiar en las apps de vibe coding

Verificar si se han expuesto datos reales en alguna aplicación web con IA no segura puede ser complicado, afirma Joel Margolis, investigador de seguridad que, junto con un colega, descubrió recientemente que un juguete de chat con IA había expuesto 50,000 conversaciones que mantuvo con niños en un sitio web prácticamente sin seguridad. Los datos esta aplicación de vibe coding podrían ser marcadores de posición, explica, o la aplicación podría ser simplemente una prueba de concepto (PoC). Brodie, de Wix, argumentó que dos ejemplos que WIRED compartió con Base44 parecían ser sitios de prueba o contener datos generados por IA.

En el caso de las aplicaciones web analizadas por WIRED, no pudimos confirmar que los datos personales o corporativos fueran tan sensibles, o reales, como parecían.

No obstante, Margolis afirma que el problema de las aplicaciones web con IA que exponen datos es muy real. Dice que con frecuencia se encuentra con el tipo de vulnerabilidades que Zvi catalogó. «Alguien del equipo de marketing quiere crear un sitio web. No es ingeniero y probablemente tenga poca o ninguna experiencia o conocimiento en seguridad», explica Margolis. Las herramientas de programación de IA, añade, «hacen lo que se les pide. Y a menos que se les pida que lo hagan de forma segura, no se esforzarán por hacerlo».