Google alerta sobre hackers que ya utilizan IA para crear exploits de día cero

El Grupo de Inteligencia de Amenazas de Google (GTIG, por sus siglas en inglés) asegura que identificó por primera vez un exploit de día cero desarrollado con ayuda de un sistema de inteligencia artificial (IA). El hallazgo surge en un contexto en el que el uso de modelos avanzados genera cada vez más preocupación en materia de ciberseguridad. Prueba de ello es la creciente sofisticación de los ataques informáticos.

El informe de la unidad especializada detalla que “importantes ciberdelincuentes” intentaron emplear este exploit de día cero para ejecutar un ataque que les habría permitido vulnerar los mecanismos de autenticación de dos pasos (2FA) en una herramienta de administración de sistemas web de código abierto cuya identidad no fue revelada. Por cierto, un exploit de día cero es un método para aprovechar una vulnerabilidad informática desconocida por los desarrolladores de un software y para la cual todavía no existe un parche de seguridad.

El malware descrito por el GTIG, desarrollado con lenguaje de programación Python, fue diseñado para explotar un “fallo de lógica semántica de alto nivel” dentro del sistema objetivo. Esta vulnerabilidad, de acuerdo con los especialistas, derivó de una suposición de confianza por parte de los desarrolladores, quienes asumieron que determinadas acciones o datos siempre serían legítimos o seguros. Como resultado, el software omitía ciertas verificaciones esenciales, lo que terminó generando un vacío de seguridad.

El equipo de Google detectó diversos indicios que apuntaban al uso de inteligencia artificial en la creación del código malicioso. Entre las señales encontradas figuraba una “puntuación CVSS ficticia”, un indicador normalmente utilizado para medir la gravedad de las fallas de seguridad. A ello se añadió un estilo de programación excesivamente estructurado y convencional, rasgo que suele aparecer en contenidos generados por modelos de IA.

La tecnológica afirma que logró interrumpir el avance de esta vulnerabilidad. No obstante, advierte que el incidente demuestra que la IA ya se ha convertido en una herramienta relevante para los hackers, quienes la utilizan para identificar y explotar fallos de seguridad de manera cada vez más sofisticada.

“Los ciberdelincuentes están utilizando la IA para optimizar diversas fases del ciclo de vida de un ataque. Esto incluye el desarrollo de exploits y malware, la ejecución autónoma de comandos, la realización de reconocimientos más específicos y exhaustivos, y la mejora de la eficacia de las operaciones de ingeniería social y de información”, señaló el GTIG en su informe.

La unidad especializada añade que los atacantes recurren, por ejemplo, al “jailbreaking basado en la suplantación de identidad” para lograr que la IA encuentre vulnerabilidades. Asimismo, alimentan modelos inteligentes con repositorios completos de datos sobre fallos de seguridad y utilizan herramientas como OpenClaw de formas que sugieren “un interés en refinar las cargas útiles generadas por la IA en entornos controlados para aumentar la fiabilidad de los exploits antes de su implementación”.

La IA en la mira de los hackers

El GTIG también advierte que la IA no solo se ha convertido en un recurso valioso para los hackers, sino que ahora representa uno de los objetivos más atractivos para los atacantes, conforme un mayor número de empresas y organizaciones integran sistemas inteligentes en operaciones críticas. “Hemos observado que los atacantes se centran cada vez más en los componentes integrados que otorgan utilidad a los sistemas de IA, como las habilidades autónomas y los conectores de datos de terceros”, explicó el equipo.

En este contexto, el GTIG concluye que “el potencial de la IA es inmenso. A medida que la innovación avanza, la industria necesita estándares de seguridad para desarrollar e implementar la IA de forma responsable”.