Un error generado por inteligencia artificial estuvo a punto de provocar un enfrentamiento militar directo entre Estados Unidos y China

Un incidente crítico -no un simulacro, ni un escenario, ni un juego de guerra, sino un incidente real- en el que el ejército de los Estados Unidos casi provoca un conflicto armado con China ocurrió, entre todos los motivos, por culpa de una alucinación de inteligencia artificial.

Según reportó en exclusiva CNN, los hechos ocurrieron cuando un analista del Comando de Operaciones Especiales del Pacífico, con sede en Hawái, utilizó un chatbot para examinar el manifiesto de un buque chino en aguas de Oriente Medio. La herramienta de IA combinó información de fuentes abiertas con inteligencia de señales clasificadas e identificó erróneamente que el buque transportaba componentes para un programa de armas nucleares.

El analista no sospechó de las conclusiones de la IA y, muy al contrario, volvió a utilizarla para empaquetar las conclusiones en un informe de inteligencia estandarizado, un formato común que genera alta confianza entre los mandos militares. En esa forma, habitual y usualmente digna de confianza, fue difundido por toda la estructura de las Fuerzas Armadas.

Con un informe de inteligencia que decía que China estaba moviendo componentes para armas nucleares en Oriente Medio, las Fuerzas Armadas de EE. UU. prepararon una operación de interceptación. Fuentes reservadas confirmaron a CNN que personal militar armado se preparaba para abordar el barco y que varios aviones de combate que estaban en el aire fueron dirigidos a la zona.

Pero justo antes de ejecutar el abordaje, otros oficiales examinaron a fondo el informe y descubrieron que la IA había malinterpretado el cargamento real de la embarcación. Una de las fuentes calificó el informe de “completamente falso” y afirmó que el incidente “casi inicia una guerra” entre ambas potencias.

“Las herramientas internas son en su mayoría copias de las cosas comerciales con lápiz labial”, le dijo a CNN militar retirado familiarizado con los sistemas de IA usados por analistas de inteligencia.

Un contexto peligroso

No está claro si el chatbot era un producto comercialmente disponible o una herramienta especialmente diseñada para el gobierno estadounidense. Sea como sea, el fallo ocurre en un momento en que el Pentágono acelera la adopción masiva de la IA bajo la «Estrategia de Aceleración de Inteligencia Artificial» del Secretario de Defensa, Pete Hegseth, y pone en evidencia que la integración descentralizada de herramientas de IA todavía carece de criterios unificados de verificación y que depender de datos automatizados para la selección de objetivos militares en tiempo real tiene sus riesgos.

Otra de las fuentes de CNN dijo: “El uso de IA para seleccionar objetivos es definitivamente algo que está aumentando y no hay una guía real sobre cómo mantener a un humano en el proceso evitará víctimas civiles o fratricidios”.

A pesar de que este error casi desencadena una guerra, el Departamento de Defensa continúa acelerando la integración de estas tecnologías en sus operaciones habituales. El suceso resalta los peligros extremos de confiar en sistemas automatizados que pueden inventar datos en contextos de seguridad nacional. Los expertos advierten que, aunque se busca la eficiencia, la falta de supervisión humana infalible en la IA representa una amenaza existencial creciente.