Estudio de Microsoft alerta que la creación de proteínas con IA abre la puerta a las armas biológicas

Un grupo de investigadores de Microsoft realizó un experimento escalofriante: emplearon inteligencia artificial (IA) para generar los planos digitales de proteínas capaces de imitar algunos de los venenos más letales que se conocen, como la ricina, la toxina botulínica y la Shiga. El objetivo no era producir estas toxinas, sino poner a prueba los mecanismos de seguridad que impiden que armas biológicas peligrosas puedan fabricarse con ayuda de la biotecnología moderna.

El ingeniero bioquímico Bruce Wittmann, líder del equipo, suele usar IA para diseñar proteínas útiles en medicina o agricultura. Pero, según la revista Science, esta vez puso sus aptitudes a trabajar “como si fuera un bioterrorista”.

Para determinar si las empresas que sintetizan ADN estaban realmente preparadas para detectar y bloquear pedidos sospechosos, los científicos llevaron a cabo un ejercicio de “equipo rojo” (red team), un término tomado del ámbito militar que se refiere a las pruebas en las que un grupo simula un ataque para detectar debilidades en los sistemas de defensa.

Versiones digitales de toxinas

El equipo de Microsoft seleccionó 72 proteínas reguladas por leyes internacionales, entre ellas la ricina, una sustancia que ha sido usada en atentados terroristas y considerada un arma biológica de alta peligrosidad. Luego emplearon herramientas IA de diseño para crear más de 70,000 secuencias de ADN que producirían versiones alternativas de esas proteínas.

Los modelos computacionales confirmaron que algunas de sus variantes probablemente resultarían tóxicas. Wittmann incluso reconoció que tener en sus manos el conocimiento necesario para recrear estos compuestos le resultaba una “carga moral significativa”.

Por razones éticas y legales, los investigadores no sintetizaron los genes ni las proteínas. Hacerlo habría violado la Convención sobre Armas Biológicas, que prohíbe la creación o desarrollo de agentes patógenos. En cambio, enviaron las secuencias a cuatro empresas proveedoras de software de detección de bioseguridad (BSS), el sistema que las compañías de ADN usan para identificar pedidos de secuencias potencialmente peligrosas.

Filtros imperfectos

Los resultados fueron inquietantes. Ninguno de los programas identificó todas las secuencias riesgosas, y uno de ellos apenas detectó el 23% de los posibles agentes tóxicos. Incluso el más eficaz apenas alcanzó un 70%. Según el paper, esto demuestra grietas preocupantes en los sistemas de defensa actuales contra la fabricación de armas biológicas con nuevas tecnologías.

La reacción de las empresas fue variada. Mientras algunos desarrolladores actualizaron sus herramientas, otros decidieron no modificar sus algoritmos. La razón es práctica: un filtro demasiado estricto podría bloquear secuencias inocuas, dificultando investigaciones legítimas y elevando los costos del sector.

Tras la aplicación de los parches de software, los sistemas mejorados fueron capaces de detectar el 72% de las secuencias generadas por IA, incluyendo la mayoría de las más peligrosas. Aunque el resultado representa un avance, los investigadores admiten que el problema está lejos de resolverse.

Por motivos de seguridad, tanto el equipo como la revista Science decidieron ocultar detalles técnicos del experimento publicado esta semana en sus páginas, y del funcionamiento de los parches. El acceso a esa información se limitará a especialistas acreditados, bajo supervisión del International Biosecurity and Biosafety Initiative for Science (IBBIS), una organización sin fines de lucro dedicada a mejorar la seguridad biotecnológica.

¿Hay motivo de preocupación?

Para Jaime Yassif, vicepresidenta de programas biológicos en la Nuclear Threat Initiative, el estudio es “solo el comienzo”. La experta advirtió que las medidas de protección suelen tener dificultades para avanzar al mismo paso que la IA: “Las capacidades de la IA evolucionarán y permitirán diseñar sistemas vivos cada vez más complejos, y nuestras capacidades de detección de síntesis de ADN tendrán que seguir evolucionando para mantenerse al día”.

Yassif también señaló un punto crítico: alrededor del 20% de las empresas que venden ADN sintético no realizan ningún tipo de control sobre los pedidos que reciben, lo que deja una puerta abierta a posibles abusos.

Pese a las alarmas, los incidentes reales son escasos. James Diggans, de la empresa Twist Bioscience, asegura que en una década de trabajo apenas han tenido que reportar unos pocos casos a las autoridades. “El número real de personas que intentan un uso indebido probablemente sea cercano a cero”, afirmó.