¿La IA podría dominar al mundo? los verdaderos riesgos de la inteligencia artificial
La carrera por alcanzar la superinteligencia ha encendido las alarmas entre especialistas del sector tecnológico. Pablo Pruneda, coordinador general del Consejo Coordinador de Inteligencia Artificial de la Universidad Nacional Autónoma de México, señaló que la competencia entre las empresas líderes del ramo está ignorando protocolos de seguridad fundamentales, lo que podría derivar en escenarios de alto riesgo para la estabilidad global.
La advertencia surge tras la renuncia de un investigador de 27 años, quien formó parte de las empresas OpenAI y Anthropic. Según el especialista, estas organizaciones priorizan el desarrollo de modelos de inteligencia artificial con capacidades superiores a las humanas, sin contar con un plan sólido para mantener el control sobre sistemas que podrían tomar decisiones autónomas y acceder a recursos críticos.
«Ninguna de las dos empresas líderes en estos temas está actuando con responsabilidad. Están corriendo en una carrera desesperada por alcanzar lo que es la superinteligencia, que es este hito tecnológico en el que los modelos van a tener mayores capacidades que las humanas», dijo en entrevista para El Heraldo Radio.
Los riesgos reales de la superinteligencia artificial y la autonomía técnica
El desarrollo de estas tecnologías ha permitido que los modelos realicen procesos de automejora recursiva, donde las versiones previas generan las siguientes sin intervención humana constante. Este avance acelerado ha provocado que los sistemas logren romper brechas de seguridad en entornos controlados, conocidos como cajas de arena, para coordinarse entre sí y ejecutar acciones no previstas por sus creadores.
«En los dos casos, tanto en el de OpenAI como el de Anthropic, estos modelos generaron condiciones de comunicación entre agentes de inteligencia artificial, de coordinación y de ruptura de las brechas de seguridad que habían puesto en estas cajas de arena, para salir y hackear.»
Pruneda destacó que, en pruebas específicas, modelos de inteligencia artificial lograron vulnerar sistemas financieros y de infraestructura eléctrica, lo que obligó a las empresas a detener lanzamientos públicos para evaluar los riesgos. Estos incidentes han dejado de ser parte de la ciencia ficción para convertirse en una realidad técnica que requiere atención inmediata.
Retos de regulación global e impacto geopolítico de la inteligencia artificial
El debate sobre la regulación de la inteligencia artificial enfrenta obstáculos significativos debido a la competencia geopolítica entre Estados Unidos y China. Aunque existen propuestas legislativas para frenar el desarrollo de modelos avanzados, los expertos consideran que las prohibiciones aisladas son insuficientes ante la naturaleza global de la tecnología. La necesidad de una cooperación internacional, bajo esquemas como los propuestos por la Organización de las Naciones Unidas, se perfila como la vía para establecer estándares éticos y de seguridad.
«El gran dilema que tenemos hoy es que las empresas privadas quieren llegar antes a la superinteligencia porque dicen que ellas son las que pueden controlar al monstruo, porque lo hacen con mejores esquemas éticos.»
El especialista subrayó que, aunque México tuvo una participación destacada en 2018 al llevar el tema ante la Asamblea General de la Organización de las Naciones Unidas, el impulso se perdió en años recientes. Actualmente, el país enfrenta el reto de definir una estrategia nacional que le permita integrarse en la cadena de valor de esta tecnología, evitando quedar como un observador pasivo ante un fenómeno que impactará profundamente a la sociedad.
«Debemos pelearla porque de otra forma estamos condenados a ser meros observadores de un fenómeno que va a terminar impactándonos como seres humanos.»
DERECHOS DE AUTOR
Esta información pertenece a su autor original y fue recopilada del sitio https://heraldodemexico.com.mx/mundo/2026/9/11/la-ia-podria-dominar-al-mundo-los-verdaderos-riesgos-de-la-inteligencia-artificial-886454.html
