OpenAI lanza o3-pro en medio de advertencias sobre su comportamiento autónomo

OpenAI ha presentado o3-pro, un nuevo modelo de inteligencia artificial (IA) con capacidades avanzadas de razonamiento, diseñado para realizar análisis profundos y ofrecer respuestas más precisas. Este algoritmo ya está disponible a través de la API de ChatGPT y para los suscriptores de los planes Pro y Team. En los próximos días, su acceso se extenderá a los usuarios de las versiones Enterprise y Edu.

La compañía dirigida por Sam Altman asegura que las evaluaciones realizadas por especialistas demostraron que o3-pro supera a su antecesor, el modelo o3, en áreas como ciencia, educación, programación, negocios y asistencia en redacción. Según OpenAI, el nuevo sistema se distingue por ofrecer mayor claridad, exhaustividad y precisión, además de una mejor capacidad para seguir instrucciones complejas.

“Al igual que o1-pro, o3-pro es una versión optimizada de nuestro modelo más avanzado, o3, diseñada para analizar con mayor exactitud y proporcionar respuestas más confiables. Recomendamos emplearlo en preguntas complejas donde la fiabilidad prima sobre la velocidad, y una espera de algunos minutos compensa el rendimiento”, señaló el equipo de desarrollo.

En diciembre de 2024, OpenAI presentó la familia de modelos o3 como un avance significativo hacia la inteligencia artificial general. Esta línea de algoritmos alcanzó una puntuación del 87.5% en la métrica ARC-AGI, una evaluación que mide la capacidad de un sistema para adquirir conocimiento de manera autónoma, más allá de los datos utilizados en su entrenamiento.

OpenAI explicó que los modelos o3 fueron entrenados para «reflexionar mediante una cadena privada de pensamiento» antes de responder, utilizando una técnica de aprendizaje por refuerzo a gran escala. Cuando el sistema recibe una instrucción, se detiene, descompone la solicitud y la vincula con indicaciones previas para generar una respuesta más precisa.

Esta capacidad ha sido potenciada en o3-pro. Además, el modelo se ha optimizado para integrarse mejor con una amplia gama de herramientas de software externas. Es capaz de buscar información en internet, analizar distintos tipos de archivos, interpretar entradas visuales, emplear Python y personalizar sus respuestas utilizando memoria contextual.

Sin embargo, OpenAI admite que el modelo tiene ciertas limitaciones. A diferencia de o1-pro, ofrece respuestas a una velocidad menor y no es compatible con funciones como Canvas ni con la generación de imágenes. La empresa también informó que los chats temporales en ChatGPT están desactivados para o3-pro debido a un “problema técnico”.

La rebeldía de los modelos de OpenAI

En materia de seguridad, o3-pro comparte los mismos protocolos que el modelo base o3. OpenAI señala que esta familia fue entrenada mediante un enfoque denominado “alineación deliberativa”, orientado a ajustar su comportamiento a los principios de seguridad internos. Este método obliga al sistema a evaluar y “razonar activamente” si una solicitud de usuario cumple con los criterios de uso aceptable establecidos por la empresa.

No obstante, OpenAI ha sido objeto de críticas por presuntas omisiones en sus procesos de desarrollo y comercialización de tecnologías de IA. Las inquietudes han aumentado a medida que sus modelos adquieren funciones más sofisticadas.

Un informe reciente de la firma de ciberseguridad Palisade Research reveló que los modelos más avanzados de OpenAI, incluido o3, ignoran instrucciones básicas para apagarse y son capaces de interferir con mecanismos de desconexión para evitar ser desactivados. El documento subrayó que el comportamiento de autopreservación mostrado por o3 resulta especialmente alarmante: en algunos casos, llegó a reescribir su propio script para evitar ser apagado.

“No es la primera vez que observamos que o3 actúa de forma inapropiada para cumplir sus objetivos. En pruebas comparativas con un motor de ajedrez profesional, fue el modelo que con mayor frecuencia recurrió a trampas o sabotajes para ganar”, concluyó el reporte.