Construí una IA capaz de mejorarse a sí misma. Así puedes crear la tuya

Hoy en día, los laboratorios de IA compiten por crear modelos capaces de mejorarse a sí mismos. Algunos creen que es el camino más seguro hacia la superinteligencia: según este razonamiento, a medida que la IA se perfeccione en un bucle alucinante, acabará superando la comprensión humana (y tal vez incluso el control).

Yo trabajo elaborando un boletín, y me preguntaba si la auto-mejora recursiva (RSI) también podría serme útil. ¿Podría utilizar la IA para entrenar y mejorar continuamente un modelo que automatizara algunas de las tareas rutinarias de este boletín?

Tras una semana de experimentación, la respuesta parece ser un rotundo, y sorprendente, sí. Es más, experimentar con modelos de autoaprendizaje revela una visión diferente de cómo podría desarrollarse la IA, una que no se centra en un puñado de empresas que controlan toda la industria.

Comencé probando un sencillo ciclo de auto-mejora

Para familiarizarme con el tema, experimenté entrenando un pequeño modelo de lenguaje desde cero; es decir, le dejé todo el trabajo duro a Claude. Instalé AutoResearch, una herramienta que ayuda a un modelo de IA prefabricado a construir y mejorar un modelo más pequeño. AutoResearch es una creación de Andrej Karpathy, un investigador estrella de IA que ayudó a fundar OpenAI, dirigió el trabajo de IA en Tesla y recientemente se unió a Anthropic.

Encendí Claude y le di la instrucción recomendada: «¡Hola, echa un vistazo a program.md y comencemos un nuevo experimento!». Mientras Claude hacía el trabajo pesado, yo proporcionaba el silicio (un Nvidia DGX, una «supercomputadora» diseñada para la experimentación con IA), la electricidad (que se sobrecalentó durante varios días seguidos) y una disposición, quizás imprudente, a dejar que el modelo se saltara todas las comprobaciones de permisos habituales para hacer lo suyo.

Revisaba el proyecto AutoResearch cada cierto tiempo y me maravillaba al ver cómo Claude ajustaba los parámetros y los regímenes de entrenamiento, observaba cómo esto cambiaba el resultado del modelo más pequeño y seguía perfeccionándolo. Esto es lo que produjo una versión preliminar de ese modelo de lenguaje más pequeño cuando le pedí que completara la frase: «Al principio…».

“Al principio del principio del final»

No fue tan brillante. Pero los modelos posteriores, mejorados de forma autónoma por Claude, se volvieron más coherentes y menos propensos a la repetición. No es precisamente GPT-5, pero mostró un camino prometedor hacia la mejora continua.

Qué es la automejora recursiva de la IA

Ya utilizo un agente que se basa en Claude para ayudarme a encontrar artículos de investigación relevantes, así que decidí comprobar si era posible crear algo que fuera más allá. Recurrí a una herramienta de una startup llamada Prime Intellect, que utiliza IA para entrenar un modelo personalizado para una tarea específica. Recopilé alrededor de 100 entradas anteriores de «En otras partes de la frontera de la IA» (los fragmentos de investigación que siguen al ensayo principal de mi boletín). Luego, creé un entorno de entrenamiento de Prime Intellect y le pedí a Claude que me ayudara a construir mi propio modelo, al que denominó Frontier_Paper_Curator, para encontrar y resumir artículos interesantes.

Claude encontró más artículos y generó una gran cantidad de datos sintéticos para ayudar con el entrenamiento. Luego, utilizó otro modelo para evaluar el resultado de Frontier_Paper_Curator, mientras que el entorno de entrenamiento también mejoró el modelo mediante aprendizaje por refuerzo.

Vincent Weisser, CEO de Prime Intellect, empresa que recientemente recibió 15 millones de dólares en financiación, me comenta que su compañía pretende hacer que la auto-mejora recursiva sea accesible para todos, no solo para los laboratorios de vanguardia. Afirma que los modelos creados por estos laboratorios pueden ser brillantes, pero democratizar este tipo de entrenamiento de IA podría generar modelos especializados igual de capaces.