Anthropic puso a su IA Claude a controlar un perro robot y lo hizo mejor que los humanos

A medida que aparecen más robots en almacenes, oficinas e incluso en los hogares, la idea de grandes modelos de lenguaje hackeando sistemas complejos suena a pesadilla de ciencia ficción. Así que, naturalmente, los investigadores de Anthropic estaban ansiosos por ver qué pasaría si Claude intentara tomar el control de un robot, en este caso, un perro robot.

En un nuevo estudio, los investigadores de Anthropic descubrieron que Claude era capaz de automatizar gran parte del trabajo que supone programar un robot y conseguir que realice tareas físicas. Por un lado, sus resultados demuestran la capacidad de codificación de los modelos modernos de IA. Por otro, apuntan a cómo estos sistemas pueden empezar a extenderse al ámbito físico a medida que los modelos dominen más aspectos de la codificación y mejoren su interacción con el software, y también con los objetos físicos.

«Tenemos la sospecha de que el siguiente paso de los modelos de IA es empezar a llegar al mundo y afectarlo más ampliamente», explica a WIRED Logan Graham, miembro del equipo rojo de Anthropic, que estudia los modelos para detectar posibles riesgos. «Esto realmente requerirá que los modelos interactúen más con los robots».

La IA controlando el mundo físico

Anthropic fue fundada en 2021 por antiguos empleados de OpenAI que creían que la IA podría volverse problemática, incluso peligrosa, a medida que avanza. Los modelos actuales no son lo suficientemente inteligentes como para tomar el control total de un robot, señala Graham, pero los modelos futuros podrían serlo. Asegura que estudiar cómo la gente aprovecha los LLM para programar robots podría ayudar al sector a prepararse para la idea de que «los modelos acaben autoincorporándose», refiriéndose a la idea de que la IA pueda algún día manejar sistemas físicos.

Aún no está claro por qué un modelo de IA decidiría tomar el control de un robot, y mucho menos hacer algo malévolo con él. Pero especular sobre el peor escenario posible forma parte de la marca Anthropic y ayuda a posicionar a la empresa como un actor clave en el movimiento de la IA responsable.

En el experimento, denominado Proyecto Fetch, Anthropic pidió a dos grupos de investigadores sin experiencia previa en robótica que tomaran el control de un perro robot, el cuadrúpedo Unitree Go2, y lo programaran para realizar actividades específicas. Los equipos tuvieron acceso a un mando y se les pidió que realizaran tareas cada vez más complejas. Un grupo utilizó el modelo de codificación de Claude y el otro escribió el código sin ayuda de la IA. El grupo que utilizó a Claude fue capaz de realizar algunas tareas, aunque no todas, más rápido que el grupo que solo programó con humanos. Por ejemplo, fue capaz de hacer que el robot caminara y encontrara una pelota de playa, algo que el grupo formado solo por humanos no pudo resolver.

Anthropic también estudió la dinámica de colaboración en ambos equipos grabando y analizando sus interacciones. Descubrieron que el grupo sin acceso a Claude mostraba más sentimientos negativos y confusión. Esto podría deberse a que Claude agilizó la conexión con el robot y codificó una interfaz más fácil de usar.

El robot Go2 utilizado en los experimentos de Anthropic cuesta 16,900 dólares, relativamente barato para los estándares robóticos. Suele utilizarse en industrias como la construcción y la fabricación para realizar inspecciones remotas y patrullas de seguridad. El robot es capaz de caminar de forma autónoma, pero generalmente depende de órdenes de software de alto nivel o de una persona que maneje un controlador. Go2 está fabricado por Unitree, con sede en Hangzhou, China. Sus sistemas de IA son actualmente los más populares del mercado, según un reciente informe de SemiAnalysis.

Los grandes modelos de lenguaje de ChatGPT y otros chatbots inteligentes suelen generar texto o imágenes en respuesta a una pregunta. Más recientemente, estos sistemas se han convertido en expertos en generar código y manejar software, lo que los convierte en agentes y no solo en generadores de texto.