Un pastor de Nueva Zelanda advirtió sobre el dominio de la IA hace más de 160 años

La carta de Butler profundizaba en la taxonomía de la evolución de las máquinas, analizando los «géneros y subgéneros» mecánicos y señalando ejemplos como la evolución de los relojes a partir de los «engorrosos relojes del siglo XIII», sugiriendo que, como algunos vertebrados primitivos, las especies mecánicas podrían hacerse más pequeñas a medida que se volvían más sofisticadas. Amplió estas ideas en su novela de 1872 Erewhon, que describía una sociedad que había prohibido la mayoría de los inventos mecánicos. En su sociedad ficticia, los ciudadanos destruían todas las máquinas inventadas en los 300 años anteriores.

Las preocupaciones de Butler sobre la evolución de las máquinas recibieron reacciones mixtas, según Butler en el prefacio a la segunda edición de Erewhon. Algunos críticos, dijo, interpretaron su obra como un intento de satirizar la teoría evolutiva de Darwin, aunque Butler lo negó. En una carta a Darwin en 1865, Butler expresó su profundo aprecio por El origen de las especies, escribiendo que lo «fascinaba profundamente» y explicó que había defendido la teoría de Darwin contra los críticos en la prensa de Nueva Zelanda.

Lo que hace que la visión de Butler sea particularmente notable es que estaba escribiendo en un contexto tecnológico muy diferente, cuando los dispositivos informáticos apenas existían. Si bien Charles Babbage había propuesto su máquina analítica teórica en 1837 (una computadora mecánica que utilizaba engranajes y palancas que nunca se construyó durante su vida), los dispositivos de cálculo más avanzados de 1863 eran poco más que calculadoras mecánicas y reglas de cálculo.

Butler extrapoló a partir de las máquinas simples de la Revolución Industrial, donde la automatización mecánica estaba transformando la fabricación, pero no existía nada parecido a las computadoras modernas. La primera computadora controlada por un programa en funcionamiento no aparecería hasta 70 años después, lo que hace que sus predicciones sobre la inteligencia artificial sean sorprendentemente proféticas.

Algunas cosas nunca cambian

El debate que inició Butler continúa hoy. Hace dos años, el mundo se enfrentó a lo que se podría llamar el «gran susto de la toma de control de la IA de 2023». El GPT-4 de OpenAI acababa de ser lanzado y los investigadores evaluaron su «comportamiento de búsqueda de poder», haciéndose eco de las preocupaciones sobre la posible autorreplicación y la toma de decisiones autónoma.

El lanzamiento de GPT-4 inspiró varias cartas abiertas firmadas por investigadores de IA y ejecutivos de tecnología que advertían sobre los posibles riesgos de extinción que planteaba la inteligencia artificial avanzada. Una de las cartas, que recordaba los temores sobre las armas nucleares o las pandemias, pedía una pausa global en el desarrollo de la IA. Casi al mismo tiempo, el director ejecutivo de OpenAI, Sam Altman, testificó sobre los peligros de la IA ante el Senado de Estados Unidos.

Un año después, el legislador de California, Scott Wiener, propuso un proyecto de ley para regular la IA, respaldado por figuras prominentes que los críticos etiquetaron como «agoreros de la IA», aquellos que temían la progresión descontrolada de la inteligencia artificial. Los opositores al proyecto de ley argumentaron que tales medidas eran exageradas y podían sofocar la innovación, tal como lo había hecho la sociedad ficticia de Butler. Sin embargo, su llamado del siglo XIX a detener el progreso mecánico tiene un parecido sorprendente con cartas abiertas y propuestas de políticas recientes sobre la seguridad de la IA.