Alguien experimentó con un procesador de 1997 y demostró que solo es necesario tener 128 MB de RAM para aprovechar la IA

Sin duda, la inteligencia artificial se ha convertido en uno de los avances tecnológicos más populares en la actualidad. Esto ha llevado a que se experimente con ella de múltiples formas, desde escenarios donde se les otorga cierto grado de autonomía a robots capaces de “convencer” a otros de renunciar a sus tareas, hasta su integración en entornos corporativos.

En este último caso, existen ejemplos donde empresas han decidido implementar herramientas de inteligencia artificial directamente en sus operaciones. En contextos reales, esto ha derivado en decisiones drásticas, como la eliminación de hasta el 90% de sus plantillas laborales con el objetivo de sustituir al personal humano por sistemas automatizados.

Ahora, un nuevo experimento demuestra que los modelos de lenguaje pueden ejecutarse en computadoras considerablemente antiguas. De acuerdo con TechSpot, un grupo de investigadores logró hacer funcionar un modelo basado en Llama 2 en una PC con Windows 98, equipada con un procesador Pentium II a 350 MHz, 128 MB de RAM y lanzado originalmente en mayo de 1997.

El experimento fue posible gracias al trabajo de Andrej Karpathy, de la empresa EXO Labs, conformada por ingenieros e investigadores de la Universidad de Oxford y dedicada a «democratizar el acceso a la IA». Utilizando su código, el modelo alcanzó un rendimiento de 39.31 tokens por segundo, donde utilizó apenas 260,000 parámetros en un dispositivo con capacidades muy limitadas.

El componente clave en este logro fue BitNet, una arquitectura que emplea pesos ternarios, lo que reduce drásticamente el tamaño de los modelos. Gracias a ello, es posible utilizar un modelo de 7,000 millones de parámetros con solo 1.38 GB de almacenamiento. Esto permite su uso en hardware más accesible y optimizado para funcionar directamente en la CPU, sin necesidad de tarjetas gráficas de alto costo.

Desde EXO explican que, al priorizar el procesamiento vía CPU, esta arquitectura puede ser hasta un 50% más eficiente que los modelos de precisión completa. Incluso se podría ejecutar un modelo con 100,000 millones de parámetros en una sola CPU, a velocidades que se aproximan a la lectura humana.

Este enfoque, señala el medio, representa un avance clave para aumentar la accesibilidad de este tipo de tecnologías. Al permitir que modelos avanzados funcionen en equipos modestos, se abren nuevas posibilidades para integrar inteligencia artificial en más dispositivos, productos y contextos alrededor del mundo.