Microsoft desarrolla una superinteligencia humanista que promete no dañar a la humanidad

Microsoft trabaja en el desarrollo de una “superinteligencia humanista” (HSI, por sus siglas en inglés) diseñada explícitamente para “servir a la humanidad”. Con ese propósito, la compañía formó el Equipo de Superinteligencia MAI, que es liderado por Mustafa Suleyman, jefe de Microsoft AI.

Las intenciones de la empresa fueron compartidas por el propio Suleyman mediante una publicación en el blog corporativo, en la que explicó que la HSI no es una entidad ilimitada con altos grados de autonomía, sino “una IA cuidadosamente calibrada, contextualizada y con límites definidos”. Añadió: «Queremos explorar y priorizar cómo las formas más avanzadas de inteligencia artificial pueden mantener a la humanidad al mando, al tiempo que aceleramos nuestro camino hacia la solución de los desafíos globales más apremiantes”.

El ejecutivo resaltó que, al desarrollar una IA humanista, Microsoft rechaza las narrativas sobre una carrera hacia la inteligencia artificial general (IAG). “Creemos que este enfoque ayudará a la humanidad a aprovechar casi todos los beneficios de la IA, evitando al mismo tiempo los riesgos más extremos”, añadió.

En una primera etapa, la HSI estará habilitada para tres aplicaciones prácticas específicas. En principio, podrá funcionar como un compañero de IA “económico” que ayude a las personas “a aprender, actuar, ser productivas y sentirse apoyadas”. También ofrecerá asistencia al sector salud, pues contará con “un rendimiento de nivel experto en todo el espectro de diagnósticos, junto con planificación y predicción altamente capaces en entornos clínicos operativos”. Finalmente, servirá como herramienta para crear, gestionar y optimizar el diseño e implementación de nuevos avances científicos en energías limpias y reducción de emisiones de carbono.

Suleyman afirma que la HSI mantiene a los humanos al mando y al centro en todo momento. Indica que está optimizada para dominios específicos, con “restricciones reales a la autonomía”, con la intención de evitar riesgos y promover el desarrollo continuo de la humanidad. “Es una IA al servicio de las personas, una IA subordinada y controlable, que no abrirá la caja de Pandora”, asegura.

El anuncio de estos planes se produce luego de que Microsoft y OpenAI ajustaran los acuerdos de su alianza estratégica. En enero de 2023, Microsoft invirtió más de 10,000 millones de dólares en OpenAI, convirtiéndose en su principal inversor. Gracias a ese acuerdo, obtuvo derechos exclusivos para integrar los modelos de la startup en sus servicios en la nube (Azure) y en aplicaciones como Word y Excel. A cambio, OpenAI accedió a recursos esenciales para su investigación y desarrollo.

La modificación reciente permite a la creadora de ChatGPT, entre otras cosas, llegar a acuerdos con diferentes proveedores de software y hardware para dar soporte a sus sistemas de IA. Por su parte, la firma con sede en Redmond ganó la facultad de “desarrollar la IAG de forma independiente, ya sea sola o en colaboración con terceros”. Aunque el jefe de IA de Microsoft reitera que la empresa no busca desarrollar sistemas de IAG, la relación entre ambas compañías se ha vuelto cada vez más competitiva, y este tipo de proyectos no hará más que incrementar la rivalidad.