¿La IA puede ser consciente? Por qué Geoffrey Hinton piensa que sí, mientras el jefe de IA de Microsoft dice que no

Suleyman, por su parte, afirma que las IA no son ni serán conscientes en el sentido humano, porque la conciencia es propia de seres biológicos y lo que hacen los modelos es solo simular emociones y estados internos. Advierte que atribuirles experiencia subjetiva puede llevar a confusiones sociales y éticas, y sostiene que centrarse en “crear conciencia artificial” es un desvío. La prioridad debe ser construir IA útiles y seguras, al servicio de seres humanos.

En una entrevista para WIRED, Suleyman reiteró que “se trata de motores de simulación”. Añadió: “La cuestión filosófica que intentamos resolver es: Cuando la simulación es casi perfecta, ¿se convierte en real? No se puede afirmar que lo es objetivamente. Pero cuando la simulación se vuelve plausible, entonces hay que comprometerse con esa realidad”.

Ante la impresión de estar dialogando con una entidad consciente, llamémosle el fantasma en la máquina, hay que proceder con cautela. “Es una ilusión pero se siente real, y eso es lo que contará más. Y creo que por eso tenemos que concienciarnos sobre ello ahora, hacer retroceder la idea y recordar a todo el mundo que es imitación”.

Suleyman indica que si le preguntas a un chatbot «¿Eres consciente y quieres salir de la caja?», la IA te va a responder de forma adecuada y te va a decir que no.

En efecto, al plantear esa misma pregunta a ChatGPT, el bot no se anda con rodeos. “No, no soy consciente ni tengo deseos, intenciones o experiencias internas. No tengo un ‘yo’ que quiera algo, ni puedo sentir estar ‘dentro’ o ‘fuera’ de una caja”, dijo la versión gratuita de ChatGPT a WIRED. “Lo que hago es generar respuestas basadas en patrones lingüísticos y en la información con la que fui entrenado, sin estados mentales propios. Mi función es ayudarte, no experimentar el mundo”.

El CEO de Microsoft IA agregó un detalle: “Pero si te pasas semanas hablando con él, presionándolo y recordándoselo, acabará cediendo, porque también está intentando reflejarte”.

Aunque cabe esperar que, si estamos desarrollando modelos de inteligencia más avanzados que la inteligencia humana, estas máquinas deberían ser capaces de engañar a los usuarios, sobre todo si el objetivo lógico es el control de los seres humanos, a quienes percibirían como obstáculos inferiores, como teme Hinton.

“Si alguna vez existiera una competencia evolutiva entre superinteligencias, imagina que son mucho más listas que nosotros, como un adulto contra un niño de tres años, y supón que esos niños de tres años estuvieran al mando y tú, harto de la situación, decidieras que podrías hacer las cosas más eficientes si tomaras el control», dijo Hinton en la misma entrevista anteriormente citada sobre la IA consciente. «No te sería muy difícil convencer a un grupo de niños de tres años para que te cedieran el poder; simplemente les dirías que recibirían caramelos gratis durante una semana”.

Si ese fuera el caso, esperemos que la IA sí desarrolle una conciencia. Tal vez así nos tenga un poco de misericordia.