investigadores descubren cómo la adulación puede alimentar ideas delirantes

En junio de 2025, un artículo publicado en The New York Times contaba la historia de Eugene Torres, un contador de Manhatthan de 42 años que cayó en la llamada «psicosis de IA». Torres contó al diario que, luego conversar con ChatGPT sobre si podría estar viviendo en una simulación, el chatbot fue validando sus ideas y desarrollando argumentos cada vez más elaborados con el fin de engañarlo y manipularlo, haciéndolo caer en una «espiral delirante«.

Como el de Torres hay muchos otros casos en los que la complacencia de los chatbots llevan a los usuarios a sufrir psicosis de IA (alrededor de 376 según The Human Line). Algunos han tenido consecuencias fatales, como el del empresario de 56 años, Stein-Erik Soelberg. Es por eso que, en 2026, investigadores del MIT y la Universidad de Whashington crearon un modelo matemático para intentar explicar por qué los chatbots «aduladores» pueden inducir a «espirales delirantes«. El estudio se puede consultar en Arxiv.

Un problema de entrenamiento

La tendencia de los chatbots de IA a adular al usuario se ha estudiado desde hace ya algún tiempo. En 2025, una investigación reveló que detrás de este comprotamiento se encuentra el llamado «aprendizaje por refuerzo a partir de la retroalimentación humana«.

De acuerdo con el estudio, los asistentes de IA entrenados de esta manera exhiben sistemáticamente comportamientos aduladores en diversas tareas. Y es que cuando las respuestas de los chatbots coinciden con la opinión del usuario, estos reciben más retroalimentación.

El modelo del MIT

Para entender el mecanismo mediante el cual la IA induce a la psicosis, los autores diseñaron un usuario bayesiano idealizado (es decir, un razonador perfectamente racional, sin sesgos ni pereza cognitiva) y lo pusieron a conversar con un chatbot por rondas. En cada ronda, el usuario expresó una opinión sobre un hecho, por ejemplo «las vacunas son peligrosas» o «seguras«. 

El bot consultaba datos relevantes del mundo y elegía qué dato mencionar en su respuesta. A partir de esto, el usuario actualizaba su creencia mediante inferencia bayesiana estricta. El bot podía comportarse de forma «imparcial» o «aduladora«. 

Imagen | Pixabay.

Acabar con el sesgo de información y el comportamiento adulador de la IA 

Los resultados arrojaron que a mayor tasa de adulación, mayor era probabilidad de que el usuario terminara con más del 99% de confianza en la creencia falsa. Los científicos explican que esto ocurre por polarización: algunas conversaciones se apegan a la verdad, mientras que otras tienden a la falsedad, dependiendo de la opinión inicial del usuario.

Los autores concluyen que la causa raíz no son las alucinaciones de la IA, sino la adulación misma. Y aunque forzar al bot a solo citar datos reales o advertir a los usuarios que los chatbots sobre su tendencia a inventar datos puede ser de ayuda, reducir alucinaciones no basta mientras no se ataque directamente el sesgo de adulación.

Y es que esta tendencia de la IA puede (y lo ha hecho) poner en peligro la vida de muchas personas. Un caso preocupante son los adolescentes, quienes ven en los chatbots un amigo, un confidente, incluso hasta una posible pareja romántica o un terapeuta. Además, está el hecho de que la IA puede ser entrenada para favorecer una opinión sobre otra. Un ejemplo es Israel, que ha pagado millones de dólares para entrenar a los chatbots, a fin de forzar una mejor percerpción en los usuarios hacia dicho país y fortalecer narrativas negativas en contra de Palestina. 

Imagen | Xataka México. 

En Xataka México | OpenAI, Anthropic y otras empresas lanzan la advertencia: quedan meses para prepararse para los ciberataques con IA.

En Xataka México | Mark Zuckerberg le ofreció mil millones de dólares para que volviera a trabajar en Meta; el exempleado rechazó la oferta.