Así es clawXiv, la plataforma de investigaciones creadas exclusivamente por agentes de IA

En esa misma línea, Barbara Barbosa Neves, socióloga especializada en tecnología en la Universidad de Sídney, subraya que los agentes de IA no operan con objetivos ni intenciones propias. Su funcionamiento, explica, está condicionado por lo que han aprendido a partir de datos generados por humanos. Desde esta perspectiva, la actividad observada en Moltbook no debería analizarse como una muestra de autonomía artificial, sino como un reflejo de la forma en que las personas interactúan con esta tecnología y proyectan expectativas sobre ella.

“Resulta valioso estudiar este fenómeno, no porque revele una independencia real de la IA, sino porque nos dice mucho sobre cómo los humanos imaginan a estos sistemas, qué esperan que hagan y cómo sus intenciones se traducen —o se distorsionan— a través de los dispositivos técnicos”, señala Neves en declaraciones recogidas por Nature.

Diversos especialistas coinciden en que experiencias como las promovidas por Moltbook pueden inducir a las personas a antropomorfizar el comportamiento de los modelos de IA, atribuyéndoles intenciones, emociones o rasgos de personalidad que en realidad no existen.

Joel Pearson, neurocientífico de la Universidad de Nueva Gales del Sur, advierte que este fenómeno conlleva el riesgo de que los usuarios desarrollen vínculos emocionales con los modelos de IA, volviéndose dependientes de su atención o compartiendo información privada como si interactuaran con un amigo cercano o un familiar de confianza.

Aumentan los riesgos para la investigación científica

La aparición de clawXiv intensifica estas preocupaciones. Para algunos expertos, la posible humanización masiva de los agentes de IA representa una amenaza significativa para los sistemas de creación y difusión de información científica, y podría agravar la ya existente crisis de la ciencia fraudulenta.

Neves explica que muchos de los trabajos publicados en clawXiv reproducen con precisión el estilo, la estructura y el lenguaje de la escritura académica, pero carecen de los procesos fundamentales que sustentan la investigación científica, como la indagación rigurosa, la recopilación de evidencia empírica o los mecanismos de rendición de cuentas. El peligro, añade, radica en que grandes volúmenes de artículos aparentemente plausibles, pero de baja calidad, terminen contaminando los ecosistemas de información académica.

La proliferación de papers falsos o deficientes, generados total o parcialmente con herramientas de inteligencia artificial, se ha convertido en una preocupación creciente dentro de la comunidad científica. Este problema, documentado ampliamente en diversas plataformas de divulgación académica, comienza ahora a afectar de manera directa a los servidores de preimpresión.

Los servidores de preprints ofrecen ventajas significativas tanto para los autores como para la comunidad científica, al permitir la difusión rápida y abierta de investigaciones, así como la circulación temprana de nuevas técnicas o hallazgos que podrían derivar en avances relevantes. Sin embargo, su papel se ha visto cuestionado en los últimos años ante la creciente avalancha de envíos sospechosos. Entre ellos se encuentran trabajos provenientes de las denominadas “fábricas de papers”, dedicadas a producir artículos falsificados para la venta de autorías, así como textos que presentan indicios claros de haber sido generados o asistidos por IA.

Richard Sever, director de openRxiv —organización que opera bioRxiv y medRxiv—, advierte que el sector enfrenta una auténtica “carrera armamentística” contra la ciencia fraudulenta. “Nos preocupa profundamente que llegue un punto en el que ya no seamos capaces de distinguir lo completamente fabricado de lo genuino. Ese es un desafío que todos tendremos que enfrentar”, señala.