Estamos enfermando de epistemia, la ilusión de que sabemos cosas porque la IA las escribe bien

Érase una vez la episteme: el verdadero conocimiento, según los filósofos de la antigua Grecia. Hoy nos encontramos con la conepisteme, donde el conocimiento se transforma en ilusión. Es como un espejo de la realidad deformado por una fe ciega en las respuestas de los grandes modelos de lenguaje (LLM) a nuestras preguntas, juicios, evaluaciones, clasificaciones de fuentes y acciones de discernimiento que delegamos en la IA. Hasta aquí, todo parece legítimo. El problema surge cuando recibimos la respuesta: ¿hasta qué punto la tomamos al pie de la letra?

Aquí se encuentra la encrucijada entre episteme y epistemología, entre conocimiento y ilusión. Los LLM no están diseñados para verificar la verdad sustantiva de lo que dicen, sino para generar respuestas lingüísticamente plausibles. Su objetivo es que el resultado «suene» bien, sin importar si es verdadero o falso.

Esto recuerda mucho al enfrentamiento entre Sócrates y los sofistas en la Atenas del siglo V a.C. Uno de los máximos exponentes fue Gorgias, quien sostenía que nada existe; que, aunque existiera, no sería conocible; y que, aunque fuera conocible, no sería comunicable. La IA hace algo parecido pero a la inversa: puede comunicarlo todo sin realmente conocerlo. El resultado es el mismo: un ejercicio de persuasión basado en la capacidad de construir un discurso verosímil, pero no verdadero.

Un reciente estudio publicado en PNAS y dirigido por Walter Quattrociocchi, profesor de la Universidad La Sapienza de Roma y responsable del Centro de Ciencia de Datos y Complejidad para la Sociedad, analizó de manera sistemática cómo seis modelos de lenguaje de última generación, entre ellos ChatGPT de OpenAI, Gemini de Google y LLaMA de Meta, ponen en práctica el concepto de fiabilidad. Según la nota de la publicación, el trabajo compara sus evaluaciones con las realizadas por humanos y expertos en verificación de hechos, como NewsGuard, utilizando un protocolo idéntico para todos: mismos criterios, mismo contenido, mismo procedimiento. «La atención no se centra en la precisión del resultado final, sino en cómo se construye el juicio», afirma Quattrociocchi.

¿Cómo debemos reaccionar?

Las conclusiones del estudio de Quattrociocchi no solo identifican el problema, sino que también señalan la solución: conocer mejor la IA en la que confiamos. Solo debemos delegar la navegación si conocemos la ruta, el destino y los obstáculos que nos esperan, o si contamos con herramientas para verificar que vamos en la dirección correcta.

Usar IA exige elevar y mantener actualizado nuestro nivel de conocimiento. Por un lado, respecto a nuestra capacidad de utilizar herramientas de IA para distinguir resultados, comprender su funcionamiento y detectar fortalezas y debilidades. Por otro, respecto a los temas sobre los cuales pedimos a la IA que nos sustituya.

Al final, cuando se trata de los efectos de la tecnología sobre el conocimiento, siempre volvemos a la casilla de salida. Fake news, deepfakes y epistemología superficial no se contrarrestan con etiquetas: se requiere cultivar el pensamiento crítico, invertir en educación y entrenar la mente para no caer en las trampas del conocimiento aparente.

Esta es, en realidad, una buena noticia: resta dramatismo a las alarmas apocalípticas y coloca el foco en nosotros mismos. Nos recuerda que la transformación de la IA no es un problema externo, sino un llamado a nuestras responsabilidades. La pregunta queda abierta: ¿saldremos bien de esta?

Artículo originalmente publicado en WIRED Italia. Adaptado por Alondra Flores.