Un ingenioso truco de software busca contrarrestar las mentiras de la IA

Si alguna vez has usado una herramienta de inteligencia artificial generativa, te ha mentido. Probablemente varias veces.

Estas fabricaciones recurrentes suelen denominarse “alucinaciones de la IA”, y los desarrolladores trabajan febrilmente para que las herramientas de IA generativa sean más fiables, controlando estas desafortunadas mentiras. Uno de los enfoques más populares para reducir las alucinaciones de la IA, y que está ganando popularidad rápidamente en Silicon Valley, se denomina generación aumentada por recuperación (RAG, por Retrieval Augmented Generation).

¿Qué es la generación aumentada por recuperación (RAG)?

El proceso RAG es bastante complicado, pero en un nivel básico aumenta sus indicaciones mediante la recopilación de información de una base de datos personalizada, y luego el gran modelo de lenguaje genera una respuesta con base en esos datos. Por ejemplo, una empresa puede cargar todas sus políticas y beneficios de RR HH en una base de datos RAG y hacer que el chatbot de IA se centre en las respuestas que se pueden encontrar en esos documentos.

Entonces, ¿en qué se diferencia este proceso de una salida estándar de ChatGPT? Le pregunté a Pablo Arredondo, que ha estado utilizando el método RAG para desarrollar aspectos de CoCounsel, una herramienta de IA para profesionales jurídicos proporcionada por Thomson Reuters. “En lugar de limitarse a responder con base en los recuerdos codificados durante el entrenamiento inicial del modelo”, aclara, “se utiliza el motor de búsqueda para extraer documentos reales, ya sea jurisprudencia, artículos o lo que se quiera, y luego anclar la respuesta del modelo a esos documentos”.

Por ejemplo, podríamos cargar toda la historia de WIRED, todas las revistas impresas y los artículos de la web desde 1993, en una base de datos privada y crear una implementación RAG que haga referencia a estos documentos cuando responda a las preguntas de los lectores. Al dar a la herramienta de IA un enfoque limitado, así como información de calidad, el chatbot complementado con RAG sería más hábil que un chatbot de propósito general a la hora de responder preguntas sobre WIRED y otros temas relevantes. ¿Seguiría cometiendo errores y a veces malinterpretando los datos? Por supuesto que sí. Pero las probabilidades de que fabrique artículos enteros que nunca existieron se reducirían definitivamente.

Un entrenamiento mejor

“Al entrenar el modelo, se le está recompensando para que intente escribir algo en lo que cada afirmación factual pueda atribuirse a una fuente”, apunta Patrick Lewis, responsable de modelado de IA en Cohere, quien ayudó a desarrollar el concepto de RAG hace unos años. Si se enseña al modelo a clasificar eficazmente los datos proporcionados y a utilizar citas en cada resultado, es menos probable que la herramienta de IA cometa errores garrafales”.

Sin embargo, el grado exacto en que RAG reduce las alucinaciones de la IA es un punto de controversia para investigadores y desarrolladores. Lewis eligió cuidadosamente sus palabras durante nuestra conversación y describió los resultados de RAG como “poco alucinantes”, en lugar de libres de alucinaciones. El proceso no es en absoluto una panacea que elimine todos los errores cometidos por la IA.

Durante las conversaciones con varios expertos, quedó claro que la medida en que la RAG reduce las alucinaciones depende de dos cosas fundamentales: la calidad de la implementación general de RAG y cómo se decida definir las alucinaciones de la IA, un término a veces difuso y sin una definición firme.

Esta información pertenece a su autor original y se encuentra disponible en: https://es.wired.com/articulos/ingenioso-truco-software-contrarrestar-mentiras-ia

case studies

See More Case Studies

Contact us

Partner with Us for Comprehensive IT

We’re happy to answer any questions you may have and help you determine which of our services best fit your needs.

Your benefits:
What happens next?
1

We Schedule a call at your convenience 

2

We do a discovery and consulting meting 

3

We prepare a proposal 

Schedule a Free Consultation