Qué es el RAG
También se dice generación aumentada por recuperación, retrieval-augmented generation o generación aumentada con recuperación.
En dos frases
Técnica que, antes de que un modelo de lenguaje responda, busca en documentos o bases de datos los fragmentos relevantes y se los da como contexto, para que conteste con esa información y pueda citar su origen.
- Nivel
- Básico
- Actualizado
Definición amplia
El RAG (del inglés retrieval-augmented generation, generación aumentada por recuperación) combina dos piezas: un buscador que localiza información en una fuente externa al modelo y un modelo de lenguaje que redacta la respuesta con lo encontrado. El término procede de un artículo de Lewis y otros investigadores publicado en 2020, que unía la memoria paramétrica del modelo, lo aprendido en sus pesos, con una memoria no paramétrica: un índice de documentos que se puede consultar.
Cómo funciona
- Preparación: los documentos se dividen en fragmentos y se indexan, normalmente como embeddings en una base de datos vectorial, aunque también se usa la búsqueda por palabras o una combinación de ambas.
- Recuperación: ante cada pregunta, el sistema busca los fragmentos más relacionados.
- Generación: esos fragmentos se añaden a la petición y el modelo responde a partir de ellos, a menudo con citas a la fuente.
Por qué importa en la empresa
Permite que un asistente responda con información propia y actualizada (políticas internas, catálogos, contratos, procedimientos) sin reentrenar el modelo, algo que IBM señala como más barato que el reentrenamiento o el fine-tuning. Como la respuesta se apoya en documentos concretos, se pueden mostrar las fuentes y comprobarlas, y basta con actualizar los documentos para que el asistente use la versión vigente.
Límites
IBM advierte de que el RAG reduce el riesgo de alucinaciones, pero no hace al modelo infalible, y de que la base documental debe actualizarse de forma continua. La calidad depende de la búsqueda y de los documentos; si están desactualizados, duplicados o mal divididos, la respuesta lo hereda. Además, la base documental es un activo más que proteger, y conviene que el sistema respete los permisos de cada documento para que nadie obtenga a través del asistente lo que no podría consultar directamente.
Ejemplos de uso
Atención al cliente
En atención al cliente, se usa para que el asistente responda con las condiciones, tarifas y procedimientos vigentes y cite el documento de origen.
Recursos humanos y talento
En recursos humanos, permite consultar en lenguaje natural el convenio, el calendario laboral o las políticas internas.
Comercial y ventas
En ventas, sirve para preparar respuestas a licitaciones o cuestionarios técnicos a partir de documentación de producto ya aprobada.
Administración y finanzas
En administración y finanzas, ayuda a localizar cláusulas e importes en contratos y procedimientos internos, con la referencia al documento del que salen.
Dirección y estrategia
En dirección, es una de las arquitecturas con las que se construyen los asistentes internos que responden con el conocimiento documentado de la empresa.
Términos relacionados
Fuentes
Del término a aplicarlo en tu empresa.
Lo que explica este glosario se trabaja en los programas de Kynetik, área por área.