RAG Local
Contenido de este artículo
- Qué es RAG y por qué resulta útil.
- Los pasos individuales: chunking, embedding, almacenamiento, consulta.
- Enlaces a todos los artículos sobre RAG.
Introducción
RAG (Retrieval-Augmented Generation) permite integrar tus propios documentos en modelos de lenguaje. En lugar de responder basándose en conocimiento general, el modelo accede a contenido que has cargado. Al ejecutarlo localmente, tus datos permanecen en tu propia red.
Contenido
- Fundamentos de RAG - Estructura, flujo de trabajo y casos de uso típicos.
- Chunking - Cómo dividir documentos en partes significativas.
- Modelos de embedding - Cómo convertir texto en vectores.
- Bases de datos vectoriales - Soluciones de almacenamiento como Chroma y Qdrant.
- RAG vs. Ventana de contexto - Cuándo vale la pena RAG y cuándo es suficiente una ventana de contexto grande.
- Preparar documentos - Formatos, limpieza y estructuración para datos RAG limpios.
- PDF y OCR - Hacer que documentos escaneados sean utilizables con Tesseract y reconocimiento de diseño.
- Reranking - Cross-encoders y rerankers para mejores resultados en RAG.
- Búsqueda híbrida - Combinar búsqueda semántica y léxica.
- Atribuciones de fuentes - Respuestas trazables con metadatos y citas.
- Probar la calidad de RAG - Métricas como recall, precision y RAGAS.
- Actualizar la base de conocimiento - Mantener, actualizar y versionar datos RAG.
- Tutoriales de RAG - Guías paso a paso con código Python.
Términos clave
| Término | Significado |
|---|---|
| Chunking | División de texto en fragmentos de búsqueda |
| Embedding | Representación vectorial de texto |
| Base de datos vectorial | Almacenamiento para embeddings con búsqueda de similitud |
| Retrieval | Búsqueda de partes de documentos relevantes |
Preguntas frecuentes
¿Puedo ejecutar RAG completamente en local?
Sí. Ollama para modelos, Chroma o Qdrant para bases de datos vectoriales y documentos locales son suficientes para un stack RAG completamente local.
¿Cuánto cuesta RAG local?
Principalmente hardware y electricidad. El software es open source. Sin costos de API recurrentes.