Configurar RAG en Open WebUI
Qué cubre este artículo sobre RAG en Open WebUI
- Cómo funciona RAG en Open WebUI.
- Cómo se suben e indexan documentos.
- Cómo se configura la base de datos vectorial.
- Cómo acceder a tus propios documentos mediante chat.
- Configuraciones, optimización y problemas comunes.
Introducción: configurar RAG en Open WebUI
Open WebUI ofrece una forma sencilla de utilizar RAG de manera local. Los usuarios pueden subir documentos, la interfaz genera embeddings y los almacena en una base de datos vectorial. Durante la conversación, Open WebUI recupera fragmentos de texto relevantes y los inserta en el prompt. De este modo, el modelo responde preguntas basándose en tus propios documentos.
RAG en Open WebUI es especialmente atractivo para principiantes. No necesitas conocimientos de programación para hacer primeros experimentos. Para escenarios de producción, vale la pena comprender y ajustar los modelos de embedding, parámetros de chunking y configuraciones de recuperación.
¿Por qué necesito RAG en Open WebUI?
Los modelos de lenguaje solo conocen lo que aprendieron durante su entrenamiento. Les faltan tus propios documentos, procesos internos o datos especializados. RAG cierra esta brecha añadiendo fragmentos de texto relevantes al prompt. Así, el modelo puede:
- Responder preguntas sobre contratos,
- Explicar manuales,
- Resumir actas,
- Hacer referencia a documentos actuales,
- Proporcionar citas de fuentes.
RAG en Open WebUI explicado brevemente
El flujo de trabajo:
- Subir documento: PDF, TXT, Markdown o DOCX.
- Preparación: Open WebUI extrae el texto.
- Chunking: El texto se divide en secciones.
- Embedding: Un modelo de embedding genera vectores.
- Almacenamiento: Los vectores se guardan en la base de datos vectorial.
- Consulta: Durante el chat se buscan chunks similares.
- Respuesta: El modelo contesta la pregunta con contexto.
Términos importantes:
- Knowledge: En Open WebUI, una colección de documentos subidos.
- RAG Template: Prompt que incrusta el contexto.
- Chunk Size: Tamaño de los fragmentos de texto.
- Chunk Overlap: Solapamiento entre chunks.
- Top-K: Número de chunks más similares devueltos.
- Embedding-Modell: Modelo para generar vectores.
¿Para quién es RAG en Open WebUI?
- Para principiantes que quieran probar RAG sin escribir código.
- Para equipos que necesiten una IA de documentos rápidamente.
- Para pequeñas empresas con presupuesto limitado.
- Para equipos de soporte con FAQs.
- Para quienes prefieran mantener todo en local.
Términos clave relacionados con RAG en Open WebUI
- Ollama: Backend para modelos y embeddings.
- Chroma: Base de datos vectorial estándar en Open WebUI.
- BGE: Familia de modelos de embedding popular.
- nomic-embed-text: Embedding de código abierto de buena calidad.
- Query Expansion: Expandir la búsqueda.
- Reranking: Reevaluar resultados posteriormente.
Paso a paso: configurar RAG
1. Iniciar Open WebUI
Open WebUI debe estar ejecutándose y conectado a Ollama. Consulta BotServ.de Open WebUI.
2. Subir documento
En la interfaz de chat, puedes subir documentos mediante el icono de clip o en la sección Knowledge. Se admiten PDF, TXT, Markdown y otros formatos.
3. Crear una colección de Knowledge
En Admin > Knowledge puedes crear colecciones. Los documentos se asignan a una colección. Puedes crear colecciones por equipos, temas o proyectos.
4. Elegir el modelo de embedding
En la configuración, selecciona el modelo de embedding. Para alemán, bge-m3 o nomic-embed-text funcionan bien. El modelo se carga a través de Ollama.
5. Chatear con documentos
En el chat, elige la colección de Knowledge. Las preguntas se responderán basándose en los documentos. Las fuentes se mostrarán normalmente.
Configuraciones importantes
- Chunk Size: Estándar 1000 a 1500 caracteres. Ajusta según el documento.
- Chunk Overlap: Estándar 50 a 200 caracteres. Evita pérdida de contexto en los cortes.
- Top-K: Más chunks proporcionan más contexto, pero pueden sobrecargar el prompt.
- RAG Template: Controla cómo se incrusta el contexto en el prompt.
- Citations: Habilita citas de fuentes.
Problemas comunes
- Modelo de embedding incorrecto: Los modelos en inglés funcionan mal para documentos en español.
- Chunks muy grandes: Respuestas lentas y pérdida de detalles.
- Chunks muy pequeños: Se pierde contexto.
- Documentos desactualizados: Los archivos subidos deben actualizarse regularmente.
- Sin citas de fuentes: Revisa la configuración.
- Ollama no disponible: El modelo de embedding no se puede cargar.
Enlaces e información adicional
- BotServ.de Open WebUI
- BotServ.de Modelos de embedding
- BotServ.de RAG local
- BotServ.de Documentos y PDF
- Open WebUI Docs
FAQ: RAG en Open WebUI
¿Qué formatos de archivo admite Open WebUI? PDF, TXT, Markdown, DOCX y otros formatos de texto comunes.
¿Puedo subir múltiples documentos a la vez? Sí, mediante Knowledge Collections o arrastrar y soltar en el chat.
¿Qué tamaño máximo pueden tener los documentos? Depende del almacenamiento y del modelo de embedding. Los archivos grandes se dividen automáticamente en chunks.
¿Dónde se almacenan los embeddings? Localmente en Open WebUI, por defecto en Chroma.
¿Puedo restringir RAG a ciertos usuarios? Sí, mediante Knowledge Collections y permisos.
Fuentes y lecturas adicionales
- Open WebUI: https://openwebui.com/
- Open WebUI Docs: https://docs.openwebui.com/
- BGE: https://huggingface.co/BAAI
Resumen: configurar RAG en Open WebUI
Open WebUI hace RAG accesible para principiantes. Con subir documentos, elegir un modelo de embedding y crear una colección de Knowledge, es suficiente para acceder a tus contenidos basándote en preguntas. Lo importante es usar buenos modelos de embedding, chunking adecuado, citas de fuentes y mantenimiento regular de los documentos. Para escenarios de producción, vale la pena optimizar los parámetros de RAG.