Buscador de modelos para IA local

Qué cubre este artículo

• Cómo encontrar el modelo local adecuado para tu caso de uso.
• Qué criterios son importantes al elegir.
• Qué categorías existen: texto, código, visión, audio y más.
• Cómo filtrar modelos por hardware, licencia y tarea.
• Herramientas y listas conocidas para la búsqueda de modelos.

Introducción: Buscador de modelos para IA local

El número de modelos de IA de código abierto crece cada día. Para los principiantes resulta difícil encontrar el modelo correcto para su caso de uso. Un buscador de modelos ayuda a filtrar modelos por tarea, hardware, licencia e idioma. Ahorras tiempo y evitas descargar modelos que no funcionarán en tu equipo.

Este artículo muestra en qué debes fijarte al seleccionar un modelo y qué herramientas y listas tienes disponibles.

Términos importantes

• Tamaño de parámetros: número de pesos del modelo, por ejemplo 7B o 70B.
• Cuantización: reducción del número de bits para hacer modelos más pequeños.
• Longitud de contexto: número máximo de tokens que el modelo puede procesar.
• Llamadas de herramientas: capacidad para generar llamadas a funciones estructuradas.
• Licencia: uso permitido, por ejemplo Apache 2.0 o Llama 3 Community License.
• VRAM: memoria de video de la GPU.
• MoE: Mixture-of-Experts, arquitectura eficiente en memoria.

Criterios para elegir un modelo

1. Caso de uso

Piensa primero en para qué usarás el modelo:

• Conversación general
• Código
• Matemáticas y razonamiento
• Visión y análisis de imágenes
• Audio y voz
• Incrustaciones y reranking

2. Hardware

Verifica tu RAM y VRAM:

• Modelos 7B en 4 bits: aproximadamente 4 a 6 GB.
• Modelos 13B en 4 bits: aproximadamente 8 a 10 GB.
• Modelos 70B en 4 bits: 40 GB o más.
• Los modelos MoE requieren más memoria que los modelos densos del mismo tamaño.

3. Idioma

• Modelos en alemán o multilingües
• Inglés para código y literatura técnica
• Modelos especializados para idiomas específicos

4. Licencia

• Apache 2.0: muy permisiva.
• MIT: también abierta.
• Llama 3 Community License: uso comercial permitido con restricciones.
• Verifica el uso comercial.

5. Longitud de contexto

Para documentos largos o proyectos de código necesitas ventanas de contexto amplias. 8K es suficiente para chat, 32K a 128K para análisis de documentos.

Categorías de modelos

Modelos de texto

Versátiles para conversación, resumen y generación de texto. Ejemplos: Llama 3.1, Qwen 2.5, Mistral 7B, Gemma.

Modelos de código

Optimizados para generación de código y depuración. Ejemplos: Qwen 2.5 Coder, CodeLlama, Codestral, DeepSeek-Coder.

Modelos de razonamiento

Para tareas matemáticas y lógicas. Ejemplos: DeepSeek-R1, Mathstral, Qwen QWQ.

Modelos de visión

Entienden imágenes y las combinan con texto. Ejemplos: LLaVA, Qwen-VL, BakLLaVA.

Conversión de voz a texto y texto a voz

Convierten voz en texto y viceversa. Ejemplos: Whisper, faster-whisper, Piper, MeloTTS.

Modelos de incrustación y reranking

Para RAG y búsqueda semántica. Ejemplos: BGE, nomic-embed-text, BAAI.

Buscadores y listas de modelos conocidos

• Ollama Library: https://ollama.com/library
• Hugging Face: https://huggingface.co/models
• LMSYS Arena: benchmarks y rankings.
• Artificial Analysis: comparación de modelos.
• LocalLLaMA Subreddit: recomendaciones de la comunidad.
• TheBloke en Hugging Face: cuantizaciones en GGUF.

Árbol de decisión

1. Elige tu caso de uso
2. Encuentra la categoría adecuada
3. Verifica el hardware (RAM/VRAM)
4. Determina la longitud de contexto necesaria
5. Comprueba la licencia
6. Prueba el modelo en 4 bits
7. Mide la calidad en tu propio conjunto de datos

Trampas comunes

• Mirar solo benchmarks: la aplicación real puede ser diferente.
• Elegir un modelo demasiado grande: no funcionará en tu hardware.
• Ignorar la licencia: el uso comercial puede estar prohibido.
• Subestimar la longitud de contexto: documentos largos requieren más contexto.
• Olvidar llamadas de herramientas: no todos los modelos soportan llamadas a funciones.

Enlaces y recursos adicionales

• BotServ.de Modelos de IA local
• BotServ.de Requisitos de hardware
• BotServ.de Fundamentos de cuantización
• BotServ.de Configurar Ollama

Preguntas frecuentes: Buscador de modelos

¿Cómo encuentro rápidamente un modelo adecuado? Comienza con Ollama Library, filtra por categoría y prueba variantes de 7B u 8B.

¿Cuál es el mejor tamaño para empezar? 7B a 8B en 4 bits funcionan en muchos sistemas de consumo y proporcionan resultados útiles.

¿Siempre debo usar el modelo más grande? No. Los modelos más grandes son más lentos y requieren más memoria. Para muchas tareas, un modelo más pequeño es suficiente.

¿Son los modelos MoE mejores? Pueden ser más eficientes, pero a menudo requieren más espacio. Para principiantes, los modelos densos son más simples.

¿Cómo pruebo un modelo? Descárgalo con Ollama e intenta prompts típicos de tu caso de uso.

Fuentes y lecturas adicionales

• Ollama Library: https://ollama.com/library
• Hugging Face Models: https://huggingface.co/models
• LMSYS Chatbot Arena: https://chat.lmsys.org/

Resumen: Buscador de modelos para IA local

El buscador de modelos correcto ahorra tiempo y recursos. Los criterios más importantes son el caso de uso, el hardware, el idioma, la licencia y la longitud de contexto. Para principiantes, los modelos de 7B a 8B en 4 bits son adecuados. Existen modelos especializados de código, razonamiento y visión para cada tarea. Quien prueba siempre con sus propios datos encuentra el modelo adecuado más rápido que usando solo benchmarks.