Gestionar modelos en Ollama

Introducción

Una vez instalado Ollama, el siguiente paso es descargar modelos, organizarlos y crear variantes personalizadas según tus necesidades. La gestión desde la línea de comandos es rápida y directa. En este artículo aprenderás los comandos esenciales y cómo crear tus propios modelfiles.

Gestionar modelos en Ollama: Lo esencial

Ollama almacena todos los modelos en ~/.ollama/models. Con ollama pull nombre descargas un modelo. Con ollama list ves qué modelos tienes instalados. Con ollama rm nombre los eliminas. Si quieres usar un modelo con un prompt del sistema personalizado o una temperatura específica, puedes crear tu propio modelfile.

Conceptos y componentes clave

Término	Función
pull	Descarga un modelo desde la biblioteca de Ollama
list	Muestra todos los modelos instalados localmente
rm	Elimina un modelo del sistema local
run	Inicia un modelo para chatear
Modelfile	Archivo que define cuantización, prompt del sistema y parámetros

Relevancia práctica

Cuándo necesitas gestionar modelos

Cuando trabajas con varios modelos, el consumo de almacenamiento crece rápidamente. Algunos modelos los pruebas una sola vez y luego no los necesitas. Otros quieres ofrecerlos con prompts del sistema ajustados, por ejemplo para atención al cliente, programación o redacción creativa. Una buena gestión mantiene el orden y libera espacio de almacenamiento.

Comandos principales

# Descargar un modelo
ollama pull llama3

# Ver todos los modelos locales
ollama list

# Iniciar un modelo
ollama run llama3

# Ver los procesos en ejecución
ollama ps

# Eliminar un modelo
ollama rm llama3

El comando ollama ps es especialmente útil para saber qué modelos están en memoria y cuántos recursos consumen.

Definir tu propio modelo

Un modelfile establece parámetros como temperatura, prompt del sistema y cuantización. Aquí te muestro un ejemplo sencillo:

FROM llama3

SYSTEM "Eres un asistente útil para usuarios en español. Responde con precisión en español."

PARAMETER temperature 0.7

Guarda esto como MiModelo y crea el modelo así:

ollama create mimodelo -f MiModelo

Después lo inicias con ollama run mimodelo.

Consideraciones de hardware, costos y seguridad

Cada modelo descargado ocupa espacio en disco. Con varios modelos es fácil alcanzar decenas de gigabytes. Limpiar regularmente con ollama rm te ayuda a ahorrar espacio. No hay costos asociados, ya que Ollama y la mayoría de modelos de código abierto son gratuitos. En cuanto a seguridad, todos los modelos y configuraciones permanecen en tu máquina local.

Más información sobre IA

• ollama pull descarga modelos, ollama rm los elimina.
• ollama list muestra los instalados, ollama ps los que se están ejecutando ahora.
• Los modelfiles permiten crear configuraciones propias con prompt del sistema y parámetros.
• Eliminar regularmente modelos que no usas libera espacio de almacenamiento.

Más sobre instalación en Instalar Ollama y sobre la API en Usar API de Ollama.

Preguntas frecuentes sobre gestión de modelos

¿Puedo tener varias versiones del mismo modelo?

Sí. Cada versión ocupa su propio espacio de almacenamiento. Puedes crearlas con modelfiles individuales.

¿Dónde se guardan los modelos en el disco?

Por defecto en ~/.ollama/models en Linux y macOS, o en el directorio de usuario de Ollama en Windows.

¿Cuánto espacio ocupa un modelo?

Un modelo cuantizado de 7B consume aproximadamente 4 a 5 GB, uno de 13B entre 8 y 9 GB, dependiendo del nivel de cuantización.

¿Puedo crear modelfiles a partir de archivos GGUF?

Sí. Usa FROM ./ruta/al/modelo.gguf en el modelfile e importa el archivo con ollama create.

Herramientas y referencias

Además de la CLI de Ollama, existen herramientas gráficas como Open WebUI o LM Studio que facilitan la gestión ordenada de modelos. Para flujos de trabajo automatizados, resultan prácticos los comandos CLI y la API.

Fuentes

• Gestión de modelos en Ollama
• Referencia de Modelfile de Ollama