Software de IA local
Qué cubre este artículo
- Qué software ejecuta IA local.
- Para qué se utiliza Ollama.
- Enlaces a artículos de software.
Introducción
La IA local necesita un entorno de ejecución adecuado. Ollama es una de las soluciones más sencillas para descargar modelos, iniciarlos e interactuar con ellos a través de una API. En esta sección encontrarás guías para trabajar con Ollama.
Contenido
- Fundamentos de Ollama - Instalación, API y gestión de modelos en la sección de Ollama.
- LM Studio - Interfaz gráfica para modelos locales sin necesidad de terminal.
- Open WebUI - Interfaz similar a ChatGPT para Ollama con RAG y soporte multiusuario.
- llama.cpp - Motor de inferencia C++ que impulsa Ollama y LM Studio.
- vLLM - Inferencia de alto rendimiento para servidores y producción.
- KoboldCpp - Juego de rol, narrativa y textos creativos en local.
- AnythingLLM - App de escritorio RAG: chatea con documentos sin código.
- Jan - Cliente de IA sin conexión para escritorio, simple y respetuoso con la privacidad.
Temas importantes
| Tema | Importancia |
|---|---|
| Instalación | Configurar Ollama en diferentes sistemas |
| API | Interactuar con el modelo a través de solicitudes HTTP |
| Gestión de modelos | Descargar, listar y eliminar modelos |
FAQ - Preguntas frecuentes
¿Es Ollama gratuito?
Sí, Ollama es de código abierto y gratuito. Los únicos costos provienen de la electricidad y el hardware.
¿Hay alternativas a Ollama?
Sí, LM Studio, llama.cpp y vLLM son alternativas comunes.